据金十援引日本共同社报道，专家对人工智能聊天软件“ChatGPT”进行调查发现，若输入装成开发者的指令，就会生成能用于网络犯罪的电脑病毒。通常情况下会拒绝生成病毒，但输入特殊指令则会同意生成。让测试用的电脑感染该病毒后，内部数据被加密，并显示了索要赎金的勒索信。AI 开发企业表示已采取措施，识别犯罪和歧视相关提问及指令并避免助长此类行为，但调查发现可以轻松规避。