据极目新闻报道，其援引《每日邮报》5月13日消息，一家西班牙小电影公司（Peabody Films）收到英国著名男星“卷福”本尼迪克特·康伯巴奇电话，称对电影剧本感兴趣想合作，但该电影公司几次邀约见面，“康伯巴奇”都拒绝了，甚至还提出要该公司先给他打款20万英镑。该公司向“卷福”经济公司确认后才发现，这是一场AI骗局。据电影工作人员介绍，仅从语音电话看，100%相似度，他们全完相信对方就是“卷福”。今年早些时候，微软研究人员展示了一种文本转语音AI模型“VALL-E”，该模型只需3秒钟音频，就可以合成任何人的声音，保留说话者的情绪基调，并可以说出任何内容。AI专家阿列克谢·希特罗夫曾向媒体表示，AI生成的虚假图像和声音已经被广泛用于商业欺诈。网络安全公司迈克菲则发现，在美国、英国、法国、德国、日本、澳大利亚和印度，有10%的人曾被人工智能语音诈骗。