尽管诈骗有多种形式，但本质上工作方式是一样的：骗子冒充值得信任的人——孩子、爱人或朋友，并说服受害者给他们汇款手机克隆。但是，AI——特别是2023年爆火的生成性人工智能生成的语音使这一诡计更加令人信服。近日，外国受害者们报告说，当听到“亲人”在电话那头呼救时，他们的第一反应是陷入了“发自内心的恐惧”。
“手机克隆我们坚信自己是在和孙子说话”
在加拿大萨斯喀彻温省，73岁的卡德和她75岁的丈夫格雷斯冲进银行，取出了3000加元（折合人民币15286元），这是他们能从该银行取款的最高限额手机克隆。他们马不停蹄地去第二家银行，想要取出更多的钱。这时，一位银行经理询问这对老人发生了什么。老人说，孙子布兰登在监狱里，需要现金保释，“我们现在必须帮助他。”得知声音是伪造的，还有人也受骗，他们才意识到自己上当了。“我们陷进去了，我们坚信自己是在和布兰登说话。”
手机克隆，我撞死了一名美国外交官！”骗子盯上AI技术，克隆声音实施诈骗" >
↑卡德
这对老人幸运地遇到了一个对最新骗局有了解的银行经理手机克隆。
但对于本杰明·佩金来说，警醒为时已晚，他年迈的父母在一场语音诈骗中损失了数千美元手机克隆。他的父母先是接到一个“律师”的电话，说他们的儿子在一场车祸中撞死了一名美国外交官。接着，“律师”让他们的“儿子”接电话，“儿子”说他爱他们，感激他们，需要钱。
佩金的父母后来告诉他，这个电话似乎很不寻常，但他们无法摆脱这种感觉：我真的在和“儿子”说话手机克隆。在恐慌的状态下，他的父母冲到几家银行取现金，并通过比特币终端把钱寄给了“律师”。当天晚上，真正的佩金打电话时，他的父母才发现被骗了。
只需30秒原声就能实现声音克隆
据报道，这类骗局已在美国兴起手机克隆。2022年，“冒名顶替”类诈骗是美国第二大流行的诈骗活动。据美国联邦贸易委员会统计，有超过3.6万份报告称，人们被冒充朋友和家人的骗子诈骗。其中，超过5100起是电话诈骗，总损失超过1100万美元。
而今年人工智能的进步，导致识破这类骗局的难度提升到一个可怕的、新的高度手机克隆。近期，生成式人工智能（generative artificial intelligence）的进步，刺激了一批公司发布聊天机器人，这些聊天机器人支持基于输入的数据创建文本、图像或声音。骗子利用一系列廉价的在线生成性工具，仅需要几句话的音频样本，就能复制出声音。
美国专家表示，美国联邦监管机构、执法部门和法院都没有足够的能力来控制这一迅速发展的骗局手机克隆。美国联邦贸易委员会营销实践部门助理主任威尔麦克森表示，追踪语音诈骗者可能“特别困难”，因为他们可能在世界任何地方使用手机。美国身份盗窃资源中心的伊娃·贝拉斯克斯说，执法部门很难追踪到“声音克隆”诈骗犯。
加州大学伯克利分校的数字取证学教授哈尼·法里德说：“这太可怕了手机克隆。这是一场完美的风暴……两年前，甚至一年前，你需要大量的音频来克隆一个人的声音。现在，如果你录制了一个短视频，你的声音在里面出现30秒，人们就可以克隆你的声音。”法里德认为，如果人工智能公司制造的产品造成伤害，法院应该追究这些公司的责任。
红星新闻记者 王雅林 实习记者 邓纾怡
责编 官莉 编辑 彭疆
