人工智能软件不光可以模拟他人的声音、语调，甚至还能模拟带德国口音的英语。 图据英国verdict
若是你的老板打德律让你干事，你会不加差别地照办吗？读完这个故事，或许你会多一个心眼儿。
据《每日邮报》9月6日报道，本年3月，一名诈骗犯行使AI语音模拟软件假装公司大老板，成功让一家英国能源公司的CEO相信本身正在与德国母公司的老板通德律。
在德律中，诈骗犯要求这位CEO立刻将22万欧元转到匈牙利一家供给商的银行账户，以避免缴纳“滞纳金”，并将转账信息以邮件形式发送，而这位高管毫不犹疑地照做了。 最终，这22万欧元一去不复返……
近日，为这家能源公司承保的裕利安宜公司（Euler Hermes）向媒体透露了此案细节。据报道，此案被认为是全球首例涉及人工智能的诈骗案，这再度激发了人们对人工智能软件被用于犯罪的担忧。
德国口音的英语也能模拟
据《..》报道，这位CEO后来在一封电子邮件中指出，这个要求相当“新鲜”，但“大老板”的德国口音非常真切，他感觉本身别无选择，只能遵守。
这家英国能源公司的承保人裕利安宜公司说，这位公司高管其时认为本身是在和他的德国老板讲话，于是按照要求在一个小时内电汇了这笔钱，为的是匡助公司避免拖欠罚款。
这家保险公司透露：“骗子使用的某种人工智能软件，不光可以模拟他人的声音、语调，甚至还能模拟带德国口音的英语。”
据悉，骗子一共打了三次德律。第二通德律是在22万欧元汇出后，对方打德律敷陈这位高管，母公司会转移资金了偿英国公司的费用。
此案激发了人们对人工智能软件被用于犯罪的担忧。 图据《每日邮报》
而在当天晚些时候，当这位高管接到第三通德律，对方故技重施假装德国老板要求第二次付款时，他才意识到纰谬劲。因为对方承诺的转账了偿资金并没有收到，且此次的德律号码显露来自奥地利，出于猜忌，他没有支出第二笔款子，而是直接致电德国老板本人，究竟发现本身受愚。
“（假的）‘约翰内斯’甚至在我正与真正的约翰内斯通话时，要求跟我通话！”这位CEO在一封电子邮件中说道。
然而，裕利安宜公司透露，等发现实情时，第一笔汇出22万欧元已经由匈牙利和墨西哥的账户被转移涣散到了多个账户，今朝还没有称查到嫌疑人，这笔钱已无法找回。最终，保险公司承诺将承担悉数的损失费用。
一些研究人员透露，这是世界上首次公开报道的人工智能诈骗案。
“深度伪造”AI手艺非专业罪犯也能用
据《每日邮报》报道，这种AI语音模拟手艺的工作道理是将一小我的声音分化成音节或声音，然后再进行从新分列，再形成新的句子。尽管该系统仍处于早期斥地阶段有不少瑕疵，但若是犯罪者假装在汽车或忙碌的情况中，就能够将令人生疑的处所袒护曩昔。
一些初创企业Lyrebird等规模较小的公司，正在起劲使这些对象能够更普遍地免费、无限制地使用。好比，Lyrebird许可任何人经由上传一分钟的语音片段建立一个“声音化身”，它被称为“世界上最真实的人造声音。”
但这种AI合成音频以及AI合成视频，即所谓的“深度伪造（deepfakes）手艺”，已加剧了人们对新生手艺侵蚀公家信任、付与犯罪分子权力、让传统的通信买卖生意、家庭德律，甚至是总统竞选运动更轻易受到电脑操作的担忧。
“犯罪分子会行使任何能让他们以最低成本达到目的的对象，”斯坦福大学收集政策中心研究员、白宫收集平安政策高级主管安德鲁·格罗托说道。他指出：“这项在十年前听起来很神奇的手艺，如今任何一个有缔造力的非专业罪犯都能够使用。”
对于外界的反攻和担忧，Lyrebird的一名谈话人在一份声明中写道：“想象一下，就算我们不发布这项手艺，其他人也会斥地它，谁知道他们的设法是否会和我们一般朴拙。”
Lyrebird这类斥地这项手艺的公司络续强调着它的积极用途，称它能够匡助主动化德律系统加倍人道化，并匡助哑巴“从新说话”。然而，最新申报的这起事件，势必将激发人们对不受监管的“深度伪造”手艺被犯罪分子行使，导致有针对性的黑客冲击和收集犯罪的担忧。
收集平安公司Symatec的研究人员称，他们发现了三起雷同的案例，高管被使用人工智能的骗子要求向另一个账户汇款。该公司透露，个中一个案例的损失总计达数百万美元。
行使“深度伪造”手艺建造的美国前总统奥巴马的子虚视频。图据美联社
显然，不少大型科技公司已经意识到了这项手艺带来的风险。就在9月5日，Facebook和微软公司提议了一项新的活动，将袭击那些看起来极其真切的“深度伪造”视频。已投入1000万美元成立基金，专门用于建立一个系统，行使一个“伪造数据库”来检测这些“深度伪造”的产物。
“这项挑战的方针是缔造一种手艺，让每小我都能更好地检测出什么时候人工智能被用来点窜视频，误导受众，”Facebook首席手艺官迈克·施罗德弗透露。（红星新闻记者 王雅林 徐缓 编译报道）
