据英国每日邮报报道，英国一名公司高管被一男子诈骗了24万美元(170万人民币)，该男子使用某种语音模拟软件，假装成该高管的老板要求汇款。据报道，此案被认为是全球首例人工智能诈骗案，或者将从新激发人们对人工智能软件被用于犯罪的担忧。
收集平安公司Symatec的研究人员称，他们发现了3起雷同的案例，都是高管被使用人工智能手艺的骗子通知，往另一个账户汇款。该公司透露，个中一个案例的损失总计达数百万美元。
人工智能让“目击为实”成为曩昔
近期人工智能可谓“闯祸”络续，除了AI电信诈骗，ZAO等行使AI进行视频换脸手艺的也激发了伟大争议。经由AI手艺，用户只要上传一张本身的正脸照，就能将片子片段中演员的脸换成本身的脸，从而在熟悉的影视作品中，与明星偶像同台“飙戏”。用户还能够将建造完成的视频分享到微博、同伙圈等社交..。一时间，同伙圈里被“换脸”视频刷屏。
ZAO的显现敏捷引来了公家的质疑与担忧。凭据“ZAO”的默认用户和谈，用户的面部识别特征等小我隐私信息可以被“ZAO”留存、点窜与再行使，也就意味着，用户在使用这个App时，已经将肖像资料与权力完全让渡出去。
除了激发公共对AI的焦虑，ZAO的推出也的确助长了一些违法犯罪的行为发生。据彭湃新闻报道近日，二手生意..闲鱼上显现了多位卖家经由AI换脸手艺建造出当红女明星的不雅观视频，进行售卖。一位雷同卖家给出的报价是：75元套餐中有40多位女明星上百部的AI换脸视频，99元套餐则可“永远外网旁观随意资源”。针对这一现象，阿里平安日前在官方微博上给出了回应，称已经在第一时间下架违规不雅观视频。
固然AI模拟语音、AI换脸等手艺在日前激发了一阵..，但这些手艺却并不是新颖事。早在2018年就有换脸App在国外显现，该App可生成的视频内容包罗恶搞美国总统特朗普，或是将本身的脸贴到好莱坞明星身上，与ZAO的功能雷同。这种做法也激发了外网的大量争议，固然行使App建造的视频被各大视频网站明令禁止，但AI换脸手艺却一向进化至今。
事实上，这些行使人工智能杀青的深度伪造手艺已经对社会平安造成了威胁。较量机科学家图雷克透露，这让我们对图片和录像都不信任了。Instagram总裁莫斯里也在接管采访时透露，今朝业界还没有大规模的数据或尺度对这些假视频进行检测。在人工智能残虐的时代，我们还能靠什么辨明真伪？
人工智能将来的成长今朝仍然难以判断
针对这一现象，学界、业界以及政策都在积极思虑对接应对这种对AI手艺的副感化。就在昨天，Facebook和微软(Microsoft)提议了一项新的活动，将袭击那些看起来极其真切的深度伪造视频。
不光是美国，我国也在积极索求若何准确指导人工智能向善。百度CEO李彦宏以及腾讯CEO马化腾都曾在公共场所透露人工智能需要监控和监视才能更好的成长。在本年的世界人工智能大会上，备受存眷的马云、马斯克的争执也在环绕人工智能将来的威胁。
除了科技巨头，监管部门也在积极制订关于人工智能的各项规章轨制。本年6月国度新一代人工智能治理专业..发布申报，提出成长“负责任的人工智能”。7月24日，《国度科技伦理..组建方案》被经由，凭据《国度科技伦理..组建方案》要求，组开国家科技伦理..。
然而，以BAT三巨头为代表的中国科技企业，应对人工智能高速成长所带来威胁的策略都仅仅停留在口头上，针对人工智能的监视今朝仍没有实际上的进展，中国科技企业在应对人工智能所带来的威胁方面所做的起劲远远不敷。此外，国度层面有关人工智能伦理的政策也方才起步，并未对人工智能行业起到实质性的监管感化，将来一段时间内行使人工智能的犯罪是否会迎来爆发尚且很难展望。
将来人工智能事实将成为壮大助力照样难以掌握的灾难，今朝依然难以判断。
