3500万美元的深度伪造第一大案：高管语音被克隆

业界对非法使用人工智能深度伪造技术的担忧成为现实。近日据迪拜调查人员称，人工智能语音克隆被用于阿联酋的一起金额高达3500万美元的大劫案。

据福布斯报道，2020年初，阿拉伯联合酋长国的一位银行经理接到了一个他认得声音的人打来的电话——他以前曾交谈过的一家公司的董事。这位董事带来了好消息：他的公司即将进行收购，因此他需要银行批准一个高达3500万美元的转账，还聘请了一位名叫Martin Zelner的律师来协调程序，银行经理可以在收件箱中看到这位董事和Zelner的电子邮件，确认转账金额和收款账户。银行经理认为一切看起来都是合法的，于是开始进行转账。

这位银行经理并不知道自己已经卷入了一个精心设计的骗局，诈骗分子使用“Deep Voice”深度伪造技术克隆了银行客户企业高管的语音，根据法庭文件，阿联酋银行曾寻求美国调查人员协助追查转入Centennial银行美国账户的40万美元被盗资金。阿联酋银行认为这是一个精心策划的金融诈骗计划，涉及至少17个人，窃取的资金被转移到全球各地的银行账户。

法庭文件中没有提供更多细节，也没有提供受害者的姓名。负责调查的迪拜检察院在发布时尚未回应媒体的置评请求。

该事件是已知的第二起使用深度伪造技术克隆语音进行金融欺诈的案例，但涉案金额比第一起案件要大得多，此前2019年华尔街日报曾报道欺诈者用深度伪造语音技术冒充英国一家能源公司的首席执行官诈骗了24万美元。

阿联酋的案例再次表明，这种基于深度伪造技术的高科技骗局的破坏性有多大。

“音频和视觉深度造假代表了21世纪技术的最新发展，但它们也具有潜在的难以置信的危险，对数据、金融和企业构成巨大威胁。”英国多塞特警察局前警官，现任ESET网络安全专家的杰克摩尔说：“我们目前正处于此类攻击的风口浪尖，不法分子已经开始使用最新技术来收割哪些对深度伪造技术一无所知的攻击目标。”

“深度伪造音频比伪造视频更容易，这意味着此类攻击的数量会快速增长，如果没有这种新型攻击媒介的教育和意识，以及更好的身份验证方法，更多的企业可能会成为受害者。”

语音克隆过去只是在《碟中谍》系列电影中出现的技术，如今已经成了唾手可得的攻击工具。从伦敦的Aflorithmic到乌克兰的Respeecher和加拿大的Resemble.AI，各种研究人工智能语音技术的创业公司如雨后春笋般冒出。

最近几个月，这项技术引起了新的轰动，例如已故的安东尼·布尔丹(Anthony Bourdain)的一部生活纪录片使用了其本人的合成语音配音。与此同时，意识到人工智能被恶意使用的可能性，少数公司，例如市值9亿美元的安全公司Pindrop，已经声称他们可以检测合成语音，从而防止欺诈。

如果您（尤其是企业高管）的讲话录音可以在线获取，无论是在社交媒体、视频网站还是在公司网站上，那么很可能在您不知情的情况下被不法分子用深度伪造技术克隆并滥用。