电信诈骗的核武器:实时深度伪造工具

近年来,电信诈骗手段不断升级,而实时深度伪造技术的飞速发展,正成为诈骗分子手中的“核武器”。

根据长期监测,深度伪造技术在以诈骗为导向的Telegram频道中快速传播,技术水平从最初的粗糙不堪到如今足以以假乱真。这种技术不仅被用于绕过身份验证,还在浪漫诈骗(杀猪盘)、税务欺诈等场景中大行其道,给网络安全领域敲响了警钟。

深度伪造的进化:从玩具到武器

早期的深度伪造视频效果并不理想,诈骗分子曾尝试通过AI技术让静态照片“动起来”,以绕过加密货币交易所的身份验证(KYC),但这些视频动作僵硬、表情不自然,效果难以令人信服。

此外,一些诈骗分子在Telegram上以数百美元的价格出售所谓能绕过KYC的工具,但这些广告本身往往就是骗局。还有人宣称可以提供工具,让手机用户将摄像头输入替换为手机图库中的深度伪造视频,从而通过要求自拍验证的服务。

然而,技术的进步令人瞠目结舌。近期,诈骗分子展示出惊人的能力:如今他们可以在WhatsApp、Skype、Zoom等平台的视频通话中,长时间维持逼真的深度伪造形象。

404 Media报道了一段视频,一名自称“FB”(出于安全考虑隐去真名和链接)的诈骗分子在WhatsApp视频通话中化身英俊男子,与一名美国老年女性调情。视频中,他用迷人的微笑说:“我爱你的笑容。”而实际上,这一切都是通过精心设计的深度伪造技术实现的。

镜头随后转向诈骗分子的操作台:一台笔记本电脑、一个大屏幕,运行着多种伪造软件,环形灯为画面提供清晰光线。

技术揭秘:实时深度伪造的工具链

FB通过YouTube和Instagram等平台,教授其他诈骗分子如何制作实时深度伪造视频。他声称这些内容仅用于“恶作剧和教育”,但其Telegram频道简介却透露,他已有七年诈骗经验。他的YouTube视频吸引了来自乌克兰、加纳、喀麦隆等地的观众。

FB介绍的实时深度伪造简易方法之一,使用的都是一些常见工具:

  • 硬件:手机、笔记本电脑、环形灯(用于提升伪造视频的细节清晰度)。
  • 软件:屏幕镜像软件,用于将手机画面传输到电脑。
  • OBS直播工具,设置虚拟摄像头。
  • NDI工具,路由视频流。
  • 网络上流行的AI换脸应用(例如Amigo AI),允许用户上传任意照片生成伪造面孔。

另一种方法使用名为Magicam的人脸交换工具,同样支持上传照片生成伪造形象。Magicam的公司代表在接受采访时表示,他们未察觉该工具被用于欺诈活动,但承认目前缺乏内置机制来检测或防止恶意使用,并表示正在探索解决方案以平衡技术保护和用户隐私。

更高级的技术则依赖DFL等高性能工具,这些工具需要配备现代GPU的强大笔记本电脑,以支持实时深度伪造。随着更高质量、更低成本的工具不断涌现,诈骗分子迅速从一个应用切换到另一个应用。

此外,诈骗分子还使用语音转换器(集成在伪造应用中或通过独立硬件实现),以改变声音,进一步伪装身份。有了这些工具,诈骗分子可以在视频通话中伪装成任何人,实施浪漫诈骗或绕过KYC验证。

应用场景:从浪漫诈骗到身份盗窃

实时深度伪造技术的应用范围令人担忧。FB坦言,目前的深度伪造技术在浪漫诈骗中表现尤佳,但在绕过KYC验证方面尚未完全成熟。然而,多个AI和网络安全研究人员指出,诈骗分子已开始利用实时深度伪造攻击身份验证系统,并取得一定成功。

乔治亚州立大学教授、SentiLink欺诈洞察负责人David Maimon透露,诈骗分子通过ChatGPT生成全新面孔,将其叠加到驾驶执照上,然后用伪造身份申请开立银行账户。此外,一些诈骗分子实施税务欺诈,通过提交受害者的税务申报表骗取IRS退税。Maimon表示,当系统要求视频验证“真人”身份时,诈骗分子已能通过深度伪造成功应对。他展示了一段视频,显示深度伪造成功通过了CashApp的身份验证流程。过去一年,此类欺诈尝试的频率显著上升。

Reality Defender是一家为企业提供深度伪造检测产品的公司,其发言人表示,近几个月客户对与Zoom、Teams等视频会议平台整合以及KYC验证的需求激增。该公司确认,非洲、新加坡、朝鲜等地均出现了实时深度伪造问题。

监管与应对:技术与隐私的博弈

深度伪造技术的滥用对现有网络安全体系构成了严峻挑战。Magicam等工具开发者表示,他们正在探索技术解决方案以防止恶意使用,但需要在保护技术和尊重用户隐私之间找到平衡。然而,Amigo AI等其他工具开发者则未对此问题作出回应。

与此同时,FB继续在网络上分享伪造技巧,其Telegram简介宣称“我在这里打造百万富翁”。从2023年末到2025年,他发布的深度伪造内容记录了技术的快速进步:制作过程越来越简单,伪造效果越来越逼真。

未来隐忧:电诈核武器的扩散

实时深度伪造技术正以惊人速度扩散,成为电信诈骗的“核武器”。从浪漫诈骗到身份盗窃,再到税务欺诈,这项技术为犯罪分子提供了前所未有的伪装能力。尽管部分企业和研究人员已开始采取行动,但技术进步的速度远超监管和防御措施的步伐。

GoUpSec人工智能安全专家FunnyG建议:

企业和平台需加强身份验证系统的抗伪造能力,例如引入更复杂的活体检测技术。同时,公众也需提高警惕,识别视频通话中的异常信号,例如不自然的语音或表情。家庭成员(尤其是异地分布的情况)需要共同记忆一个“安全词”用于识别假冒家庭成员的AI诈骗视频,该安全词不得以数字形式存储或者在聊天软件中分享,并且需要定期巩固和演练

前一篇谨防黑客勒索 | 网络安全意识宣贯必不可少
后一篇2025年数据安全十大趋势