深度伪造视频技术太逼真，马斯克竟成骗子帮凶，82 岁老人因此上当

深度伪造视频技术太逼真，马斯克竟成骗子帮凶，82 岁老人因此上当

在这段深度伪造视频中，马斯克的嘴部动作通过唇形同步技术进行编辑，该技术可以调整一个人说话的方式。骗子还使用语音克隆工具添加人工智能声音，该工具可以从样本中复制任何他们想要的声音。因此，最终的视频对普通互联网用户来说相当有说服力。

一些人因此受骗，82岁的退休老人史蒂夫就是一个典型案例。据外媒报道，去年年底，这位82岁的退休老人观看了一则视频广告。视频中，马斯克支持一项承诺快速回报的激进投资机会。唇形和声音高度一致，还融入了马斯克标志性的南非口音，看上去极其真实。于是他联系了广告背后一家名为Magna-FX的外汇公司，并开立了一个248美元的账户。经过数周的一系列交易，他的退休账户被掏空，最终他投资了69万多美元（约合495万人民币），所有的钱都被卷走了。

据非营利性消费者权益组织美国商业改进局的报告，一名德克萨斯人称，2023年2月，他在一段所谓的“直播”视频中看到马斯克讲话后，损失了价值3.6万美元的比特币。他称，“我发送了比特币，之后就再也没有收到任何东西。”

负责监测和检测“深度造假”的公司在分析了2000多个深度造假视频后发现，马斯克是迄今为止此类视频中最常见的“AI形象”。具体来说，自去年年底以来，“AI马斯克”已经出现在近四分之一的“深度造假”骗局中。在与加密货币相关的“深度造假”视频中，他的出现频率高达90%。

研究加密货币社区的专家表示，马斯克在全球拥有独特的粉丝群体，包括保守派、反建制团体和加密货币爱好者，他们往往被另类赚钱方式所吸引，这使他们成为数字骗子的完美目标。此外，这个群体中的老一代互联网用户更容易成为骗子的目标，因为他们对加密货币、人工智能和马斯克非常熟悉，但往往警惕性较低。

除了马斯克之外，“奥马哈先知”巴菲特、亚马逊创始人杰夫·贝佐斯等也是经常出现在此类诈骗视频中的名人。

AI技术成为诈骗工具

他是受灾最严重的地区

外媒报道称，目前很难量化网络上流传着多少“深度伪造”视频，但在广告库中搜索这些骗局的常用关键词，能找到数十万条广告，其中不少广告都包含“深度伪造”视频。

尽管它已经删除了许多违反其政策的视频并关闭了一些账户，但其他视频仍然在网上流传，而且似乎每天都会出现更多视频。不仅如此，互联网上还充斥着这些假视频，它们经常使用“直播”标签。但事实上，这些视频是预先录制的“深度伪造”视频。

该公司在一份声明中表示，仅今年第一季度，它就删除了超过 1570 万个频道和超过 820 万个视频，其中大多数是因为违反了反垃圾邮件政策而被删除的。

此类“深度造假”广告的盛行还引发了一位澳大利亚亿万富翁的民事诉讼，指控 母公司 Meta 在运营广告业务时存在疏忽。他认为 的广告业务诱导“无辜用户进行错误投资”。Meta 表示正在训练自动检测系统以捕捉其平台上的欺诈行为，但也提到资金充足的欺诈者会不断改变策略以逃避检测。 表示其政策禁止欺诈和篡改视频，并在今年 3 月要求创作者披露何时使用 AI 创作真实内容。

事实上，数字欺诈并不是什么新鲜事，但自去年AI工具开源以来，又出现了新一波“深度伪造”视频。

今年早些时候，美国联邦贸易委员会（FTC）和联邦调查局也警告称，人工智能驱动的网络犯罪和深度伪造正在增加。联邦调查局表示，“犯罪分子正在利用人工智能使网络攻击和其他犯罪活动更有效、更难以发现。”

“深度造假”视频并非十全十美，部分视频甚至连“AI马斯克”的嘴形都对不上。但有专家表示，对于部分骗子的目标群体来说，他们制作的视频似乎足够令人信服，而且在不断改进。

此外，一些骗局经常宣传可以产生可观投资回报的虚假人工智能软件。骗子利用这一点，诱使目标受众在开始时只投资少量资金（约 250 美元）。之后，骗子继续声称投资价值会增加，人们往往会慢慢被诱惑投入更多资金。

在提交给美国商业改进局（ ）的一份报告中，这位被骗走毕生积蓄的男子说：“此时此刻，我愿意接受所有的指责和嘲笑，作为对我轻信的惩罚。”

他说，他目前靠着一个较小的退休账户和养老金维持生计，这些钱他没有向骗子透露，他原本计划用这些积蓄去世界各地旅行。他已经向当地警方报案，但案件进展缓慢。“因为到处都有诈骗案件，所以我的案子被放在了排队等候处理中，”他说。“我没抱太大希望。”

记者|蔡鼎

编辑|王跃龙 高寒 杜恒峰

校对 | 陆祥勇

｜原文来自每日经济新闻｜

未经允许，禁止转载、摘编、抄袭、镜像