Cheerleader shaking blue and white pom poms
clsgraphics via Getty Images

虽然 deepfake 这项技术让人看到了不小的潜力,但它同时也蕴藏着巨大的滥用风险。据 Philadelpha InquirerPatriot-News 报道,日前美国宾州一位名叫 Raffaela Spone 的母亲,因为利用 deepfake 诬陷女儿啦啦队竞争对手的行为而被捕。根据执法部门的说法,Spone 通过 AI 合成了受害者吸菸、饮酒、裸露的影像,并将其发送给了啦啦队的教练,希望让自己的女儿因此获益。

实际上,最早在去年七月时警方就接到了报案,一名受害者声称从匿名号码收到了骚扰讯息,在那之后又陆续出现了数个类似的案例。警方在对发讯的号码进行追踪后,找到了一个电话推销网站,然后通过 IP 地址顺藤摸瓜,最终确定了 Spone 的身份。在对其手机进行搜查之后,警方果然找到了和骚扰号码有关的证据。

目前 Spone 正面临网络骚扰儿童等相关指控,警方并未对她的女儿采取行动,因为他们相信其对母亲的行为并不知晓。这桩案子再度提醒了人们 deepfake 的潜在危害性,发展相应的甄别系统显然已成为一个非常重要的课题了。