AI深度伪造技术将OnlyFans创作者变成网络诈骗的工具
犯罪分子越来越多地利用AI生成的深度伪造内容冒充OnlyFans创作者,诱骗粉丝为虚假的独家内容付款,随后便销声匿迹。
这些诈骗手段依赖于盗取的图片、克隆的声音以及虚假的社交媒体账号,导致粉丝和创作者本人都不得不应对由此引发的后果。
此类诈骗通常始于TikTok等平台,诈骗者会在这些平台上上传视频,这些视频由真实创作者的照片与AI生成的声音合成而成。
这些虚假账号会诱导观众通过Snapchat等应用的私信继续交流,并承诺只要付款,就能获得私密聊天或独家内容。
诈骗如何诱骗受害者上钩
该骗局遵循一种常见的“猫鱼”诈骗模式,犯罪分子假扮成真实的内容创作者以建立信任,随后才索要钱财。
受害者会被指示通过Cash App进行支付——这是一款专为个人间快速转账设计的点对点支付服务,而非用于商业交易。
由于交易几乎即时完成,一旦款项发出,追回资金就极其困难。
一旦收到款项,诈骗者便会拉黑受害者并弃用账号,既不留下任何内容,也无法追回资金。
Malwarebytes 将这种伎俩描述为一种“猫鱼”诈骗,即攻击者通过冒充他人在线上利用浪漫或性互动作为诱饵,以牟取经济利益。
报告称,
“‘他们会利用这一点,诱导观众在Snapchat等平台上进行私信交流。’
创作者也在为此付出代价
这些诈骗不仅影响了蒙受经济损失的粉丝。
身份被盗用的创作者不仅面临经济损失和声誉受损,在某些情况下还面临人身安全隐患。
Malwarebytes 指出,创作者不仅会失去来自真实订阅者的收入,还需应对那些误以为自己受骗的粉丝的投诉。
OnlyFans创作者杰西安娜·坎贝尔(Jessieanna Campbell)告诉《今日美国》,她经常收到愤怒的消息,发消息的人坚信她在收下他们的钱后就将他们拉黑了。
她说,
“我经常收到这样的消息,比如,‘嘿, 你为什么拿了我的150美元却把我拉黑了?’而我会反问:‘你在说什么?’”
《今日美国》还报道称,另一位创作者曾遭遇被冒名者欺骗的愤怒粉丝上门骚扰。
这些事件让她感到不安全,有时甚至不敢出门。
为何法律难以遏制这一问题
各国政府已出台新规来应对AI生成的露骨内容,但执法仍面临困难。
美国的《下架法案》(Take It Down Act)将传播未经同意的露骨内容(包括AI生成的材料)定为刑事犯罪,并要求平台迅速删除此类内容。
与此同时,欧盟的《人工智能法案》要求用户在使用人工智能生成的图像时必须予以披露。
尽管采取了这些措施,诈骗行为仍在继续,因为大部分被盗内容托管在法律适用范围之外的服务器上,这限制了当局采取行动的能力。
布里斯托大学的研究人员还发现了一个新的挑战。
在2026年进行的三项实验中,即使被告知内容是伪造的,大多数参与者仍继续相信深度伪造内容,这表明仅靠提高意识可能不足以防止受骗。
识别预警信号
一些内容创作者已开始聘请私人的内容下架服务,或发布公开警告,以帮助粉丝识别虚假账号。
Malwarebytes表示,如果创作者通过无关的社交媒体平台联系粉丝,并迅速要求转入私信沟通,随后索要付款,粉丝应保持警惕。
《今日美国》指出了一段冒充创作者埃莱娜·圣詹姆斯(Elaina St. James)的虚假TikTok视频,该视频通过给静止图像添加动画并克隆她的声音制作而成。
这段深度伪造视频存在明显的瑕疵,包括牙齿变形和眉毛僵硬,这些缺陷往往能揭示视频是由人工智能生成的。
专家建议,在汇款前,应通过创作者的认证账号核实任何付款或独家内容请求。
如果有人通过非官方账号要求预先通过Cash App付款,应将其视为重大警告信号。