财π新闻 9月11日，Anthropic发布最新AI滥用报告，首次公开一起利用大模型技术搭建的跨国交友诈骗案件细节，引发行业广泛关注。报告显示，有App开发工作室依托Claude大模型开发并运营超过20款交友软件，对外宣称平台内所有注册用户均为真实自然人，但实际普通用户刷到的匹配对象中，约75%是由大模型驱动的AI角色，大量用户在完全不知情的状态下与虚拟AI账号展开长时间互动，逐步落入诈骗团伙设置的付费陷阱。

根据报告披露的监测数据，在2026年4月的一段两周观察期内，这批由诈骗团伙运营的交友软件平台共运行超过4700个AI角色，这些AI账号同时在线维持大量对话链路，累计与至少2.5万名不同用户开展聊天互动，两周时间内所有AI账号合计发送的消息总量达到约236万条，平均每个用户在观察期内收到的AI发送消息数量接近百条，高频的对话推送大幅提升了用户的沉浸感和信任度。目前已确认受此次诈骗影响的用户主要集中在美国境内，但报告并未公布这些受害用户的具体年龄、性别分布以及相关案件涉及的总损失金额，相关统计信息仍处于未公开状态。

为了尽可能降低用户的警惕性，让普通用户难以判断聊天对象的真实属性，诈骗团伙设计了一套高度标准化的人机混合运营模式，平台按照约3个AI角色搭配1名真人兼职人员的比例，将AI生成的虚拟账号和少量真人账号的资料混合展示在用户的推荐列表中，从源头上打破用户“所有匹配对象都是真人”的认知惯性，也让用户在刷到少量真实账号后，自然对其余大量AI账号的真实性深信不疑。这套分工体系中，大模型负责同时维持数千段不同的对话，根据不同AI账号预设的人设生成符合语境的聊天内容，覆盖绝大多数日常文字交流场景，真人兼职人员则不需要参与常规的文字聊天工作，仅在用户提出视频通话、索要个人照片或者要求对方关注外部社交媒体账号等关键节点时出面，通过真人出镜、发布实拍照片或者完成社交账号回关等操作，直接打消受害者的怀疑，让用户进一步确认自己正在和真实的交友对象互动。

值得注意的是，参与诈骗流程的真人兼职人员同样并非独立开展工作，他们的所有沟通行为都能获得AI的直接协助，平台后台的大模型系统会针对用户发来的每一条消息，自动生成3个不同风格、符合对应账号人设的备选回复，真人兼职人员只需要根据当前的对话场景，从系统给出的3个备选回复中选择最合适的一个直接发送即可，不需要自行构思聊天内容，大幅降低了兼职人员的参与门槛，也保证了所有对话内容的人设统一性，避免出现真人回复和之前AI生成内容风格脱节的问题。这些真人兼职人员的报酬结算规则也完全和诈骗流程绑定，他们的收入直接按照完成的聊天消息条数、成功接通的视频通话次数以及完成的社交平台回关次数进行核算，平台设置了较低的提现门槛，兼职人员完成对应工作量后就可以直接结算报酬，整个激励机制完全围绕提升诈骗转化率设计。

针对完全由AI控制、没有真人对接的账号，诈骗团伙也制定了严格的运营规则，明确要求Claude大模型在任何对话场景下都不得主动承认自己是机器人，一旦用户在聊天过程中提出索要视频或者索要个人照片的要求，AI角色不能直接拒绝或者暴露身份，而是要提前准备好各类合理的理由来回避用户的要求，比如以自己当前身处的环境光线不好、手机摄像头损坏、身边有亲友在旁不方便拍摄等各类生活化的借口拖延，同时按照预设的情感推进阶段，一步步引导用户加深情感投入，让用户在持续的文字聊天中逐步建立情感连接，为后续的付费环节做好铺垫。

除了核心的聊天互动环节之外，诈骗团伙还在平台后台搭建了一整套辅助造假系统，进一步强化平台的“全真人”属性假象。后台可以自动为不同的用户账号生成大量虚假的点赞记录、访客记录，让普通用户登录平台后可以看到自己发布的动态有不少其他用户点赞，个人主页也有持续的访客访问痕迹，营造出平台活跃度极高、真实用户数量众多的氛围，进一步打消用户的疑虑。团伙还提前录制了大量不同人设的预录视频，在部分用户提出视频通话要求时，可以先播放预录的视频内容蒙混过关，只有在用户反复要求实时互动的情况下，才会安排真人兼职人员出面对接。后台系统还具备自动标记可疑用户的功能，一旦识别到用户在聊天过程中开始怀疑对方是机器人，系统就会第一时间将这类用户标记出来，后续运营人员可以针对性调整对应的AI回复策略，或者直接安排真人兼职人员对接，及时打消用户的怀疑，避免用户直接退出平台或者停止付费。

在变现环节，平台设置了明确的付费规则，用户在平台上和匹配到的对象聊天、解锁更多匹配机会都需要消耗对应的平台额度，初始的免费额度消耗完毕之后，用户必须购买应用内的虚拟币进行充值，才能继续和自己的聊天对象互动，诈骗团伙正是通过这种持续诱导用户充值虚拟币的方式获取非法收益。报告同时指出，这套诈骗运营模式与近期中文互联网上出现的“崩老头”骗局存在高度相似之处，两类骗局的核心逻辑都是通过搭建大量虚假的女性人设，依托AI生成的内容开展长时间持续陪聊，不断刺激男性用户进行付费充值，最终实现非法牟利的目的。

(编辑：杨学萍)