今天，OpenAI 发布一份让人忧心的报告。
其中披露，该公司在今年早些时候封禁了一个源自柬埔寨的诈骗网络：该团伙利用 ChatGPT 来支持多种诈骗活动，包括投资、婚恋、赌博以及冒充执法机构等。
一个团伙，多种骗局
报告指出，这一网络很可能起源于柬埔寨西北部班迭棉吉省的波贝（Poipet）。这是一座紧邻柬泰边境、在公开报道中屡次与网络诈骗园区和人口贩运活动相关联的城市。
该团伙利用 ChatGPT 批量制造和维护虚假身份、生成并翻译发给受害者的消息、制作诈骗方案的宣传内容，并协助处理日常运营。
与以往被查处的诈骗网络类似，还有一部分账号被用于行政事务，如起草内部通告、在员工之间翻译消息，以及记录涉及招募、移民身份、工作条件和员工纪律的事项。
值得注意的是，这类团伙往往并不局限于单一骗局，而是灵活拼接各种手法。
报告称，操作者会先用婚恋人设建立信任，再引入涉及加密货币和现货黄金交易的「投资机会」；也有人以虚构身份进行长时间的浪漫聊天，或冒充在线赌博平台承诺虚假奖金，甚至伪装成执法机关，声称受害者因涉嫌「严重犯罪」需缴纳罚款。他们还用模型生成伪造的护照、法律文书、股票购买确认单和赌博平台界面截图。
网络诈骗犯用 ChatGPT 生成的虚假加密货币交易界面
这种 AI 加持带来的变化不容小觑。传统的婚恋诈骗高度依赖人工，骗子很难在数周乃至数月的对话中维持一致的人设；而生成式 AI 让骗子能够以近乎完美的语法和高度个性化的口吻，同时维系数百段「关系」。
ping、zing、sting：三步收割话术
OpenAI 将诈骗者的套路概括为三个环节：ping（外联接触）、zing（制造情绪）、sting（榨取钱财）。
ping（接触）：团伙用 ChatGPT 在 WhatsApp、Telegram 等平台翻译、生成与目标的对话，并制作社媒内容、搜集素材来充实虚假的婚恋人设。
zing（造情绪）：诈骗话术大量依赖情感施压与信任构建——「保本」「零风险」的收益承诺、甜言蜜语、要求对话保密，以及「限时奖励即将过期」式的紧迫催促。
sting（收割）：诱导受害者充值以「解锁奖励」、缴纳「激活费」或「罚款」，并提交转账截图或账户信息作为付款凭证。
据 OpenAI 依据诈骗者自身的通信记录估算，该网络可能已接触数百名目标，部分受害者的单笔损失达数千美元，但整体资金损失规模仍无法独立核实。
网络诈骗犯用 AI 生成的用于在柬埔寨社交媒体上招聘人员的海报，号码已被 OpenAI 打码
诈骗者本身，也可能是被贩运的受害者
报告更沉重的一面在于：部分账号生成的内容指向人口贩运和强迫劳动。
这些内容包括为波贝的「聊天员」（chatter）岗位制作社媒招聘广告，承诺提供机票、食宿、签证和工作许可；还有记录涉及员工债务、扣薪罚款、贷款偿还，以及关于移民身份、签证逾期、招募激励的讨论。个别对话甚至提及疑似被拘禁、逃跑未遂，以及被贩运者被迫参与犯罪后可能面临的刑责。
这些迹象与大量公开调查相互印证。2025 年 6 月的一份报告曾指认，柬埔寨境内至少有 53 处诈骗园区存在人口贩运、酷刑、强迫劳动、剥夺人身自由乃至奴役等侵犯人权的行为，这些园区常伪装成正规科技园或商务中心，由跨国犯罪网络近乎有恃无恐地运作。受害者往往被虚假招聘广告诱骗，随后遭囚禁、虐待，被胁迫向全球各地的人实施诈骗。
上图展示了 53 个诈骗窝点的分布情况
而波贝正是重灾区之一。有调查曾记录，在波贝一处园区，幸存者大部分时间被关在房间里，只在需要拍摄面部照片时被带出来，以便管理者在泰国开设银行账户，疑似用于洗钱。
联合国的警示同样严峻。2025 年 3 月，三位联合国特别报告员曾联名致信柬埔寨政府，指出这并非杂乱无章的地下作坊，而是一个拥有高楼园区、武装守卫和企业化管理体系、规模达数十亿的犯罪产业。据估算，仅在柬埔寨就有超过 20 万人卷入相关产业。
正因如此，OpenAI 特别强调：实施诈骗的人可能也是被剥削和胁迫的受害者。尽管无法逐一核实每个人的具体处境，但这一现实提醒外界，简单的「加害者—受害者」二分法在这里并不成立。
结语
OpenAI 表示已封禁与该行动相关的账号，向行业伙伴和有关部门共享了威胁指标，并采取措施提高这些行为者重新获取其产品和服务的难度。
但让人忧心的是，只要诈骗仍然有利可图、工具仍然易于获取，犯罪者就会不断寻找变通之道；更强的身份验证和支付系统防护，或许比 AI 平台的封禁更能从根本上遏制欺诈。
OpenAI 认为，此案反映了两个趋势：
该公司表示，有效打击不仅要针对面向受害者的诈骗行为，更要瞄准背后策划并从中牟利的犯罪组织。
参考链接
https://openai.com/index/disrupting-malicious-uses-of-ai-criminal-scam-operation/
https://www.amnesty.org/en/wp-content/uploads/2025/06/ASA2394472025ENGLISH.pdf
https://www.nationthailand.com/blogs/news/asean/40051873
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：liyazhou@jiqizhixin.com
