OpenAI 披露网络犯罪分子如何利用ChatGPT运营诈骗行动

Part01

诈骗网络组织运作

网络诈骗正变得更有组织性、更具个性化，也更难识别。犯罪网络如今正利用人工智能创建可信的消息、虚假身份和欺诈网站，以大规模接触受害者。

近期被捣毁的一起诈骗行动利用婚恋、投资、赌博和冒充执法机关等骗术，施压受害者汇款。该行动似乎通过WhatsApp和Telegram等通讯及社交平台锁定目标受害者。

OpenAI的分析师识别出一个协同运作的网络，该网络很可能源自柬埔寨，并可能在波贝（Poipet）一带活动。波贝是一座多次被指与诈骗园区和人口贩运问题有关的城市。OpenAI已封禁涉案账户，并与行业合作伙伴和当局共享了相关威胁信号。

OpenAI在与Cyber Security News（CSN）分享的一份报告中表示，这起行动表明诈骗团伙可以在多种诈骗类型之间切换，而非依赖单一剧本。报告还凸显了网络欺诈、有组织犯罪以及被强迫在诈骗窝点工作的人员遭受剥削之间的重叠关系。

Part02

该网络利用ChatGPT维护虚假的在线身份、制作推广材料、翻译消息，并处理部分日常工作。其活动并不依赖于某一种单一的欺诈手法。

运营者创建了婚恋交友资料、所谓的投资专家、赌博代理以及虚假的执法身份。他们还利用生成的图片，让伪造的护照、法律文书、股票购买确认书和赌博界面显得更加可信。

该团伙的手法遵循一种熟悉的模式：先建立联系，再培养情感和信任，最后索要钱财。读者还可以看到，AI生成的文本如何强化了依赖身份冒充和精心编写的社会工程学话术的逼真钓鱼邮件攻击。

在投资和婚恋诈骗中，犯罪分子先通过友好交谈建立可信度，再引入加密货币或现货黄金交易机会。诈骗者向受害者承诺保证回报或无风险投资，这类说辞应始终被视为警示信号。

另一些受害者被告知自己在网上赌博平台赢得了奖金，结果却被要求支付押金或激活费用。还有一些人遭遇了假冒的执法人员，被施压为自己并未犯下的罪行支付捏造的罚款。

诈骗者要求受害者在付款后提供转账截图或账户详细信息。这与更广泛的“杀猪盘”诈骗模式如出一辙——犯罪分子先花时间建立信任，再将受害者推向更大的财务损失。

Part03

诈骗网络与强迫劳动

调查还发现了可能涉及人口贩运和强迫犯罪的活动迹象。一些账户发布了波贝“聊天员”（chatter）岗位的招聘广告，提供机票、餐食、住宿、签证和工作许可。

OpenAI发现了似乎与员工债务、工资扣款、纪律罚款、招聘提成和移民问题相关的内部材料。其他对话内容则涉及拘留、逃跑企图，以及那些可能被强迫在诈骗窝点工作的人员可能面临的法律责任。

该公司提醒说，它无法独立确定每名涉案人员的情况。尽管如此，这些发现与关于东南亚诈骗中心的报道相吻合——在那里，欺诈、洗钱和人口贩运往往交织在一起。

这一网络造成的财务影响仍属未知，不过OpenAI审查的对话内容显示，它可能已经接触了数百名目标。

推荐阅读

电报讨论