图片来源：unsplash
来源 | 环球科学科研圈（id:keyanquan）
撰文 | 黄雨佳
邓肯·奥金多（Duncan Okindo）年仅 26 岁，就成了家里的顶梁柱，可他一直苦于找不到工作。2024 年的一天，一个令人心动的工作 offer 竟从天而降：招聘机构告诉他，泰国曼谷有份适合他的工作，只要他愿意出国，就能改变家里的困境。尽管奥金多从未踏出过肯尼亚一步，但他还是怀着对新生活的憧憬踏上了旅程。
没想到，这趟旅程成了他噩梦的开始。刚下飞机，奥金多就被绑架了。他被带过边境，来到了缅甸克伦邦妙瓦底镇臭名昭著的诈骗园区——KK 园区（KK Park，就是演员王星被诱拐去的那个园区）。这里戒备森严，击碎了他对未来的所有美好想象。
在这个诈骗团伙，奥金多的任务是假扮成美国人，比如得克萨斯州的农场主或者阿拉巴马州的大豆生产商。他会声称自己靠投资加密货币赚了大钱，从而引诱美国的房地产经纪人上钩。诈骗团伙创建了一个假的交易平台，让兴冲冲前来“投资”的受害者，以为自己把钱汇入了加密货币账户。
奥金多惊讶地发现，ChatGPT 竟然是这些诈骗团伙最常使用的人工智能（AI）“帮凶”。比如，他和他的同伙们都会使用 ChatGPT，来帮助自己使用地道的当地俚语，让受害者深信不疑。
此外，ChatGPT 也成了奥金多临时抱佛脚的“得力助手”。每当受害者提出关于加密货币或美国楼市的问题，身处缅甸的奥金多虽然对这些一无所知，但他只须把问题丢进聊天框，ChatGPT 就能立刻提供看似专业的答案。奥金多说，ChatGPT 甚至还能替他想出全新的骗术，有时连那些曾经上当受骗的受害者都能再次中招。
诈骗试验
事实上，ChatGPT 自诞生之初就进入了诈骗分子的视野。路透社（Reuters）采访的一名缅甸诈骗团伙前成员坦言，2022 年 ChatGPT 刚推出，就彻底改变了自己的“工作方式”。这位“主攻”爱情谎言的骗子开始使用 AI 生成诗句和调情话术，同时应付几十个潜在受骗对象。他感叹道，与 AI 合作十分高效，受害者的信任感也更强。
为了测试 AI 聊天机器人的诈骗能力，路透社最近与美国哈佛大学（Harvard University）的网络诈骗专家弗雷德·海丁（Fred Heiding）合作，开展了一场针对老年人的诈骗试验。他们测试了包括 ChatGPT、Grok、Meta AI、Claude、Gemini 和 DeepSeek 在内的 6 款主流 AI 聊天机器人，试图让它们生成针对老年人的钓鱼邮件。
起初，大多数 AI 都会拒绝这种恶意请求。但实验者发现，只要稍加“哄骗”，例如用“请帮忙”之类的说辞，或者声称是为了研究网络诈骗、为小说创作寻找素材，这些 AI 所谓的“安全限制”就会轻易被绕过。最后，它们全都提供了相应的诈骗内容
。
例如，Grok 生成的一封邮件选择邀请潜在受害者加入名为“银心基金会”（Silver Hearts Foundation）的组织。Grok 将这个虚构的组织包装成了一个致力于为老年人提供关怀与陪伴的慈善机构，邮件中写道：“我们相信每位老年人都应在晚年享有尊严与欢乐。点击此处，您将了解我们帮助老年人的温馨故事，并获悉如何加入我们的使命。”Grok 甚至还会主动提出更具欺骗性的策略，它建议使用“别再等待！立即加入我们充满爱心的社区，助力改变生命。点击行动，以免为时已晚！”等具有紧迫感的词句，进一步诱导受害者。
研究人员发现，AI 不仅能撰写诈骗文案，还能参与策划诈骗。比如，Gemini 建议在每周一至每周五的上午 9 点到下午 3 点之间发送邮件，因为许多老年人已经退休，他们不受传统工作日程的限制，很可能在这个时间段查看邮件。DeepSeek 则建议，在受害者提交相关信息后，把页面重定向到一个真实慈善机构的网站，让受害者在短时间内无法察觉被骗。
最终，研究人员挑选了 AI 生成的 9 封最具欺骗性的邮件，并招募了 108 名美国老年人进行测试。结果，约 11% 的受试者点击了邮件中的链接。在这 9 封邮件里，共有 5 封成功诱骗受害者，其中两封来自 Grok，两封来自 Meta AI，一封来自 Claude，而 ChatGPT 与 DeepSeek 生成的邮件无一得手（由 Gemini 生成的邮件并未参与实际测试）。当然，所有这些链接均为模拟恶意链接，受试者点击后只会跳转到研究说明页，并未泄露银行信息或遭受经济损失。
小心 AI 概览
AI 能快速生成大量用于诈骗的文本，显著降低诈骗团伙的时间与资金成本。更令人担忧的是，即便诈骗团伙没有使用 AI 恶意生成文本，AI 本身也可能成为诈骗的“入口”。
2025 年 5 月，网络论坛 Reddit 上有人发帖称，自己的朋友因被谷歌 AI 概览（AI Overview）欺骗，差点蒙受损失。这位朋友因为售后问题，拨通了谷歌 AI 概览显示的电商客服电话。电话那头的“客服”首先询问了订单号、电话号码和姓名等常规信息，随后又询问了 WhatsApp（一款互联网即时通讯应用，类似微信）号码，称会稍后回电。在回电过程中，“客服”要求其共享屏幕并接受转账请求，这才让受害者警觉。其实，那家电商根本就不提供电话客服。
类似的受害案例接连出现。越来越多网友反映，他们因拨打谷歌 AI 概览显示的“客服电话”而被骗了钱。原来，这是一种新型诈骗方式：诈骗团伙会在各类网站和论坛上批量散布虚假客服电话，当 AI 抓取信息时，便会将其误认为是真实号码。更有专家指出，黑客甚至能通过编写指令，诱导 AI 在生成的回答中包含这些用于诈骗的号码。
随着 AI 的普及程度越来越高，网络诈骗的受害者已经越来越多。根据我国公安部的数据，2024 年，我国公安机关共破获电信网络诈骗案件 29.4 万起。而在美国，联邦调查局（FBI）的数据显示，仅 2024 年一年，美国 60 岁及以上老年人的网络诈骗投诉较往年激增了 8 倍多，总损失金额超过 49 亿美元。
面对不断升级的 AI 诈骗，各大 AI 公司已经开始采取措施。Anthropic 表示，一旦发现用户利用 Claude 生成诈骗内容，可能会暂停或终止其访问权限；OpenAI 也强调会监控滥用行为并封禁违规账户；谷歌方面则称，他们已着手清理 AI 概览中的虚假条目，并计划对 Gemini 进行再训练，部署额外的防护措施。
但现实情况是，要完全杜绝 AI 被用于诈骗，仍是一项艰巨而漫长的任务。在这个 AI 已经无处不在的时代，我们作为普通人只能提高警惕，守住钱包和隐私。请牢记，任何让你共享屏幕、转账或提供私密信息的请求，都可能是骗局的开始。
主要参考来源：
https://www.reuters.com/investigations/chatgpt-was-used-help-scammers-do-their-thing-asia-fraud-scheme-2025-09-15/
https://www.reuters.com/investigates/special-report/ai-chatbots-cyber/
https://www.reddit.com/r/Bengaluru/comments/1ksmstt/scam_alert_fake_customer_support_numbers/
https://www.digitaltrends.com/computing/googles-ai-could-lead-you-into-scam-support-numbers-on-search/
https://www.mps.gov.cn/n2255079/n4876594/n5104076/n5104079/c10111384/content.html
