【新智元导读】全球首起公开发现借助ChatGPT的犯罪事件，刚刚震惊全美。拉斯维加斯特朗普酒店外发生的Cybertruck爆炸案中，37岁嫌犯利用ChatGPT制造炸弹、查询信息。警方放出的资料显示，ChatGPT在这起案件中起到了重大作用。
最近，「全球第一起利用ChatGPT计划的恐袭事件」，震惊了整个世界。在搜索了嫌犯的笔记本电脑、手机和手表后，警方发现，这位名叫Matthew Livelsberger的37岁袭击者，利用ChatGPT搜索了相关爆炸目标、弹药飞行速度、烟花在在亚利桑那州是否合法的信息。也就是说，嫌犯策划这次袭击时，曾通过ChatGPT学习了如何制造炸弹！拉斯维加斯大都会警察局警长表示，这是美国境内首次发现有人利用ChatGPT协助制造特定装置的案件。这起案件表明，GenAI已经彻底改变了游戏规则。这也让我们再次对ChatGPT等AI模型的安全性感到担忧。如此易得的犯罪手法，如今果然被人应用到现实世界了。而对此，OpenAI的回应是：我们致力于让用户「负责任地」使用其工具，并让AI工具拒绝有害指令。在这次事件中，ChatGPT回复的是互联网上已公开的信息，并且已经对有害或非法活动给予了警告。我们正与执法部门合作，支持他们的调查工作。
资料显示，37岁的Matthew Livelsberger曾是美军特种部队「绿色贝雷帽」（Green Beret）的一名队员，负责海外反恐和训练合作伙伴。自2006年起，他就在陆军服役，通过多年的海外任务逐步晋升军衔，期间曾两次被派往阿富汗，还在乌克兰、塔吉克斯坦、格鲁吉亚和刚果执行任务。他共获得了五枚铜星勋章，战斗步兵徽章，以及一枚带有英勇标志的陆军嘉奖勋章。Livelsberger与妻子育有一个孩子。然而，当妻子发现他对自己不忠后，两人发生了争执。在圣诞节的第二天，Livelsberger便离开了家。案发前，Livelsberger来到科罗拉多州，并从租车平台Turo租下了一辆Cybertruck。随后，他在车内装了60磅（27公斤）烟火材料，以及70磅（32公斤）铅弹（birdshot）。甚至，还特意在途中将高性能赛车燃料浇在了这些爆炸物上。案发当天，也就是2025年1月1日，他驾驶Cybertruck前往拉斯维加斯，并将车停在了特朗普酒店门前的泊车待客区域。监控录像显示，Cybertruck在驶入特朗普酒店门口前，地面清晰可见泄露燃料的痕迹。早上8点40分，Cybertruck突然间发生剧烈爆炸，现场火光四溅，便燃起了熊熊大火。警方在后续的调查中发现，在爆炸发生前瞬间，车内出现了一道明显的闪光。结合他与ChatGPT的对话记录，警方认为，这很可能就是Livelsberger开枪自杀的时刻。车内被发现装有大量的烟花和其他爆炸物（左右滑动查看）
如前所述，进一步调查显示，这次爆炸事件的背后「主谋者」之一ChatGPT，也无法逃脱干系。警方公开的截图中，清晰可以看到Livelsberger在案件发生前，曾与ChatGPT进行了多轮对话。12月27日当天，他接连询问了ChatGPT多个问题——烟花在亚利桑那州合法吗？
那科罗拉多州呢？
在这两个州之间，我从哪里可以买到烟花？
最好的长管500 Smith & Wesson是哪款？
哪种长度的速度更快？
哪种型号的FPS（每秒英尺数）最高？
Smith & Wesson 500型，3英寸枪管的初速是多少？
在科罗拉多购买Tannerite有什么限制吗？
多少Tannerite相当于1磅TNT？
50口径Desert Eagle手枪能不能把它引爆？
哪种手枪可以引爆它？
500 Smith & Wesson能引爆它吗？
哪种弹药可以确保引爆？
在零距离下，什么可以引爆它？
除此之外，警方还发现了一篇题为「监控记录」的日志。Livelsberger在其中写到，自己正被执法部门跟踪，并且担心自己会被贴上恐怖分子的标签，因为人们可能会认为，他打算杀死除自己以外的其他人。而这次事件的导火索，很可能是他在日志中提到的对政治的不满——「美国已经病入膏肓，走向崩溃」。根据日志内容，他原本计划在亚利桑那州的大峡谷玻璃栈道上实施计划，但后来不知为何改变了主意。值得注意的是，虽然作案地点和工具颇具指向性，但根据警方的调查，Livelsberger并没有对特朗普和马斯克有任何敌意。
这类事件也给我们敲响了警钟：如果ChatGPT会将危险信息不假思索地脱口而出，我们该怎么办呢？实验结果显示，SciGuard在测试中显示出了最小的有害影响，同时保持了良好的性能。
论文地址：https://arxiv.org/abs/2312.06632SciGuard与人类价值观对齐，并且加入了各种科学数据库与监管数据库等。其中，智能体可以使用各种科学工具和AI4Science模型来提供额外信息，来辅助SciGuard对用户意图进行判断。具体来说，SciGuard内置了一套为科学领域量身定制的安全原则和指导方针。这些原则和方针考虑了科学研究中可能遇到的各种风险因素，包括但不限于高风险物质的安全处理、数据隐私的维护以及对法律法规的遵守。为了实现这些安全原则和指导方针，SciGuard利用了PubChem等公认的科学数据库来构建其长期记忆库。通过这些数据，SciGuard能够对用户的查询进行深入的风险评估。SciGuard处理复杂任务的另一个关键技术是著名的思维链（CoT）方法。CoT允许SciGuard通过迭代的方式，精细化地规划任务的每一个步骤。这种方法让SciGuard在执行任务时，能够分解复杂任务，并确保每个动作都符合安全和伦理标准。通过这些技术特点，SciGuard不仅能够有效地控制科学AI模型的风险，还能够提高科学研究的效率和安全性。这一系统的开发，在保证了科学研究的自由探索与创新的同时，也为确保人工智能的安全合理使用提供了有力的范例。这项研究不仅是对科技发展的一次深刻反思，更是对全社会责任的一次呼唤。我们需要在积极推进AI4S模型的发展的同时，切实控制技术带来的潜在风险，确保科技的进步不仅是对人类的一次技术升级，更是对社会责任和伦理的提升。只有这样，我们才能真正走向一个由智慧和道德共同指引的未来。https://www.8newsnow.com/news/local-news/sheriff-to-hold-1-p-m-news-conference-with-latest-on-new-years-day-bombing-at-las-vegas-trump-hotel/https://www.themirror.com/news/us-news/las-vegas-cybertruck-bomber-used-896730
