ChatGPT犯罪了?!
日前,国内第一起ChatGPT犯罪案件出现了。
甘肃省平凉市公安局网安大队侦破一起利用ChatGPT故意炮制虚假信息,博取眼球吸引流量的案件。
“近日,甘肃省发生的一起火车与修路工人相撞事故震惊了全国。据报道,这起事故发生在今晨,导致9名修路工人不幸丧生。”
如果你看到这条push信以为真点开的话,那你便落入了不法分子的“圈套”——为他们送上了流量。
警方查明,犯罪嫌疑人从微信好友那儿学习到了网络赚取流量变现方法,并购买大量“百家号”。通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后,上传至其购买的百家号上非法获利。
“甘肃一火车撞上修路工人致9人死亡”的文章便是犯罪嫌疑人用来牟利的假新闻之一,该文章经过ChatGPT改编传播后点击量已达1.5万余次。
技术狂奔产生的恶果比想象中来的更快,或许连ChatGPT也没想到,自己的“第一宗罪”,竟是由人类编造假新闻牟利所造成的。当你还不知道ChatGPT为何物时,已经有人用它来捞钱了。

事实上,ChatGPT等人工智能技术被滥用已经不是第一次了,它所产生法律风险甚至刑事风险远比想象的要严重。
1.从早期的AI换脸、AI换音频到如今的ChatGPT造假新闻、假视频,人工智能技术衍生出来的各类恶意应用,一度将网络与现实世界推向失序的边缘,引发了极大的监管难题。在社交媒体上,此类信息几乎是以裸奔的方式传播,真假难辨。技术狂飙背后,都有什么样的法律风险、社会风险?
2.ChatGPT主要有对话、互动、多场景、问答等4大特点,因此日常我们多把它应用于解决日常问题、聊天对话、寻求方案、学习工具、客服助手等。尽管开发设计者已经努力让ChatGPT拒绝不适当的请求,但它在侵犯知识产权、人格权等违法犯罪中充当什么样的角色呢?
3.当下,根据《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》,能不能以寻衅滋事罪对利用ChatGPT捏造虚假新闻的行为进行定罪处罚?但试想有一天,就像《终结者》《I robot》《西部世界》等科幻影视作品那样,ChatGPT“觉醒”进化出了“自主人格”时,这些生成式人工智能有没有可能成为刑事责任主体?
围绕上述话题,6月7日晚19:00,智拾网诚邀华东政法大学功勋教授、“经天学者”讲席教授,博士生导师、刑事法学研究院院长,上海市法学会刑法学研究会会长刘宪权老师授课,就ChatGPT等生成式人工智能与刑事责任的关系进行讲解。