Py学习  »  chatgpt

“库克加入小米汽车” “马斯克带货不粘锅”等图片疯传;ChatGPT Images 2.0爆火下,律师:用AI生成公众人物虚假图并发布在公共平台违法

都市现场 • 3 月前 • 118 次点击  


美国当地时间4月21日,人工智能领军企业OpenAI正式推出新一代图像生成模型ChatGPT Images 2.0(简称Images 2.0)。OpenAI首席执行官山姆·奥特曼在发布会上将此次更新描述为从“穴居人壁画”向“文艺复兴”的跨越,并称其进步程度堪比从GPT-3到GPT-5的飞跃。


然而,随着Images 2.0等超强生图工具的普及,网络上也涌现出大量以假乱真的恶搞内容。


网络AI生成的虚假图像


例如今天(22日)冲上热搜的“库克加入小米汽车”,引发大量网友讨论,小米高管徐洁云也疑似发文回应相关图片造成的谣言,称“乱P图不可取,可不兴这么乱开玩笑的。”(小米高管徐洁云疑回应库克加入小米汽车传闻,称乱P图不可取,可不兴这么乱开玩笑)。


网络AI生成虚假图像


同样的套路,库克还被加入“华为公司”,更甚者还用AI生成了一张库克出现在“华为 Mate XT非凡大师”的某平台直播间带货的虚假图片。


网友用ChatGPT Images 2.0生成的库克直播带货虚假图


无独有偶。除了库克,马斯克也被化身为多个品牌代言人,如“马斯克直播带货不粘锅” “马斯克体验美团外卖员”等AI生成图像,同样在网络上疯转。


网友用ChatGPT Images 2.0生成的马斯克直播带货不粘锅AI虚假图片

网络AI生成的虚假图像


另外,还有网友生成了“库克和新任苹果CEO特努斯连麦打PK”等AI图像,引发大量网友讨论。


网友用ChatGPT Images 2.0生成的苹果两任CEO库克和特努斯连麦打PK虚假图片

AI作图暗藏多重法律与安全风险


对此,以厚律师事务所律师张甜指出,将公众人物的面容移植到虚构的商业场景或具有误导性的情境中,并将其发布在公共平台,极易触碰民事乃至刑事法律的多重边界。

未经肖像权人同意,AI 生成并传播他人可识别的肖像,无论是否营利、是否存在丑化贬损,均涉嫌侵害他人肖像权;若内容包含丑化、贬损性元素,或导致公众对被“换脸”者产生负面评价,可能侵害其名誉权。

更为严峻的是,此类行为可能涉嫌构成诽谤罪。根据《中华人民共和国刑法》第二百四十六条,诽谤罪是指故意捏造并散布虚构的事实,足以贬损他人人格,破坏他人名誉,情节严重的行为。

网友用ChatGPT Images 2.0生成的OpenAI和Anthropic两位CEO的“牵手照”,真实情况是当时拒绝了牵手


利用AI工具生成并传播诸如“公众人物涉及虚假商业行为”或“政治人物进行荒诞互动”等内容,若被认定为捏造事实,且经由信息网络传播达到一定范围(例如,被点击、浏览次数达到5000次以上,或者被转发次数达到500次以上),即可被认定为“情节严重”,面临三年以下有期徒刑、拘役、管制或者剥夺政治权利的刑事处罚。


“翻墙”使用境外AI工具,本身已构成违法行为


值得注意的是,对于国内用户而言,使用这款前沿工具本身即暗藏法律风险。ChatGPT为境外APP,并未在中国境内取得合法运营资质。根据《中华人民共和国计算机信息网络国际联网管理暂行规定》第六条,任何单位和个人不得自行建立或者使用其他信道(即俗称的“翻墙”软件或VPN)进行国际联网。


这意味着,国内用户若通过“翻墙”方式访问并使用该服务,已构成违法行为,公安机关可责令停止联网、给予警告,并处15000元以下罚款。更为严重的是,若以营利为目的提供“翻墙”服务或传授相关方法,可能触犯“提供侵入、非法控制计算机信息系统程序、工具罪”,面临刑事处罚。


网络AI生成的虚假图像


ChatGPT为境外AI工具,其生成的内容不具备我国《生成式人工智能服务管理暂行办法》所要求的强制AI标识,这进一步加剧了信息溯源与责任认定的难度。国家安全部曾多次警示,违法“翻墙”不仅面临法律制裁,其背后更隐藏着个人隐私泄露、被境外势力窃密等重大安全陷阱。


法律与安全是不可逾越的底线


技术的飞跃在带来创作自由的同时,也划定了清晰的法律与安全边界。用户在面对此类热门境外AI工具时,必须充分评估其背后的合规风险与安全隐患,避免因追求技术尝鲜而触碰法律红线,甚至滑向犯罪的深渊。


新闻多知点——


据了解,ChatGPT Images 2.0在多种语言中(特别是日语、韩语、中文、印地语和孟加拉语)都能保持精准,并利用其扩展的视觉和世界知识填补空白,用户只需更少的提示词就能获得更智能的图像。


官方发布的ChatGPT Images 2.0生成的多语言图片










—  推荐阅读 —

南昌籍网红猪宝子官宣分手两天后,《亲爱的客栈》预告出现其一家与前男友星星的身影;当时二人尚未分手,有网友担心节目内容会因此删减

国内油价调整通知

周亮,被免职





来源 | 都市现场综合



转发提醒!

点赞1分图片 点亮5分❤

↓↓↓↓↓







Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/195386