社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  aigc

【全国人大代表、科大讯飞董事长刘庆峰:#建议研发AIGC幻觉治理-20250304162803

新浪科技 • 3 月前 • 108 次点击  

2025-03-04 16:28

【全国人大代表、科大讯飞董事长刘庆峰:#建议研发AIGC幻觉治理技术和平台##建议构建安全可信数据标签体系#】近期,中国人工智能大模型的快速发展引发全球广泛关注。在全球人工智能竞合加深的大背景下,中国人工智能产业的深度自主可控成为产业热点议题。“若不能加快解决国产自主可控人工智能产业生态薄弱、适配困难等问题,无异于‘在别人地基上建高楼’。”对此,全国人大代表、科大讯飞董事长刘庆峰在今年两会期间建议,加快构建国产算力平台上的自主可控大模型及产业生态。

第一,鼓励基于自主可控国产算力平台的大模型研发和应用。建议对做国产算力芯片的企业和使用国产芯片训练大模型的企业给予资金专项支持,在国家公共算力上给予资源倾斜,加速基于国产算力的大模型算法创新;鼓励央国企优先采购基于国产算力平台研发的全栈自主可控大模型;优先推广基于全栈自主可控大模型的行业垂直应用。

第二,构建数据资源充分共享机制。依托中国广泛的AI应用场景,积极推广大模型在产业领域的应用,并形成数据飞轮,让中国率先获得AI产业落地红利。

第三,专项支持基于国产算力平台的生态体系建设。鼓励依托自主可控算力底座建立的大模型开发者生态发展和开源社区建设,专项支持加快形成国产大模型生态体系和工具链,加速我国自主可控人工智能产业生态发展。

在预防大模型生成“幻觉数据”危害互联网方面,刘庆峰认为,要从技术研发和管理机制上构建可信的信息环境。

相关统计数据显示,我国生成式人工智能产品的用户规模已达2.49亿人。生成式人工智能存在幻觉,特别是深度推理模型的逻辑自洽性提升,使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习,形成恶性循环,影响公众信任和社会稳定。

刘庆峰建议,一是构建安全可信数据标签体系,提升内容可靠性:建立安全可信、动态更新的信源和数据知识库,对不同类型数据的可信度和危害程度建立标签体系,降低人工智能幻觉出现概率,提升生成内容可靠性;二是研发AIGC幻觉治理技术和平台,定期清理幻觉数据:研究幻觉自动分析的技术和软件平台,开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源,由中央网信办、国家数据局等部门定期清理幻觉数据,为公众提供AIGC幻觉信息检测工具与服务。( 人民邮电报)#聚焦2025年两会#
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/179690
 
108 次点击