社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  aigc

面对还不够成熟稳定的AIGC新技术,如何应对信息安全问题 | ArchSummit

InfoQ • 3 年前 • 348 次点击  

AIGC 时代已经到来,AIGC 的功能很强大,将重塑世界的一切,那么 AIGC 对信息安全的影响是怎么样的?信息安全将对 AIGC 有哪些影响?以及这些影响是如何影响我们的?本文将分为四个部来介绍这些问题,分别是 AIGC 对攻击侧的影响,AIGC 对防守侧的影响,以及 AIGC 自身的信息安全问题,以及我们的应对策略。

AIGC 将大幅提升攻击侧的效率,并降低攻击门槛;AIGC 也将大幅提升防守侧的效率,并扩大防守空间和时间的覆盖率;AIGC 自身也存在诸多的信息安全隐患;AIGC 时代,防守侧跑不过攻击侧,发生严重安全事故是大概率事件;面对 AIGC 的安全问题,我们的解决方法有哪些?

在 7 月 21-22 日深圳 ArchSummit 架构师峰会上,我们邀请到了朱雀安全总办 CTO 付山阳老师,他曾主导平安集团和平安银行零售产品信息安全建设,金融领域的黄埔军校主导腾讯云的整体安全建设项目。这次他将给大家分享 AIGC 安全话题:

AIGC 对攻击侧,可以高效生成欺诈信息,并实现跨语言攻击;也可以用于换脸和视频诈骗,使攻击者更容易伪造身份并进行欺诈行为;可以轻松生成恶意代码,安全企业都未能检测出;AIGC 可以轻松实现黑产数据分析,利用数据来实施攻击...... 类似的情况太多,举不胜举。

AIGC 对防守侧,可用于智能渗透测试,利用大模型实现交互式智能渗透测试;可用于欺骗性防御,让攻击者走入迷宫,提高企业的监控和防御能力;AIGC 大幅提升了企业的防御效率和安全水平等等。

从历史规律来看,大概率会发生严重的大模型安全事故,AIGC 安全,传统的安全技术仍然有效,而且是安全防御的基础,在 AIGC 安全方面,还可以提供 AIGC 隐私数据保护,AIGC 数据后门攻击安全等等其他解决方案来规避风险。

如果你感兴趣,欢迎点击“阅读原文”查看 ArchSummit 会议日程,除了 AIGC 安全话题之外,会议上还有大模型重塑软件开发、提升可测试性,AIGC 在智能呼叫中心、内容审核方面应用的案例演讲。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/156961