直播预告 | 复旦张景锋副教授：可信机器学习的攻防与挑战

 报告介绍 

随着机器学习模型被广泛应用于自动驾驶、医疗健康、金融风控和智能机器人等高风险场景，模型的可信性成为人工智能落地的重要前提。本报告将围绕可信机器学习展开：

安全威胁：介绍机器学习系统面临的主要安全威胁，包括对抗样本攻击、数据投毒攻击、大语言模型越狱攻击以及隐私攻击等典型问题。

攻击机理：从攻击者与学习系统目标对抗的角度，分析攻击产生的机理，揭示模型为何依然脆弱。

防御方法：介绍当前主流防御方法，如对抗训练、防御性模型设计等。

新挑战与展望：结合近年来大模型与具身智能的发展趋势，探讨可信机器学习面临的新挑战与未来研究方向。