人工智能算法安全研究现状与对策

机器学习助推的新一代人工智能再一次成为学术界和产业界关注的焦点，已取得的进展和深度应用，正在成为世界各国新一轮战略性技术和核心驱动力。然而，数据、算法和算力作为新一代人工智能的核心要素，在支撑数字经济发展的同时，也面临技术和社会双重安全风险。以人工智能算法为主线，聚焦人工智能技术潜在的安全风险，综述分析了人工智能算法面临的不可解释性、逆向攻击、后门攻击、投毒攻击和对抗样本攻击等方面的潜在技术安全问题与挑战，从隐私保护机器学习、算法鲁棒性增强和算法安全评估等几个方面，从技术角度归纳或提出人工智能算法安全的解决对策，旨在为解决人工智能的应用和安全之间的矛盾提供一种研究思路和方向。