i黑马百度连续第三年主办AI安全论坛，“天府杯”2020聚焦AI+新基建( 二 ) 11月7日

文章图片

文章图片
百度安全部产品负责人韩祖利
而在保障数据安全的基础之上，软硬一体化趋势下AI系统的安全问题同样不可忽视。以分布式智能系统的安全性为核心，杨珉教授在演讲中探讨了开放网络中分布式学习系统内的“拜占庭攻防”问题，并通过GAA、即基于梯度聚合代理的鲁棒分布式学习，强化学习调整评估策略，为有效防御这类攻击提供了应对方案。

文章图片

文章图片
国务院网络安全学科评议组成员、复旦大学计算机学院科研副院长杨珉
聚焦于隐蔽通信领域，李焕洲教授带来了将其与深度学习模型InfoGAN有机结合的创新性研究。在隐蔽载体迁移、多种隐蔽机制组合嵌套、隐蔽域多样化的背景下，二者的联动可在保持一定传输效率的同时，获得相较于传统隐蔽通信工具更强的隐蔽能力，兼具理论创新前景和工程可行性。

文章图片

文章图片
四川师范大学网络与通信技术研究所所长李焕洲
作为AI安全技术矩阵的另一大分支，李志辉教授将重点放在了以自动推理为核心的可信性研究领域。这一技术的应用对于源码漏洞挖掘、协议漏洞挖掘、需求漏洞挖掘、网络漏洞检测与智能管控等方面的提升正发挥着越来越重要的作用，而基于逻辑推理的安全可信性研究，也是解决AI安全问题的一个优选项，尤其是基于推理的形式化验证。
【i黑马百度连续第三年主办AI安全论坛，“天府杯”2020聚焦AI+新基建】

文章图片

文章图片
西南交通大学系统可信性自动验证国家工程实验室常务副主任李志辉
受到海外疫情交通管控的影响，来自德国CISPA的张阳博士通过远程视频的方式与会上的国内嘉宾分享了其在机器学习与隐私方面的研究，特别是利用机器学习模型应对隐私问题及关于机器学习模型本身的隐私隐患。而他也介绍了欧洲在AI安全方面的前沿进展，例如在常见的对抗样本攻击之外，针对GNN图神经网络的攻击所导致的隐私泄露问题。

文章图片

文章图片
CISPA亥姆霍兹安全研究中心张阳
相较学术界对于专业领域的深入研究，来自产业界的安全专家们则将关注点更多地聚焦在了AI安全对现时安全挑战的赋能方面。会上，成都无糖技术合伙人李维介绍了电信诈骗、网站诈骗等网络犯罪案例中的人机对抗行为及当前业界取得的一系列战果；而蚂蚁集团对抗智能负责人薛峰则以未知风险快速准确识别、风险水位感知、实时检测能力为下一代安全技术的三大模块，落点于今后对抗智能技术体系的建设。

文章图片

文章图片
成都无糖技术合伙人李维

文章图片

文章图片
蚂蚁集团对抗智能负责人薛峰
随着我国逐步进入经济智能化的深度发展阶段，以人工智能为代表的新技术、新应用正在迸发出越来越大的能量。而在当下新旧安全问题不断叠加的趋势下， AI安全防护技术的持续升级也正在为我们提供新的工具去更有效地应对这些安全挑战，而其自身也已成为AI体系构建过程中不可或缺的重要一环。

i黑马 百度连续第三年主办AI安全论坛，“天府杯”2020聚焦AI+新基建( 二 )

i黑马百度连续第三年主办AI安全论坛，“天府杯”2020聚焦AI+新基建( 二 )