AI如何筑起安全高墙？来看看Create大会上百度交出的答案

2021百度CREATE大会是国内首次以元宇宙形式举办科技大会，通过虚拟世界和现实世界无缝切换的沉浸式交互方式在希壤 APP举办，可同时容纳10万人同屏互动。本次百度CREATE大会的AI安全分论坛也在希壤中盛大展开，基于百度安全率先提出的Security、Safety和Privacy三大AI安全研究维度，AI安全论坛集中展现了百度在AIoT、模型安全、隐私计算及自动驾驶等方面上取得的创新与进展。
AI技术领域火热的研究趋势和高效的开发迭代速度可以应对日益剧增的需求，但技术的频繁更新和开发的高速迭代仍对底层的计算框架的安全性带来了冲击，Security、Privacy和Safety三大AI安全研究维度，分别指向了对抗安全、数据安全与隐私保护及非对抗安全。百度首席安全科学家李康在会上分享了《百度AI安全研究的进展与愿景》的主题演讲，在过去的一年里，百度安全以PaddleSleeve、PaddleFL、Teaclave、史宾格安全及隐私合规平台、AI 鲁棒性评测报告等重磅产品技术发布迭代，分别在模型安全、数据安全及AIoT等多个方面取得了长足的进展。
李康表示，百度安全将会持续关注AI安全，防御手段将会是系统安全技术与应用层防御结合，全方位保护AI系统的安全。随着一系列新功能的加入，百度安全希望与学术界、产业界持续展开合作，以场景为驱动，面向产业实践，为AI模型安全与隐私保护提供更好的能力支撑。

文章插图
随着百度旗下的小度、汽车及智能车联网等AIoT业务高速发展，AIoT安全面临着供应链复杂、数据安全薄弱、政策监管趋严和攻击事件激增的新挑战，而相应的措施不该是“外挂”的方案，应是随系统内建的体系。
百度安全部AIoT业务副总经理聂科峰表示，百度安全提出一套内驱型安全体系建设的新思路，重塑安全体系构建模式，将由攻击事件驱动的安全需求转向主动安全体系建设，把可信架构、云管端安全、数据隐私和持续安全运营都在产品设计之初规划好。
以小度人工智能助手为例，百度安全首先为度秘的产品设计引入安全评审环节，建立独立的安全需求池。其次，将DevSecOps持续交付，辅以安全套件降低编码漏洞与例行的安全培训。第三，引入的代码、测试需通过AIoT安全检测服务，该服务支持App与固件扫描，也支持深度动态扫描。第四，以渗透测试服务发现业务逻辑问题。第五，建立完善的应急流程，建立多渠道的攻击情报收集，建立例行漏洞SecurityPatch机制，建立定期攻防演练。最后，与华住集团在智慧酒店的场景中实践，将华住深度卷入整个体系流程中，耦合进各个环节当中。总的来说，把AIoT安全贯穿在整个产品生命周期，从产品设计到EVT、DVT与销售等环节。

文章插图
百度安全部数据安全业务副总经理韩祖利带来的《隐私计算铸就数据流通新体系》主题演讲则聚焦在数据安全与隐私保护上。他表示，基于百度安全21年来在信息与安全上的成功经验，夯实了数据安全的强大基础，在AI Privacy上沉淀出了数据全生命周期保护、多场景一体化平台与灵活可嵌入的三大特点。以百度点石打造了一套集规则与工具一体的解决方案，通过技术与规则的巧妙结合，赋能企业机构实现“数据可用不可见”与“数据不动算法动”基础之上的隐私计算。百度点石整合了信息安全技术、隐私计算技术、区块链技术，基于数据安全沙箱、联邦学习平台（FL）、多方安全计算（SMPC）、机密计算（MesaTEE）四款隐私计算引擎，沉淀形成了整套的数据安全及隐私保护解决方案。
百度在获得了所有主流隐私计算相关评测、认证的同时，也参与并主导了多个隐私计算团体、行业、国家、国际标准，在数据安全和隐私保护技术方面建立了多维度行业影响力，更是世界上最流行的机密计算开源框架Teaclave的主导者。目前，百度点石已在政务、金融、医疗、电商、教育、媒体等多个领域成功落地。

文章插图
【 AI如何筑起安全高墙？来看看Create大会上百度交出的答案】百度安全部主任架构师包沉浮以在《AI安全和隐私的产业实践探索》说道，AI模型作为整个AI系统的最核心要素，它的安全性和隐私性是迫切需要考虑的问题。一方面，AI 算法的复杂性可能导致错误的决策并引发安全风险，另一方面，AI 模型的数据流可能引发数据和隐私泄露风险。