AI如何筑起安全高墙？来看看Create大会上百度交出的答案( 二 ) 土巴兔|产业链|联发科|科技公

百度在获得了所有主流隐私计算相关评测、认证的同时，也参与并主导了多个隐私计算团体、行业、国家、国际标准，在数据安全和隐私保护技术方面建立了多维度行业影响力，更是世界上最流行的机密计算开源框架Teaclave的主导者。目前，百度点石已在政务、金融、医疗、电商、教育、媒体等多个领域成功落地。

文章插图
百度安全部主任架构师包沉浮以在《AI安全和隐私的产业实践探索》说道，AI模型作为整个AI系统的最核心要素，它的安全性和隐私性是迫切需要考虑的问题。一方面，AI 算法的复杂性可能导致错误的决策并引发安全风险，另一方面，AI 模型的数据流可能引发数据和隐私泄露风险。
为此，百度推出了基于深度学习平台飞桨的安全和隐私套件PaddleSleeve，以帮助模型开发者及使用者系统性地评估并提升AI模型的安全性和隐私性。在AI Security和AI Safety方面，PaddleSleeve融合了百度安全Advbox对抗样本攻防工具及Robustness鲁棒性评估等诸多能力。在AI Privacy方面，PaddleSleeve可实现对模型数据被还原风险及模型是否存在关键信息泄露风险的检测。
目前，PaddleSleeve已在多个场景中实现对飞桨自定义及预训练模型，ResNet、YOLO等通用产业级模型的支持。而伴随一系列新功能的不断加入，百度安全也希望与学术界、产业界持续展开合作，以场景为驱动，面向产业实践，为AI模型安全与隐私保护提供更好的能力支撑。

文章插图
从AI Security对抗安全到AI Safety非对抗安全上，百度安全部主任架构师云朋以《基于图像感知的自动驾驶AI安全技术探索》为题，讲述了有关车辆感知的AI安全挑战。自动驾驶场景下的AI是源自于对物理世界感知的多种模型所构建，有着开放、持续变化的场景。除了算法安全外，人工智能安全还包含“实现安全”，相应的代码安全与场景安全的“实现安全”也直接影响着AI系统最终决策的完整性与安全性。
在当下算法安全风险的实际危害正逐步体现的自动驾驶场景下，百度安全通过自动驾驶仿真模拟，包含静态场景环境与可编程调整的动态环境多个接近现实的复杂驾驶场景, 用于分析自动驾驶软件如何应对异常驾驶场景。可根据描述在仿真环境构建场景，包含丰富的城市场景和天气条件、支持传感套件和环境的灵活配置、在对抗场景中融入AI对抗元素、在非对抗场景中聚焦边界信息及预留了地图、天气、障碍物修改接口。以便于自动驾驶场景下快速发现更多的风险行车条件。

文章插图
由此可见智能汽车将面临更多的安全挑战，并且这些安全问题之间也会相互影响。在错综复杂的环境下，百度Apollo信息安全负责人刘健皓在《Apollo汽车安全引擎—智能汽车安全最佳实践》中介绍如何打造一辆真正安全的智能汽车，Apollo汽车安全引擎作为中国首创的智能汽车安全动态安全防护体系，从安全设计与实现、安全运营与溯源、安全产品与应用三大维度来打造一辆真正安全合规的智能汽车，并形成贯穿汽车全生命周期的多维防御体系。
Apollo汽车安全引擎是一套智能汽车原生安全的汽车安全防护体系，具有原生、动态、智能三大特点，指可快速落地的成熟系统、主动防御系统、从感知智能到认知智能的全面提升，进而帮助车企合作伙伴“看见风险，预测攻击”，通过智能编排最大程度的快速阻断攻击。