商务合作

AI时代「矛」与「盾」的博弈︱瑞莱智慧的「AI安全观」

2022-01-06 15:45:23 原创    来源:CPS中安网 作者:罗超 责任编辑: lxy 收藏本文
摘要:通过升级技术手段打造动态防御机制,构建安全可控的智能新底座,助力人工智能产业从高速发展迈向高质量发展的新阶段。

    【CPS中安网 cps.com.cn】 任一科技都有两面性,如“双刃剑”。AI是这时代最显著的技术印迹,在大刀阔斧重构世界时,一场AI安全风暴,引发了行业新思考,也敲响了AI十字路口下的安全警钟。

12月26日,第十八届中国国际社会公共安全博览会在深圳福田会展中心隆重召开。同期的第十六届中国安防论坛·技术论坛上,瑞莱智慧副总裁唐家渝分享了《人工智能时代的安全新风险与应对》的主题演讲。

记者从业十六年,但还是第一次接触与AI安全相关的科技企业,听得一知半解间,为进一步探知瑞莱智慧的所思所想以及商业逻辑与征战路径,在论坛之后对唐家渝进行了专访。

图片

瑞莱智慧RealAI 副总裁 唐家渝

AI安全“方法论”:以己之盾,御彼之矛

瑞莱智慧孵化自清华大学人工智能研究院,致力于贝叶斯深度学习、AI对抗攻防等第三代AI技术的研究。

对于为什么以AI安全入局的话题,唐家渝介绍到,当前以深度学习为代表的第二代AI是智能安防领域最为熟知的,但深度学习算法是个“黑盒子”,即便是开发者也难以理解其内在的运行逻辑,这就导致系统可能遭受到难以被察觉的恶意攻击。

以对抗样本攻击举例,通过对输入数据故意添加干扰,使肉眼或许难以发现,但却能误导算法以高置信度给出错误输出。

随着计算机视觉技术在安防领域的广泛应用,这一安全风险的真实威胁开始显现。在展台,瑞莱智慧现场演示了实际的攻击风险,比如“隐身衣”。

正常情况下,广泛应用于安防场景的目标检测系统,能实时检测出摄像头前经过的人或物体。但瑞莱智慧开发了一件特制T恤,基于算法漏洞生成特定图案,然后印刷在T恤上,能够让识别算法出错、捕捉不到目标,人一旦穿上便可以实现“隐身”。

唐家渝补充道,在公共安全领域,这可能被不法分子用于隐身逃逸,躲避摄像头的追捕,甚至交通领域的自动驾驶汽车,可以被该技术手段干扰“致盲”,引发安全事故等。

图:AI版“隐身衣”演示

除了算法漏洞,唐家渝表示,“数据驱动”衍生的安全风险还远不于此,比如海量人脸数据被恶意采集、滥用,导致用户隐私泄漏;泄露的人脸照片在表情驱动算法下生成伪造视频,用于攻破人脸核验系统等,概括来说,算法有漏洞、数据不安全、应用不可控。

有安全问题就需要有应对措施,所以瑞莱智慧定位“安全AI”这一全新市场机会,去帮助万千场景的智能化升级提供安全底座。

时与势结合,瑞莱智慧的入局与布局才顺理成章。目前,随着AI应用进入一个领域化的阶段,数据收集越来越多,场景应用也越来越深,安全隐患也愈发加剧。

2019年以来,中国先后发布《新一代人工智能治理原则——发展负责任的人工智能》《全球数据安全倡议》等文件,明确了人工智能治理框架和行动指南,今年《数据安全法》、《新一代人工智能伦理规范》也相继发布,人工智能安全治理的重要性被提升到国家战略高度,这也为瑞莱智慧提供了时代机遇。

安全的本质是攻防较量,瑞莱智慧也因此提出“方法论”,通过升级技术手段打造动态防御机制,构建安全可控的智能新底座,助力人工智能产业从高速发展迈向高质量发展的新阶段。以己之盾,御彼之矛,是为此理。

主被兼顾,瑞莱智慧的“安全观”

在具体布局上,瑞莱智慧创新性地提出了兼顾“被动”和“主动”的防御机制。唐家渝解释道,被动防御是为AI应用部署静态的安全能力,防范已知安全风险,比如对外部访问、输入数据、行为决策等进行检测,为算法模型部署加固防护组件等,提升系统抵御攻击的能力。

主动防御则是为补充被动式防御的局限,引入和强化人工智能安全团队力量,以动态防御对未知威胁进行风险预判,构建自适应、自生长的安全能力。在此机制下,瑞莱智慧带来了“四大安全平台”。

RealSafe:被动防御的自我检测安全体

这是业内首个业务级的人工智能安全平台,集成国际领先的对抗攻防算法,提供端到端的模型安全检测能力,可自动化高效评估AI系统安全风险,并提供安全性增强方案。

唐家渝介绍说,背后的逻辑是,通过搭载的攻击算法对系统进行模拟攻击,评估系统表现,综合给出安全性评分,指出安全漏洞在哪,用户再通过搭载的防御算法,针对性的进行加固提升,类似于人工智能时代的“杀毒软件”。

目前,这一平台支持对抗样本攻击、算法后门两类安全漏洞的检测,支持人脸识别、目标检测、图像分类等场景。

值得一提的是,RealSafe的测评方式是完全黑盒的,即无需知道被测模型的内部结构、参数,充分保护了被测方的知识产权,并且支持数字世界与物理世界下的攻击测评。

AI换脸检测平台:火眼金睛确定“你只能是你”

当前,火爆社交网络的“AI换脸”正成为人工智能技术滥用的重灾区。瑞莱智慧现场展示了一段将观众的脸“换”到恶搞舞蹈中的视频。

研发人员表示,随着开源工具的普及,AI换脸的技术门槛越来越低,因此被大规模用于非法伪造公众人物肖像吸引流量牟利,甚至是操纵舆论、网络欺诈等违法犯罪行为。

为此,瑞莱智慧开发了深度伪造内容检测平台DeepReal,支持快速、精准地对多种格式与质量的图像与视频进行自动化的真伪鉴别,可应用于检测图像物证真实性、检测网络内容合规性、打击侵害个人声誉行为、提升人脸识别系统安全性等多个场景。

唐家渝介绍道,该平台在主流学术数据集和网络数据集中的检测准确率高达99%以上,产业应用中检测准确率和效率均达业界顶尖水平。

AI安全防火墙:抵御人工智能新型攻击的最牢屏障

防火墙的概念早已有之,唐家渝介绍道,AI安全防火墙的产品逻辑与传统网络安全防护墙类似,在正常的业务系统中前置部署防火墙模块,检测和抵御针对系统的特定攻击行为,但网络安全防火墙保护的对象是程序系统,AI安全防火墙保护的是算法系统。这是业内首个AI安全防火墙,可提供对抗样本攻击、深度伪造攻击等攻击方式的检测。

该平台的部署中也非常简单,传统的人脸识别过程一般会有活体检测的模块,检测是否有照片、屏幕等非人体的攻击,与活体检测模块类似,AI安全防火墙可直接集成到当前的人脸识别系统中,用于检测有没有针对算法的新型攻击。

智能安全靶场:主动防御的安全体

相较于前几个平台以被动防守为主,瑞莱智慧也推出业内首个人工智能安全靶场RealRange,提供实战化、体系化的一站式人工智能攻防演练服务。

类似于“演兵场”,实现主动防御,该平台基于攻防实战演练将人工智能安全风险暴露前置,提前发现和适应瞬息万变的新型攻击和高级威胁,动态提升团队软实力,快速弥补技术水平与经验的不足,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

这就是瑞莱智慧此次安博会的“全貌”,在AI时代「矛」与「盾」的博弈中,瑞莱智慧的「AI安全观」,独树一帜,也自成一派。

声明:

凡文章来源标注为"CPS中安网"的文章版权均为本站所有,如需转载请务必注明出处为"CPS中安网",违反者本网将追究相关法律责任。非本网作品均来自互联网并标明了来源,如出现侵权行为,请立即与我们联系,待核实后,我们将立即删除,并向您致歉。

分享到:
本文导航

您可能感兴趣的文章

征稿:

为了更好的发挥CPS中安网资讯平台价值,促进诸位自身发展以及业务拓展,更好地为企业及个人提供服务,中安网诚征各类稿件,欢迎有实力安防企业、机构、研究员、行业分析师。投稿邮箱: tougao@cps.com.cn(查看征稿详细)

品牌推荐

联系我们

客服电话:0755-23947175

客服QQ:1144734650

寻求报道:yl.zeng@cps.com.cn

投稿联系:tougao@cps.com.cn

关注我们

WeChat ID: cpscomcn

手机中安网

m.cps.com.cn

备案号:粤ICP备09063021号    电信增值业务经营许可证:粤B2-20100259       客服热线:0755-88309108  
粤公网安备:44030402001522号      深圳市中安网络技术有限公司版权所有Copyright © 1999- 中安网 CPS.COM.CN