二进制|安全419深度丨为什么认为极光无限是一家真正的AI安全公司?( 四 )


而最早俄罗斯AI安全团队也只专注于学术研究,尽管也在实验环境中取得了一些研究成果,但当真正的把研究成果应用于产品开发的时候,很快就发现这些研究成果是完全不能落地的,并没有做好学术和工业界之间的平衡,随后便迅速纠正了自己的研究思路。
在真正开始着手打造维阵产品的时候,AI专家团队前期开展了大量的论文、文献的查阅工作,在经过大量理论对比以及实验后,确认图神经网络才是将AI应用于漏洞检测方向最好方向。随后该团队便在图神经网络方面展开了包括理论分析、模型搭建、模型测试等等大量的探索,逐步搭建了一个目前所知用于静态检测二进制文件漏洞效果最佳的模型—分层图神经网络模型(Hierarchical Graph Neural Networks)。
“AI安全是一个非常复杂的领域,我们把最前沿的AI技术与安全研究相结合,然后转化成了我们现有的维阵产品这样的一个解决方案,实现了人工智能在二进制漏洞检测方面的有效应用。我们的维阵产品已经能够正确地预测二进制文件中的漏洞情况,目前无论是在实验室还是在生产环境下面,测试的结果都已证明我们是最优的。”

未来注定是属于AI与AI之间的对抗
事实上,站在安全另一面的攻击者们,已经大肆利用AI工具来发动攻击,网络安全领域下一场攻防对抗,或许注定会是自动化与自动化的对抗。蒋博士最后告诉我们,摆在极光无限面前的还有诸多难题,图神经网络AI安全模型也仍然需要持续的优化,尽管AI安全还有很长的路要走,但他们仍然在加大对AI安全的投入。
关于下一步的研究目标,在蒋博士心中也已经有了明确的方向。他告诉我们,首先在AI二进制漏洞检测方面,仍然需要投入大量的优化工作,进一步提升图神经网络模型的效果,持续的降低检测过程中遇到的假阳性。
“现在我们已经基本实现了基于AI的漏洞检测发现,但我们希望不光是能够预测漏洞,而是结合AI直接进行漏洞验证甚至是漏洞修复。预测哪些部分可能会存在漏洞,然后希望能够基于这样一个预测结果来进行自动化验证,确定他的准确性,最终给出一个修复方案,甚至是能够自动地打上补丁,完成从漏洞预测到漏洞验证,再到漏洞修复的全部流程。”
“这个目标是比较有想象力的,也是激动人心的,或许直到这一天我们才认为真正的实现了AI安全”,蒋博士说到。