登顶Blackhat-云鼎实验室AI代码安全前沿技术分享

2025-08-07 15:21:13     来源:

两年前云鼎实验室的两位安全技术专家,在世界顶级安全峰会Blackhat USA上做过一次关于使用CodeQL进行二进制静态分析的演讲,创新性地将CodeQL应用到二进制分析领域,到目前为止在世界范围内也是独一无二的尝试。两年后,随着AI技术的蓬勃发展,我们将AI和静态分析技术深度融合,借助LLM和Agent体系,将静态分析的召回率和精确率都提升到前所未有的高度,并且在腾讯内部生产环境里落地应用,解决了很多现实风险问题。同时,我们也坚定的认为传统静态分析技术和CodeQL等分析工具仍有巨大的提升空间。AI和静态分析不是取代关系,是互相加持的关系。此次在Blackhat上的分享,一定程度上是对我们理念和实践的一次全面阐述。在此我们整理了一篇文章,将其中的一些技术要点做简单介绍。

首先,我们在代码安全扫描实践工作中,遇到了两个大的障碍是纯粹依靠静态分析难以解决的:

在污点分析中,因为开源项目众多,二开和定制化的情况也很多,source和sink点永远也收集不全,即便依赖知识库也难以达到好的覆盖。

在数据流分析中,限于很多编程语言的特性,比如各种异步调用和隐式传递,数据流分析经常会断流。而我们所做的工作也是集中解决如上的这两个问题。

基于大模型在训练阶段的知识嵌入和代码能力,业界已经发现大模型可以在代码中自动识别一些source和sink点,但是直接使用大模型带来的识别率和准确率无法让人满意。我们对应的解决方法是设计了一套多agent组合判定机制,其中包括三个重要角色,分别是Discover agentJudge agentValidation agent。三者分别负责发现判断验证。用这种将一个复杂任务拆解成多个简单任务,并由多个agent各自负责并循环提升的方式获得好的效果。目前我们这套流程每天都会自动发现和入库很多source sink点,并满足高精度要求。

当然,这里对源代码的处理不是简单的直接塞给LLM。中间我们适度地使用了LSP和其它analysis技术,让agent可以在代码间形成索引和跳转,按需获取必要的代码片段以及上下文信息。

另一个问题就是静态分析中最常见的数据流分析,限于很多语言特性数据流的传播不能保证完整性,一些隐式的方法调用和数据传递方式导致静态分析很难精确和完整的追踪数据流向。对此我们的解法是改造CodeQL的基础类库,将各种断链的情况解决掉。举几个例子比如代码中使用跨线程、反射、符号表等方法将传播流断开。

解决这些问题又存在两个难点,首先需要将CodeQL的DFA(Data Flow Analysis)机制研究清楚,但是CodeQL本身闭源,再加上QL是Datalog类的语言难以调试。我们克服了很多困难进行深入分析,最终把CodeQL的DFA机制研究清楚。具体技术细节这里不做展开,感兴趣的同学可以参考我们峰会演讲后的材料。

第二个难点就是跨线程、反射等情况下,对方法调用的精确定位比较难,封装层次、弱引用、继承关系、命名空间等都是问题。先要解决这些识别问题才能patch CodeQL以实现DFA的强化。最终我们能做到在跨线程、反射、隐式值传递等情况下的完整数据流分析。

在做了source/sink自动精整识别和DFA强化后,我们的代码安全检测能力如预期的一样获得了极大提升,可以7*24小时自动扫描出漏洞信息。基于此我们也发现了不少高危漏洞。这里拿几个历史漏洞来举例,当你使用原版CodeQL的情况下,如下的漏洞都不会被扫描出来,使用我们强化过的方案都可以做到扫描发现。

最后,我们想抛出一些明确的观点来供业界参考:

AI不是解决方案,AI是技术手段。大模型在很多场景下可以提供帮助,但是单靠AI远远不够。大模型再怎么训练本身可以嵌入的知识是有限的,没有外部LSP等技术的配合大模型没办法很好的工作。

静态分析仍然是很给力的技术手段。AI+静态分析可以互相促进获得之前不能达成的效果。两者相结合是未来代码分析的最佳形态。

体系和系统化是关键。需要一个Driver去驱动各种Agent和工具来一起完成代码分析任务。

 

标签:

猜你喜欢

从三甲医院到民营机构,长寿抗衰门诊全面爆发,时光派Timecure强势走红
从“智慧零碳”码头感受百年大港现代风貌
华为体系化战法,医疗行业已然感知
以“三层五阶八步”破解转型难题,华为助力千行万业加速数智化
聚焦智能芯片研发寒武纪构筑人工智能核心竞争力
当Linux创始人遇见非洲工程师:openKylin的跨国开源日记
美的携手SIA科盟启动《健康沐浴科普计划》,用行动呼吁公众对水质健康的关注
招银国际上调瑞声科技目标价至63.54港元,看好AI发展
从技术突破到场景落地,节卡机器人WRC上领跑具身智能赛道
大明眼健康科普馆举办爱眼护眼活动
“学霸级”平板驾到!联想小新Pro GT:性能、轻薄、AI全都要,到手仅需1599元起
海信家电半年报:业绩稳中有进 国内外市场协同发力
阿里云AI势能峰会·合肥启幕 共探AI与产业融合新路径
深信服信创超融合实现在海光CPU架构下 IOPS 性能提升20%
从怀疑到惊艳!茉酸奶冷萃系列如何打破传统酸奶饮品想象
大疆首款扫地机器人京东全网首发! 下单赠送499元官方配件礼包
奥特曼携手跃然创新布局智能玩具市场,首款 AI 玩具即将发售
碰一碰秒传视频,还能语音三连!鸿蒙版哔哩哔哩太秀了!
AI赋能,智绘未来,华为助力冷链物流高质量发展
引领抗衰设备出海潮,瑞健未来Rlab冷冻舱新升级,国际订单飙升128%
数智赋能冷链物流,华为赋能物流行业发展新范式
2025 Chinajoy:八位堂×解限机携手掀起游戏风暴
数智赋能冷链新未来 华为以技术创新驱动冷链行业高质量发展
硬件与应用同频共振,英特尔Day 0适配腾讯开源混元大模型
爆款矩阵筑牢第一地位:伴鱼以 AI 与阅读重构少儿英语生态
【深度解析】只要三件事,中小企业AI快速落地
不伤牙推荐!锐舞气泡电动牙刷沉浸式测评
多家抖音平台团播机构倡议:合法合规经营、保障主播权益、抵制不良内容
企业在为哪些Agent付费?价值交付是唯一通行证
从数字枷锁到智能伙伴:AI Agent正在系统性重构CRM价值逻辑