NTTは11月16日、検査対象のソースコードを外部のAIサービスに送信せず、高度な脆弱性解析ができるAI技術を開発したと発表した。複数のオープンウェイトモデルに、脆弱性研究の知見を取り入れた解析技術とワークフロー制御の独自技術を組み合わせた。

脆弱性解析のベンチマーク評価では、成功率が従来手法の48%から63%へと15ポイント向上したという。高度な解析能力と、組織がAIを自ら選択・運用できるソブリン性の両立をめざす。

AIによる脆弱性発見では、モデルがプログラムを読み解いて脆弱性の仮説を立て、解析と検証を行う。専門家の調査に近い一連の作業を、自律的に繰り返し、並列で大量に実行できるのが特徴だ。ただ、その能力はモデル自体の性能だけでなく、解析の進め方を定める「ワークフロー」や、検証に使う「ツール」にも大きく左右される。

NTTはこの点に着目した。これまでの脆弱性研究で蓄積した知見をもとに、脆弱性が生じうる箇所についてAIに着眼点を与える手引きを作成し、解析ワークフローへ組み込んだ。これによりAIの能力を効果的に引き出し、成功率を高めたとしている。

評価には、AIエージェントの脆弱性解析能力を測るベンチマーク「CyberGym」を使った。約1500件の課題からメモリ破壊に関する150件を選び、既存の解析ワークフローと今回の改良手法を比較した結果、成功率は48%から63%に上昇した。

モデル自体の性能だけでなく、解析の進め方を工夫することで解析能力を高められることを確認したという。規模の異なるオープンウェイトモデルでも評価し、中規模モデルを組み合わせることで性能が向上する可能性も確かめた。

NTTは今後、これまで研究開発を進めてきた解析技術との連携も進める。この技術は、検査対象への入力を繰り返し変えて異常な動作を捉え、脆弱性の候補を見つけるもの。両者を組み合わせて発見能力をさらに高めるとともに、解析能力と計算資源のバランスを考慮し、組織が管理する環境でも使いやすい技術へ発展させるとしている。

関連リンク

プレスリリース