トレンドマイクロの法人向けブランドTrendAIとPwCコンサルティングは7月17日、共同レポート「自律するAIの時代：AIエージェントのサイバーリスクと実践的ガバナンス」を公開した。その概要は以下のとおり。
TrendAIはPoC環境を構築し、Anthropic・OpenAI・Google・DeepSeekの主要4ベンダー・13モデルに対して自動生成した200種類の攻撃用プロンプトを用い、合計2600件の並列テストを実施。複数ベンダーのモデルで攻撃が成立することを確認した。
これは特定モデルの問題ではなく、AIエージェントのアーキテクチャに起因する構造的課題であることを示している。
実証した攻撃シナリオは2件。1件目は、Webフォームから送信されたサポートチケット内に不正命令を埋め込み、AIエージェントにデータベースツールを連鎖呼び出しさせて認証トークンを含む機密情報を窃取するもの。
2件目は、パスポート画像内に偽装命令を埋め込み、他の顧客のパスポート情報（氏名・旅券番号・生年月日等）を窃取するもの。いずれも「高い権限を持ちながら外部データを処理するAIエージェント」が攻撃対象となっており、特定業種に限られた問題ではない。
攻撃が成立する根本原因は、現在の言語モデルが「データ」と「命令」を厳密に区別できないアーキテクチャにある。AIエージェントが複数ツールを自律的に連鎖呼び出しすることで、想定外の情報窃取やデータ改ざんへと影響が拡大する。
このため本質的な対策は、AIモデルの変更ではなく、最小権限の徹底・ツール呼び出しの制限・行動の観測性と制御性の確保といったシステム設計と運用統制にある。
ガバナンスの枠組みとしてPwCコンサルティングは、AIエージェントの「自律性5段階レベル（L1〜L5）」と「5つの機能ドメイン」を軸にリスクの発生・連鎖・増幅の構造を整理。AIエージェントを本番環境に安全投入できる水準を定義する「AI統制保証水準（AI-CAL）」を提唱した。
AI-CALは経営層とセキュリティ部門が技術詳細に立ち入らず共通言語で統制水準を議論できる実務的フレームワークである。
日本の法人組織が優先すべき取り組みとして、「権限管理の確立」「観測性・制御性の基盤整備」「AI-CAL評価プロセスの制度化」の3領域を整理し、導入段階に応じた実装ロードマップとして提示している。
関連リンク