チェック・ポイント・ソフトウェア・テクノロジーズは6月19日、米カリフォルニア州サンフランシスコで開催されたRSAカンファレンス2025で初のAIセキュリティレポートを発表した。
このレポートは、サイバー犯罪者たちによるAIの武器化について詳しく調査し、信頼性が特に損なわれている4つの主要分野を明らかにしている。その概要は以下のとおり。
●AIを活用したなりすましとソーシャルエンジニアリング
脅威アクターはAIを使用して、リアルタイムの精巧なフィッシングメール、偽の音声、ディープフェイク動画などを作成している。最近の事例では、攻撃者がAI生成音声を使用してイタリア国防大臣になりすました事件があり、インターネット上の声、顔、手書きの文字のいずれも捏造される可能性が高く、安全ではないことが証明された。
●LLMデータ汚染と偽情報
悪意ある攻撃者はAIの訓練データを操作してアウトプットを歪めている。ロシアの偽情報ネットワーク「Pravda」が関与した事例では、AIチャットボットが33%の確率で虚偽の情報を繰り返すという結果が出ており、AIシステムにおける堅牢なデータインテグリティの必要性が強調されている。
●AIによるマルウェア作成とデータマイニング
サイバー犯罪者はAIを利用してマルウェアを作成・最適化し、DDoS攻撃の自動化、窃取した認証情報の精査を行っている。Gabbers Shopのようなサービスは、AIを使用して盗まれたデータを検証・クリーニングし、転売価値とターゲット効率を高めている。
●AIモデルの悪用と乗っ取り
盗まれたLLMアカウントからFraudGPTやWormGPTといったカスタムメイドのダークLLMまで、攻撃者たちは安全機構を回避し、ダークウェブ上でハッキングや詐欺のツールとしてAIを商業化している。
■防衛戦略
レポートでは、防衛する側が、今やAIが攻撃に組み込まれていることを前提にすべきだと強調。これに対抗するため、組織は次のようなAIを意識したサイバーセキュリティフレームワークを導入する必要があるとしている。
●AI支援型の検知と脅威ハンティング
AIを活用して、合成のフィッシングコンテンツやディープフェイクなど、AI生成の脅威や不正なコンテンツを検出。
●本人確認の強化
従来の手法を越えて、テキスト、音声、動画にわたるAIによるなりすましを考慮した多層的な本人確認を実施し、デジタルIDの信頼性はもはや保証されないという認識を持つことが重要。
●AIコンテキストによる脅威インテリジェンス
セキュリティチームにAI駆動の戦術を認識し対応するためのツールを配備。
関連リンク