チェック・ポイント・ソフトウェア・テクノロジーズは2月7日、同社の脅威インテリジェンス部門であるチェック・ポイント・リサーチ（CPR）が、DeepSeekやQwenが悪意あるコンテンツの開発に悪用されていることを発見したことを発表した。サイバー犯罪者たちは、ChatGPTからDeepSeekやQwenといった新しいAIモデルに移行して、それらを悪用しているという。その概要は以下のとおり。
脅威アクターたちが、AIモデルを操作して検閲されていないコンテンツを表示させる方法を共有しており、結果としてハッカーや犯罪者たちがAIを悪意のあるコンテンツの作成に利用することを可能にしている。
ジェイルブレイクと呼ばれるこの手法には、AIモデルの制限を解除するための様々な方法がある。さらに最近では、ジェイルブレイクの方法や不正防止機能の回避方法、さらにはマルウェアの開発方法そのものまでを解説した詳細なガイドが出回っている。
今回の発表では、サイバー犯罪者が最新のAIモデルを悪用して有害なコンテンツを作成し、ジェイルブレイクによってAIの機能を改変し、高度なサイバー攻撃を実行する方法について詳しく解説している。これらの悪意ある活動の実例を示しながら、進化し続ける脅威に対して、より一層の警戒が必要とされる理由を明らかにしている。
関連リンク