見えないAIの脅威を暴く。NRIセキュアが「深層型AI Red Team」で内部状態を可視化
公開日:
NRIセキュアテクノロジーズは、AIエージェントの内部動作を可視化し、従来の手法では見つけにくかったセキュリティ上の脅威を検出する新サービス「深層型AI Red Team」の提供を開始しました。業務効率化のために導入が進むAIエージェントですが、その自律的な振る舞いが新たなリスクを生んでおり、対策が急がれています。
ポイント
- 1AIエージェント特有の脅威の約7割は、従来の手法では検出が困難
- 2独自ツール「ai-guard」でAIの内部動作をリアルタイムに可視化・分析
- 3専門家の知見とAIを組み合わせたハイブリッドなアプローチで診断
内部を可視化し、AIエージェントの潜在リスクに対応
NRIセキュアテクノロジーズが新たに提供を開始した「深層型AI Red Team」は、AIエージェントシステムの内部に潜む脅威を検出するセキュリティ診断サービスです。近年、AIエージェントの導入が加速する一方で、その自律性や複雑な内部動作に起因するセキュリティインシデントが問題視されています。
同社の分析によると、Webセキュリティの国際的なコミュニティOWASPが定義するAIエージェントの脅威15項目のうち、実に11項目（約73%）は、チャット画面など外部からの検証が中心となる従来のアプローチでは検出が困難だといいます。自律的な実行能力の悪用や、本来の目的の改変といった脅威は、外部から観察するだけでは見抜くことが難しいのが実情です。
独自ツールと専門家の知見で高度な診断を実現
この課題に対し、新サービスでは独自開発したツール「ai-guard」を活用。このツールは、AIエージェントのプログラム自体を変更することなく、その内部の推論プロセスやメモリ状態、エージェント間の通信などをリアルタイムで可視化・分析します。これにより、これまでブラックボックスとされがちだったAIの内部動作を把握し、OWASPが定義する全ての脅威項目に対応した診断が可能になりました。
さらに、可視化された内部情報をもとに、NRIセキュアのセキュリティ専門家が高度な攻撃シナリオを立案して診断を実施。これにAIを活用した自動検出を組み合わせることで、診断の品質と効率性を両立させている点も大きな特長です。
2026年には継続的な監視サービスも提供予定
NRIセキュアは、今回の診断サービスで得られた知見を活かし、本番環境で脅威を継続的に監視する「深層型AI Blue Team」を2026年前半に提供する計画も明らかにしました。現在、この新サービスの開発に向けた実証実験（PoC）に参加する企業を募集しており、「診断から監視、改善へ」という持続可能なセキュリティ運用サイクルの構築を目指すとしています。
引用元：PR TIMES
O!Productニュース編集部からのコメント
AIの進化は便利ですが、その「頭の中」が見えないのは不安要素でした。内部を可視化するというアプローチは、AIを安全に活用するための新たな標準になるかもしれません。企業のAI導入担当者にとって注目の動きです。
