見えないAIの脅威を暴く。NRIセキュアが「深層型AI Red Team」で内部状態を可視化

NRIセキュアテクノロジーズが新たに提供を開始した「深層型AI Red Team」は、AIエージェントシステムの内部に潜む脅威を検出するセキュリティ診断サービスです。近年、AIエージェントの導入が加速する一方で、その自律性や複雑な内部動作に起因するセキュリティインシデントが問題視されています。

同社の分析によると、Webセキュリティの国際的なコミュニティOWASPが定義するAIエージェントの脅威15項目のうち、実に11項目（約73%）は、チャット画面など外部からの検証が中心となる従来のアプローチでは検出が困難だといいます。自律的な実行能力の悪用や、本来の目的の改変といった脅威は、外部から観察するだけでは見抜くことが難しいのが実情です。

この課題に対し、新サービスでは独自開発したツール「ai-guard」を活用。このツールは、AIエージェントのプログラム自体を変更することなく、その内部の推論プロセスやメモリ状態、エージェント間の通信などをリアルタイムで可視化・分析します。これにより、これまでブラックボックスとされがちだったAIの内部動作を把握し、OWASPが定義する全ての脅威項目に対応した診断が可能になりました。

さらに、可視化された内部情報をもとに、NRIセキュアのセキュリティ専門家が高度な攻撃シナリオを立案して診断を実施。これにAIを活用した自動検出を組み合わせることで、診断の品質と効率性を両立させている点も大きな特長です。

NRIセキュアは、今回の診断サービスで得られた知見を活かし、本番環境で脅威を継続的に監視する「深層型AI Blue Team」を2026年前半に提供する計画も明らかにしました。現在、この新サービスの開発に向けた実証実験（PoC）に参加する企業を募集しており、「診断から監視、改善へ」という持続可能なセキュリティ運用サイクルの構築を目指すとしています。

引用元：PR TIMES

O!Productニュース編集部からのコメント

AIの進化は便利ですが、その「頭の中」が見えないのは不安要素でした。内部を可視化するというアプローチは、AIを安全に活用するための新たな標準になるかもしれません。企業のAI導入担当者にとって注目の動きです。