GMOサイバーセキュリティ、AIエージェント侵入テストを開始

様々な業種で業務自動化や生産性向上を目的としたAI活用が加速しています。その反面、意図しない情報漏えいや、AIがサイバー攻撃の踏み台になるリスクへの懸念が高まっています。こうした背景から、GMOサイバーセキュリティ byイエラエは、ホワイトハッカーのノウハウを活かしたペネトレーションテストの提供を開始しました。

本サービスでは、お客様のAI利用状況をヒアリングし、テスト用の社員向け業務用パソコンをお借りして、実際の攻撃者と同じ手法でリスクを検証します。LLMに対するプロンプトインジェクションの動作確認に加え、AIが持つシステム権限や連携システムも対象にします。これにより、情報漏えいや不正操作につながる具体的なリスクを可視化し、対策を提案します。

業務でAIを利用する際には、悪意のあるプロンプト混入による情報漏えい、必要以上に付与された権限による操作範囲の逸脱、外部システムとの連携を悪用した横展開などのリスクがあります。調査対象には、Microsoft 365 CopilotやAzure OpenAIなどのエンタープライズAIサービス、業務自動化AIエージェント、社内RAGシステム、チャットボットなどが含まれます。

本サービスは、AIセーフティ・インスティテュート（AISI）が発行する「AIセーフティに関するレッドチーミング手法ガイド（第1.10版）」に基づいた検証も可能です。これは、AIシステムの開発者や提供者が、リスク対策を攻撃者の視点から評価するための手法をまとめた資料です。

A. 企業が業務で使うAIに対し、ホワイトハッカーが攻撃者の手法で侵入テストを行い、情報漏えいなどのリスクを検証するサービスです。

A. プロンプトインジェクションによる情報漏えいや、AIに付与された過剰な権限の悪用など、実業務に直結するリスクを重点的に確認します。

A. Microsoft 365 Copilotや社内RAGシステム、チャットボットなど、業務に組み込まれた幅広いAI機能が対象です。

• https://gmo-cybersecurity.com/service/assessment/ai-agent/
• https://gmo-cybersecurity.com/contact/service/
• https://gmo-cybersecurity.com/
• https://www.group.gmo/
• https://group.gmo/news/article/10000/

O!Productニュース編集部からのコメント

社内AIに実際の攻撃手法でテストするサービス、待ってた人多いかもですね。Copilot使う企業なら一度受けておくと安心です。

引用元：PR TIMES