CoWorker、生成AIのセキュリティに特化した「LLM診断サービス」を開始

CoWorker株式会社が提供を開始した「LLM診断サービス」は、同社のDXサービス内や企業の社内で利用される生成AIアプリケーションを対象としています。従来の脆弱性診断はWebアプリケーションやインフラ全体が主な対象でしたが、新サービスは「生成AIの安全活用」に焦点を当てています。背景には、LLMの普及に伴い、プロンプトインジェクションや情報漏えいといった従来型の診断では検出が難しいリスクが増えている現状があります。

診断は、主に3つの方法を組み合わせて実施されます。1つ目は、実運用環境に近い条件でチャットボットなどへの攻撃を試行する「ペンテスト診断」です。2つ目は、LLMが外部ツールと連携する部分の安全性を確認する「MCPサーバ診断」。3つ目は、LLM統合部分のコードを静的解析する「ソースコード診断」です。これにより、システム全体の安全性を多角的に評価します。

サービスの中心となるのは、同社が自社開発したAIエージェント「Red Agent」です。このAIは脆弱性診断ベンチマークで89.1%の検知率を達成しており、診断作業を自動化することで、従来数日かかっていた検証を数時間に短縮します。さらに、AIによる診断結果はセキュリティ専門家によるレビューを経て、リスク評価や具体的な改善提案を含む報告書にまとめられます。CoWorkerの代表取締役である山里一輝氏は、「AI企業として、AIの内部構造を理解した上での診断が重要」とコメントしています。

A. 企業が開発した生成AIアプリや社内チャットボットを対象に、AI特有のセキュリティリスクを評価するサービスです。

A. 実際に攻撃を試みるペンテストや、AIが外部ツールと連携する部分の診断、ソースコードの静的解析を組み合わせて実施します。

A. 自社開発のAI「Red Agent」が自動診断を行うため、従来の数日から数時間に短縮されています。

• 「LLM 診断サービス」詳細はこちら
• https://prtimes.jp/main/html/rd/p/000000018.000156001.html
• https://genai.owasp.org/llm-top-10/
• https://www.coworker.co.jp/contact
• https://www.coworker.co.jp/

O!Productニュース編集部からのコメント

AIが自動診断した結果を、人間の専門家がもう一度チェックする仕組みは安心感がありますね。生成AIを業務で使い始めた部署の責任者が、セキュリティ面の不安を解消する材料として使えそうです。

引用元：PR TIMES