AI活用の裏に潜むリスクを可視化、神戸デジタル・ラボが新サービスを提供開始
公開日:
株式会社神戸デジタル・ラボは、生成AIを活用したWebアプリケーションに特化した「AIシステムのセキュリティ診断サービス」の提供を始めました。AIの業務利用が広がる中で懸念される、プロンプトインジェクションや情報漏えいといった新たなセキュリティリスクの検査・分析を行い、企業の安全なAI活用を支援します。
ポイント
- 1プロンプトインジェクションなど、生成AI特有の脅威に特化した診断を提供
- 2従来の診断では見つけにくい、AIの挙動に起因する脆弱性を検査
- 3AI開発とセキュリティ両方の知見を活かした、実践的な改善提案が強み
AI特有の脅威に対応する新診断サービス
株式会社神戸デジタル・ラボが、生成AIを組み込んだWebアプリケーションを対象とする「AIシステムのセキュリティ診断サービス」を新たにリリースしました。このサービスは、AIモデルへの直接的なプロンプト送信やWebアプリケーションの操作を通じて、AI機能に起因する脆弱性を診断するものです。
サービス提供の背景にある「新たなリスク」
近年、多くの企業が業務効率化のために生成AIや大規模言語モデル（LLM）の活用を進めています。その一方で、ユーザーからの入力を悪用してAIに意図しない動作をさせる「プロンプトインジェクション」や、AIの応答に内部の機密情報が含まれてしまう情報漏えいなど、これまでにないセキュリティリスクが課題となっています。同社は、こうしたAI特有のリスクに対応するには、従来の診断とは異なる新しい視点が必要だとしています。
具体的な診断項目とサービスの特長
本サービスでは、「プロンプトインジェクション」や「機密情報・システムプロンプトの漏えい」、「コード実行・スクリプト誘発」といった項目を重点的に検査します。同社は、セキュリティサービス「Proactive Defense」で長年培ってきた診断ノウハウに加え、自社でも生成AIを組み込んだシステム開発を手がけているとのこと。セキュリティとAI開発、両方の知見を組み合わせることで、より実務に即した改善提案が可能だとしています。
引用元：PR TIMES
O!Productニュース編集部からのコメント
AIの導入は進むものの、セキュリティ対策は後回しになりがちです。開発とセキュリティの両面からサポートできる専門的なサービスは、安全なAI活用を目指す企業にとって心強い味方になりそうですね。
