AI活用の裏に潜むリスクを可視化、神戸デジタル・ラボが新サービスを提供開始

株式会社神戸デジタル・ラボが、生成AIを組み込んだWebアプリケーションを対象とする「AIシステムのセキュリティ診断サービス」を新たにリリースしました。このサービスは、AIモデルへの直接的なプロンプト送信やWebアプリケーションの操作を通じて、AI機能に起因する脆弱性を診断するものです。

近年、多くの企業が業務効率化のために生成AIや大規模言語モデル（LLM）の活用を進めています。その一方で、ユーザーからの入力を悪用してAIに意図しない動作をさせる「プロンプトインジェクション」や、AIの応答に内部の機密情報が含まれてしまう情報漏えいなど、これまでにないセキュリティリスクが課題となっています。同社は、こうしたAI特有のリスクに対応するには、従来の診断とは異なる新しい視点が必要だとしています。

本サービスでは、「プロンプトインジェクション」や「機密情報・システムプロンプトの漏えい」、「コード実行・スクリプト誘発」といった項目を重点的に検査します。同社は、セキュリティサービス「Proactive Defense」で長年培ってきた診断ノウハウに加え、自社でも生成AIを組み込んだシステム開発を手がけているとのこと。セキュリティとAI開発、両方の知見を組み合わせることで、より実務に即した改善提案が可能だとしています。

引用元：PR TIMES

O!Productニュース編集部からのコメント

AIの導入は進むものの、セキュリティ対策は後回しになりがちです。開発とセキュリティの両面からサポートできる専門的なサービスは、安全なAI活用を目指す企業にとって心強い味方になりそうですね。