生成AIの入出力を管理する「AIL Governance X」、コンサルと一体提供

AI Librariumは、従業員が個人情報や機密情報を生成AIへ誤って入力するリスクと、生成された回答が企業のルールに反するリスクを課題に挙げています。必要な対策は、AIの用途、利用者、扱うデータ、回答の使い方によって異なります。同社はガイドライン策定や教育に加え、リスク評価に基づく対策をシステムへ実装し、運用後も監視・改善する支援を提供します。

AIL Governance Xは、AIの利用前のリスク評価から実装、運用、継続的な監視までを支援します。提供内容は次の3つです。

Skillsは専門家のタスクを、必要な情報・前提条件、判断基準・実行手順、期待する成果物に分解し、AIが実行できる形へ構造化したものです。コンサルティングで決めた対策をソフトウェアの設定と運用へつなげ、担当者個人の経験に依存しやすいガバナンス業務の標準化を支援します。

Dependable AIは、企業が利用するAIエージェントとLLMの間に配置するソフトウェアです。β版では、LLMへ情報を送る前と、生成された回答を利用者へ示す前の双方でチェックを行います。

入力時には氏名、住所、電話番号、メールアドレスなどの個人識別情報（PII）や、企業が指定した固有ワードを検知し、必要に応じてマスキング・置換します。出力時には、回答が企業独自のルールや利用ポリシーに適合しているかを判定します。

出典: AI Librarium株式会社

入力時の個人識別情報の検出には、AI Librariumと東北大学の共同研究成果を活用しています。文字列のパターン、固定辞書、日本語の固有表現認識で候補を抽出し、判断が難しい候補だけをローカル環境のLLMで補正する手法です。文章全体をLLMで判定する処理を避け、検出精度と処理速度の両立を目指します。

研究には東北大学の栗林稔教授が参画しています。成果は2026年10月開催のコンピュータセキュリティシンポジウム2026（CSS2026）へ投稿する予定です。

想定する用途は、人事部門での履歴書・職務経歴書のスクリーニング、法務・調達部門での契約書レビュー、経営企画・営業部門での社内機密文書の要約・分析です。各業務で扱う情報や回答の利用方法に応じ、必要な対策を設計します。

AI Librariumは今後、コンサルティング領域とSkillsを拡充し、対象リスクに応じてDependable AIの機能も拡張する方針です。

A. AI利用前のリスク評価から運用後の監視までを一貫して支援する、AIガバナンスとセキュリティの統合サービスです。コンサルティング、Skills、ソフトウェアを一体で提供します。

A. LLMへ送信する前に、氏名や住所などの個人識別情報や企業固有ワードを検知し、必要に応じてマスキングや置換を行います。

A. 人事での履歴書スクリーニング、法務・調達での契約書レビュー、経営企画・営業での社内機密文書の要約・分析などを想定しています。

• AI Librarium 公式サイト

O!Productニュース編集部からのコメント

AIへ送信する前に個人情報をマスキングできるのは、履歴書を扱う業務で助かりますね。自社で隠す項目を決めるところから設定まで、まとめて相談できそうです。

引用元：PR TIMES