OrcaRouter、セキュリティ研究モデル「GLM-5.3-Flash-Uncensored」公開
リリース
AI関連

OrcaRouter、セキュリティ研究モデル「GLM-5.3-Flash-Uncensored」公開

公開日:

FlashLabs株式会社は、AI推論ゲートウェイ「OrcaRouter」において、セキュリティ研究者向けのオープンウェイトモデル「GLM-5.3-Flash-Uncensored」のウェイトを公開しました。このモデルは、Z.ai社の「GLM-5.3-Flash」をベースに、コンテンツフィルタリングを緩和した研究用途のモデルです。レッドチームやブルーチームによるAIシステムの脆弱性検証に役立てることを目的としています。利用は申請制で、適正な研究目的に限定されます。

この記事をシェア

ポイント

  • 1
    FlashLabsがセキュリティ研究向けにフィルタリング緩和モデルを公開
  • 2
    ベースモデルは総パラメータ320B・アクティブ18BのMoE構成
  • 3
    拒否率を主要ベンチマークで96%から11%へ大幅低減

公開の背景と目的

AIシステムのセキュリティ検証では、攻撃者視点のレッドチームと防御側のブルーチームの双方が、実環境に近いモデルの振る舞いを確認することが重要です。しかし、通常の安全フィルタリングが施されたモデルでは再現が難しい検証ケースがあります。そこで、米国のAI研究機関Continuum AIは、研究用途に限定した形でフィルタリングを緩和したモデルを提供する方針をとりました

モデルの特徴

「GLM-5.3-Flash-Uncensored」は、Z.ai社が公開したオープンウェイトLLM「GLM-5.3-Flash」をベースにしています。総パラメータ320B、アクティブ18BのMoE構成で、1Mトークンのコンテキストに対応します。LoRAや脱獄プロンプトを使わず、拒否応答の除去をモデルのウェイトに直接適用している点が特徴です。そのため、元のブロックFP8精度のまま利用できます。

ベンチマーク結果

開発元の検証では、有害リクエストへの拒否率が大幅に低下しました。MaliciousInstructでは96%から11%、JailbreakBenchでは93%から12%、AdvBenchでは97%から15%、HarmBenchでは93%から18%となっています。一方、良性クエリの過剰拒否率は2.4%から0.4%に低減しました。

提供方法と責任ある利用

本モデルはHugging Face上で公開されており、悪用防止のため利用申請制となっています。ライセンス条項のもと、セキュリティ研究・検証などの適正な目的に限って利用できます。GGUFやMLXなど量子化形式のバリアントも今後公開される予定です。FlashLabsは、本番システムでのAI利用にはOrcaRouterのガードレールが標準で有効になっていると説明しています。

Q&A

Q. GLM-5.3-Flash-Uncensoredとは何ですか?

A. セキュリティ研究向けに、安全フィルタリングを緩和したオープンウェイトのLLMです。レッドチームやブルーチームが、実環境に近いモデルの振る舞いを検証するために利用します。

Q. 通常のモデルと何が違うのですか?

A. 有害なリクエストに対する拒否率が大幅に低く、攻撃者の視点での検証がしやすくなっています。ただし、利用は申請制で研究目的に限定されます。

Q. 誰が利用できますか?

A. セキュリティ研究者やレッドチーム、ブルーチームなど、AIシステムの脆弱性検証に携わる方が対象です。Hugging Face上での利用申請とライセンス条項への同意が必要です。

関連リンク

O!Productニュース編集部

O!Productニュース編集部からのコメント

攻撃者視点の検証がしやすくなるモデルですね。セキュリティ担当が脆弱性を再現する手間が減りそうです。

引用元:PR TIMES

この記事をシェア

O!Productニュース編集部

この記事の著者

O!Productニュース編集部

O!Productニュース編集部は、IT・SaaS・AI業界のニュースをリアルタイムに解析・発信するメディアチームです。ビジネス向けのプロダクトに関する最新情報をなるべく分かりやすく簡潔にまとめてニュースを提供します。
「日本のすべての企業に、AIトランスフォーメーションを。」をミッションに掲げているGigantic Technologies株式会社によって運営されています。
AIに精通し、2017年設立時から企業のDX支援に取り込んでおり、十分な実績とノウハウを元に情報を発信しています。
公式SNSは以下からフォローできます。
X
Facebook
LinkedIn
note

脆弱性診断サービス(セキュリティ診断サービス)の導入を検討していますか?

サービスの比較・選定業務を無料でサポートします。

この記事をシェア

成果報酬リード獲得検索結果での上位表示

貴社のサービスを上位掲載しませんか?

検索結果で上位表示されたり、資料ダウンロードボタンを表示させて直接リードを獲得することができます。
月額無料+成果報酬型の低リスクで法人リード獲得を始めることができます。

料金プランを確認