NVIDIA、AIエージェント安全基盤「Open Agent Safety Platform」を発表

「NVIDIA Open Agent Safety Platform」は、オープンソースの実行環境「OpenShell」と、監視・制御を担う「Sentry」のリファレンスシステム設計で構成されます。OpenShellはAIエージェントの実行範囲を定め、動作を追跡してポリシーを適用します。NVIDIA Vera CPU向けに最適化され、ArmやIntelなどの計算基盤への拡張も可能としています。

SentryはBlueField-4 DPU上で動く帯域外の監視機能として設計されています。NVIDIAによると、エージェントが設定された境界を越えようとした場合、ミリ秒単位で隔離できます。DOCAを基盤に、要求や応答の検査、エージェントのID検証、データやAPIへのゼロトラストアクセス制御も想定しています。OpenShellのソフトウェアは公開されていますが、Sentryは発表時点でリファレンスシステム設計として説明されています。

NVIDIAはAnthropic、Cisco、CrowdStrike、Dell Technologies、Microsoft、Palantir、Salesforce、SAP、Scale AI、ServiceNowなど、AIエコシステムの各業界をリードする企業と連携します。AnthropicはClaude Managed AgentsとOpenShellやBlueFieldを統合し、企業がサンドボックスを介したエージェントのアクセスを厳格に制御できるようにします。SalesforceはOpenShellをSlackと統合し、チームがSlack上でエージェントの活動確認や追加権限の承認・拒否を行えるようにしました。SAPはJoule StudioランタイムにOpenShellを組み込み、ビジネス上の監視・制御機能とランタイムセキュリティを連携させています。

Figure、Gecko Robotics、Skild AIといったロボティクス分野の企業も、物理世界で動作する自律型システムにエージェントの安全制御機能を組み込むため、OpenShellを活用した開発を進めています。金融サービスではCitiやJPMorganChaseがオープンソース技術の共同開発でNVIDIAと協力しています。エネルギー分野ではHitachi EnergyやSchneider Electric、Siemens Energyなどが米国の重要インフラ向けに本プラットフォームの技術を活用します。

NVIDIAは、OpenShellと関連スキルのソフトウェアを開発者向けページとGitHubで公開しています。組織は要件に応じてプラットフォームの要素を導入できます。SentryはBlueField-4 DPUを使うリファレンス設計として紹介されており、具体的な製品導入条件は公式情報の確認が必要です。同社は「Open Secure AI Alliance」を通じて、エージェントの安全性に関する研究やツールの共有も進めています。

A. AIエージェントの実行範囲を制御するOpenShellと、独立した監視・制御層として設計されたSentryを組み合わせる構想です。

A. OpenShellは公開中のオープンソースソフトウェアです。SentryはBlueField-4 DPUを使う帯域外の監視機能で、発表時点ではリファレンスシステム設計です。

A. OpenShellのソースコードとドキュメントはNVIDIAの開発者向けページとGitHubで公開されています。Sentryの導入条件は公式情報をご確認ください。

• NVIDIA Open Agent Safety Platform公式ページ
• OpenShellの公開コード
• NVIDIAの英語版プレスリリース

O!Productニュース編集部からのコメント

エージェントの実行範囲をソフトウェアで制限し、ハードウェア側の独立した監視層も設ける設計です。導入を検討する担当者は、現在公開されているOpenShellと、Sentryのリファレンス設計を分けて確認する必要があります。

引用元：PR TIMES