VicOne、AIロボットへのサイバー攻撃影響を検証するNVIDIA Isaac Sim向け拡張機能を無償提供

ロボットメーカーや運用事業者は機能テストや安全性の検証に投資していますが、サイバー攻撃がロボットの動作に及ぼす影響は従来のテスト対象から外れている場合が多くありました。VicOneは2026年8月に米国ラスベガスで開催された「DEF CON 34」のコミュニティ「Robotic Hacking Community」において、AIロボットを対象としたCTF形式のチャレンジ「セーフティ・ストレステスト」を実施しました。AIモデル、認識処理、クラウドおよびAPIサービス、ロボティクス向け通信、組み込みシステムにまたがる攻撃経路を対象に課題が出題され、16チームが計25件の攻略に成功しました。主要なサイバーセキュリティ課題のほぼすべてが少なくとも1度は攻略され、未攻略は高度な組み込みシステムの課題1件のみでした。

NVIDIA Isaac Simは、AI搭載ロボットの設計、シミュレーション、テスト、検証を物理ベースの仮想環境で行うためのロボティクスシミュレーションアプリケーションです。「Radeis Extension」はNVIDIA Isaac Sim上で動作する拡張機能で、AIモデルを実行する推論サーバーと連携します。開発者は、あらかじめ用意されたロボットとシーン、標準対応のAIモデルを使用して、敵対的な視覚入力を用いた攻撃シナリオの適用、AIモデルの判断と動作の変化の確認、AIモデルが入力画像のどこに注目したかの可視化、同一条件でのテストの反復実施とAIモデル間の比較、検証結果をまとめたHTMLレポートの出力といった機能を利用できます。独自のロボット、シーン、AIモデルを使用した検証やVLAモデルを用いた軌道評価については個別対応となります。

「Radeis Extension」は検証結果をロボットの動作に現れる影響として示すため、開発、安全性、セキュリティの各チームは共通の情報を基にリスクを検討できます。より広範な検証を必要とする組織向けには、フィジカルAI向けリリース前リスク検証プラットフォーム「Radeis」を提供しています。「Radeis」は、コンポーネント、システム、AIモデルのリスク評価に加え、脆弱性や攻撃シナリオがロボットの動作に及ぼす影響を検証し、その結果に基づく詳細な調査、修正計画の策定、リリース判断、規制・規格対応に向けた準備までを支援します。

VicOneの最高経営責任者（CEO）マックス・チェン氏は、ロボティクス企業が実際の運用現場でロボットを大規模に展開する段階へと移りつつある中で、ロボットが依存するデジタルシステムが侵害された場合にも信頼性を維持できるかどうかを業界全体として検証していく必要があると述べています。サイバーリスクがロボットの動作や安全性に及ぼす影響の検証は、ロボット開発における標準的なプロセスの一部になるべきだとしています。

A. NVIDIA Isaac Sim上で動作する拡張機能で、AIロボットへのサイバー攻撃の影響を実機テスト前にシミュレーションで検証できます。

A. 16チームが計25件の攻略に成功し、主要なサイバーセキュリティ課題のほぼすべてが攻略されました。サイバーリスクがシステムの複数の層にわたって生じることが確認されています。

A. 拡張機能は基本的な検証機能を提供し、製品版Radeisはリスク評価、詳細な調査、修正計画の策定、規制対応までを支援します。

• セーフティ・ストレステスト
• https://github.com/VicOne-OSS-TW/labr7-radeis-InSimPhysicalAI
• https://vicone.com/jp/products/radeis/
• https://www.vicone.com/jp

O!Productニュース編集部からのコメント

敵対的視覚入力でAIロボットの判断がどう変わるか、実機前にシミュレーションで確認できるのは心強いですね。ロボット開発のセキュリティ検証が標準工程になりそうです。

引用元：PR TIMES