NVIDIA、AI推論の基盤ソフト「Dynamo 1.0」を正式リリース
公開日:
NVIDIAは3月16日、大規模なAI推論向けのオープンソース基盤ソフトウェア「NVIDIA Dynamo 1.0」の提供を開始しました。これは、複数のGPUを効率的に管理し、AIの推論処理を高速化するための「オペレーティングシステム」のような役割を果たします。エージェント型AIの本格的な実用化が進む中、その基盤となるインフラの重要性が高まっています。
ポイント
- 1AI推論のパフォーマンスを最大7倍向上させ、運用コストを削減
- 2AWSやAzure、ByteDance、PayPalなど多数の企業がすでに採用
- 3主要なオープンソースAIフレームワークと連携し、開発を容易に
分散GPUリソースを効率的に管理
NVIDIA Dynamo 1.0は、データセンター内の複数のGPUとメモリリソースを調整し、AIの推論ワークロードを効率的に実行するためのソフトウェアです。同社の最新GPU「Blackwell」と組み合わせることで、推論のパフォーマンスを最大7倍向上させ、数百万のGPUにおけるトークンあたりのコスト削減を実現したとしています。
特に、会話の履歴（短期記憶）を考慮するエージェント型AIや、長いプロンプトを処理する際に効果を発揮します。関連するデータを保持しているGPUに作業を振り分け、不要なメモリ使用を減らす「トラフィック制御」機能などを備えています。
幅広いエコシステムによるサポート
このプラットフォームは、クラウド事業者からAIスタートアップ、グローバル企業まで幅広く支持されています。Amazon Web Services (AWS)、Microsoft Azure、Google Cloudといった主要クラウドの他、ByteDance、Meituan、PayPal、Pinterestなどが採用を表明しています。
また、NVIDIAはDynamoの最適化技術を、LangChainやvLLMなど開発者に広く使われているオープンソースフレームワークに統合しています。これにより、開発者は自身のAIアプリケーションに、この高性能な推論基盤を組み込みやすくなります。
業界関係者からの評価
採用企業からは、本番環境への移行を後押しする技術として期待の声が上がっています。クラウドプロバイダーのCoreWeaveで製品・エンジニアリング担当バイスプレジデントを務めるChen Goldberg氏は、「NVIDIA Dynamoのサポートにより、複雑なAIエージェントを展開するための、よりシームレスで回復力のある環境を提供できる」と述べています。
Q&A
Q. Dynamoとは何ですか？
A. NVIDIAが提供する、データセンター内の複数GPUを効率的に管理し、AIの推論処理を高速化するための基盤ソフトウェアです。
Q. どのような企業が利用するのでしょうか？
A. 大規模なAI推論を自社サービスで行うクラウド事業者や、グローバルなWebサービスを運営する企業などが主なユーザーです。
Q. 従来の方法と何が違うのですか？
A. 複数のGPUを1つのシステムのように連携させ、メモリ使用や処理の振り分けを自動で最適化する点が特徴です。これにより、リソースの無駄を減らせます。
関連リンク
O!Productニュース編集部からのコメント
AI推論の「OS」として、ハードウェアの性能を最大限引き出す役割をDynamoが担います。大規模なAIサービスを運用するエンジニアの負荷が、インフラ面で軽減されそうです。
引用元：PR TIMES
この記事の著者
O!Productニュース編集部
関連ニュース
Markefan、BtoBマーケティングのAIエージェント「marke.ai」を提供開始
デジノベーション、「DIM-AI」提供開始――AIブラックボックス化を防ぎ組織のメソッドに
クラシル、AIエージェント「Kurashiru AI Supply Chain OS」提供開始
デジタル・ナレッジ、教育AIエージェント「Knowledge ID MAP」を発表、EDIXで初披露
PeopleX AI面接、マッチングAIエージェント提供を開始
Coreviceが5エージェントAI開発スイート「Codens」を提供開始、料金体系を全面公開
IBM、開発ライフサイクル全体を自動化するAIパートナー「IBM Bob」を発表
Novi AI、日本語サイト公開とAIエージェント機能で動画制作を自動化
Picaro.ai、Amazon運用のAIエージェントとMCPを正式公開
