NVIDIA、ローカルネットワーク内の複数PCへAI推論を分散する「PAIR」を発表――エージェントの処理遅延を解消

要点

• NVIDIAは、ローカルネットワーク上に存在する複数端末へAI推論処理を自動分散する仮想ルーター「Personal AI Router（PAIR）」のベータ版を発表した。

• 「Ollama」や「LM Studio」のインターフェースに対応し、AIエージェント側のコードや接続設定を変更することなく推論能力を拡張できる。

• GeForce RTX 20シリーズ以降やRTX PRO、DGX Sparkに加え、Apple M4以降のシリコンを搭載したMacなど異種ハードウェア環境をサポートする。

• 5つのサブエージェントを用いた検証では、単一ノートPCで18分かかった処理が3台構成のクラスターにより8分48秒へと短縮された。

• mDNSによる端末検出やmTLS暗号化を備え、データをローカルネットワーク内に留めたまま処理できるオープンソースソフトウェアとして提供される。

• 米NVIDIAは現地時間2026年9月3日、同一ネットワーク上にある複数のコンピューティング機器へAI推論リクエストを分散する仮想推論ルーター「NVIDIA Personal AI Router（PAIR）」を発表し、ベータ版の提供を開始した。複数のAIエージェントが協調して動作する際に発生するローカルハードウェアの処理遅延を解消し、ネットワーク内の計算資源を束ねて活用できるようにする。Windows、macOS、Linuxに対応し、オープンソースプロジェクトとして公開されている。

サブエージェントの増加に伴うGPU負荷集中への対策

AIエージェントの領域では、複雑な課題を達成するために主導役のエージェントがタスクを細分化し、それぞれの専門サブエージェントへ割り振るマルチエージェント手法が普及しつつある。また、複数のエージェントセッションを同時に実行するユースケースも増加している。こうした並列処理のアプローチは作業完了の迅速化や応答品質の向上につながる一方で、多数の推論リクエストが同時にGPUへ集中し、処理速度が大幅に低下するボトルネックを生み出していた。

NVIDIAが発表したPAIRは、ユーザーのローカル環境にある複数のハードウェアを活用してこの負荷集中を緩和する仕組みだ。独立した各推論リクエストをネットワーク内の利用可能な端末へ適切に振り分けることで、エージェント自体の設計を変えることなく利用可能な計算能力を拡張できるという。

既存ツールとそのまま連携するプロキシ型の仮想ルーター

PAIRは独自の推論エンジンではなく、推論リクエストを中継・割り振る仮想ルーターとして機能する。実際のモデル実行は、ローカル環境で言語モデルを動かすオープンソース基盤「Ollama」や、モデル実行GUIツールの「LM Studio」といった既存のツールが各端末上で担当する。

AIエージェントからは従来どおり単一のエンドポイント（接続先）に見えるプロキシ（通信の中継機構）として動作するため、エージェントの実行フレームワーク側を新たなクラスター専用APIへ対応させる必要がない。PAIRがリクエストを受け取ると、要求されたエンジンやモデルの種類を判別し、実行条件を満たす最適なノードを1台選定して処理を任せる。選定されたノードが処理を完了すると、その応答がPAIRを経由して元のエージェントへ返される。

スケジューリングにあたっては、各端末の待機状態、推論エンジンの稼働状況、対象モデルが配置されているかどうか、GPU使用率などがリアルタイムで考慮される。また、端末の電源オフやスリープ状態への移行に合わせて自動的にクラスターから離脱し、利用可能になれば再び参加できる柔軟な運用（エラスティッククライアント）にも対応している。

3台の分散構成で処理時間を半分以下に短縮

同社が公開した検証デモでは、エージェント環境「Hermes Desktop」とOllamaを用い、5つのサブエージェントを稼働させるワークロードが実施された。

「NVIDIA RTX Spark」を搭載した単一のノートPC上で同処理を実行した場合、全体の完了までに18分を要していた。これに対し、3台のデバイスを連携させたPAIRクラスター環境で実行したところ、所要時間は8分48秒にまで短縮されたという。複数のノードへリクエストを分散させることで、タスクの並行処理効率が大幅に向上することが実証された形だ。

異種ハードウェア混在への対応とローカル完結型の通信保護

PAIRは、幅広いハードウェア環境を混在させて利用できる柔軟性を備えている。対応ハードウェアには、「NVIDIA GeForce RTX 20シリーズ」以降のGPUや、Turingアーキテクチャ以降の「NVIDIA RTX PRO」ワークステーション向けGPU、「NVIDIA DGX Spark」が含まれる。さらに、NVIDIA製ハードウェアにとどまらず、Appleの「M4」以降のシリコンを搭載したMac端末もサポート対象とされている。

運用の安全性にも配慮されており、ローカルネットワーク内の端末検出にはmDNS（機器を自動検出する通信規格）が用いられ、端末間の通信はmTLS（相互認証と暗号化を行うセキュリティ技術）によって保護される。プロンプトやデータ、推論トラフィックはすべてユーザーのローカルネットワーク内に留まるよう設計されており、外部クラウドへデータを送ることなくプライバシーを維持した運用が可能だ。

PAIRは現在、Windows、macOS、Linux向けにグラフィカルインターフェース（GUI）およびターミナル向けのコマンドラインインターフェース（CLI）の両形態でベータ版が提供されている。また、ソースコードの閲覧や改善提案を受け付けるオープンソースリポジトリもGitHub上で公開されている。