編集部が読み解く! 3行でわかるテックニュース第16回

クローズドモデルの費用に耐えられない企業へ――IBMとTogether AIが推論専用クラスターをIBM Cloud上に構築

6:20

IBMとTogether AIが総額2億4,000万米ドルの複数年契約を締結。IBMはNVIDIA HGX B300システムによる大規模クラスターをIBM Cloud上に展開し、2027年第1四半期の提供開始を予定する
HGX B300とNVIDIA Spectrum-X Ethernetネットワーキングを活用してIBM Cloud上に構築される、推論専用の大規模クラスターとしては初の取り組み。NVIDIAによると、この構成は前世代と比較して30倍のAIファクトリー処理能力を実現するよう設計されている
Together AIはこのクラスターでオープンソース・モデル向けの推論サービスを提供する。同社の推論サービスは現在、月間400兆トークンを処理しているという

📝 Think IT編集部の見解 📝

この発表で注目すべきは、クラスターが「推論専用」と明示されている点だ。

AI向けGPUインフラの話題は長らく学習(トレーニング)が中心だった。巨大なモデルをどう訓練するか、そのために何万基のGPUを並べるかという議論である。しかし企業がAIを実際の業務に組み込む段階に入ると、コストの重心は学習から推論へ移る。モデルの訓練は一度きりだが、推論はサービスが動いている限り毎秒発生し続けるからだ。月間400兆トークンという数字は、その推論側の負荷が既にどの規模に達しているかを示す。

Together AI社CEOのVipul Ved Prakash氏が「企業は、クローズド・モデルの高額なコストを負うことなく、最先端モデルの優れた性能を求めている」と述べているのは、この構造を踏まえた発言だろう。APIベースの商用モデルは導入が容易な一方、リクエスト量に比例して費用が積み上がる。ある規模を超えると、オープンウェイトのモデルを自前あるいは専用基盤で推論させたほうが総コストで有利になる分岐点が現れる。今回の投資は、その分岐点を越えた企業がまとまった数存在するという読みに基づいている。

インフラエンジニアの視点で気に留めたいのは、ネットワーキングにNVIDIA Spectrum-X Ethernetが選ばれている点だ。大規模推論では単体GPUの性能よりも、ノード間の通信効率がスループットを左右する。GPUの型番だけでなく、それを何でつないでいるかが実効性能を決めるという構図は、オンプレミスでGPUクラスターを検討する場合にも共通する論点となる。

ただし提供開始は2027年第1四半期であり、現時点で使えるサービスにはなっていない。前世代比30倍という数値もNVIDIAによる設計上の指標であり、実ワークロードでの結果ではない点は割り引いて読む必要がある。またIBMとTogether AIの契約であるため、日本の一般企業がこのクラスターを直接利用できるかどうかはリリースからは読み取れない。

📰 リリースまとめ 📰

IBMとTogether AI、IBM Cloud上のNVIDIA AIインフラを活用し複数年契約を締結

IBMは2026年8月11日(現地時間)、IBMおよびNVIDIAのAIインフラストラクチャーを提供することを目的としたTogether AI社との協業を発表した。

両社が締結した総額2億4,000万米ドルの複数年契約に基づき、IBMは2027年第1四半期の提供開始を予定しているNVIDIA HGX B300システムによる大規模クラスターをIBM Cloud上に展開する。Together AI社は、このクラスターを活用してオープンソース・モデル向けの推論サービスを提供する。

今回の導入は、HGX B300システムとNVIDIA Spectrum-X Ethernetネットワーキングを活用してIBM Cloud上に構築される、推論専用の大規模クラスターとして初の取り組みとなる。NVIDIAによると、この構成は前世代と比較して30倍のAIファクトリーの処理能力を実現するよう設計されている。

図：IBM CloudとTogether AIによる推論専用クラスターの構成(Think IT編集部作成)

協業の狙い

本協業は、企業がAI導入を効率的に拡大する際に、Together AI社がより高い性能と優れたトークン効率を提供できるよう支援することを目的としている。

Together AI社は、オープンソース・モデルがAIの未来に不可欠であり、開発者はオープンかつモジュール型のスタックを利用して開発できるべきであるという考えに基づいて事業を展開している。同社は最近、AI Native Cloudの拡大を目的として、企業価値83億米ドルで8億米ドルのシリーズC資金調達を実施した。同社のプラットフォームは、推論、トレーニング、ファインチューニング、およびエージェント型ワークフロー全体にわたる機能を提供しており、同社によると推論サービスは大きく成長し、現在は月間400兆トークンを処理している。

Together AI社は、IBMとNVIDIAの革新的な製品ロードマップと、AIを迅速に拡張するために必要なペースでGPU容量を提供できる能力、ならびに低いトークン・コストを実現できる能力を評価し、両社を選定したとしている。

Together AI社CEOのVipul Ved Prakash氏は「企業は、クローズド・モデルの高額なコストを負うことなく、最先端モデルの優れた性能を求めています。そして、それを実現できるのは、その基盤となるインフラストラクチャーが高速で信頼性が高く、かつ大規模に拡張可能な場合に限られます。IBMとNVIDIAとの協業により、私たちはその基盤を得ることができます」とコメントしている。

IBMとNVIDIAの協業拡大

IBM Cloudゼネラル・マネージャーのアラン・ピーコック氏は「企業は、実際のビジネス成果を生み出すために、エージェント型AIを大規模に導入する競争を繰り広げています。IBMとNVIDIAは、Together AI社が次世代AIインフラストラクチャーにおけるイノベーションを加速できるよう、スケーラブルで、経済性に優れた、エンタープライズ向けAIインフラストラクチャーを提供しています」と述べている。

NVIDIAのHPC and AI Infrastructure Solutions担当シニアディレクターであるディオン・ハリス氏は「AIファクトリーは、電力や通信ネットワークと同様に、コンピューティング能力とデータをインテリジェンスへ変換する重要な企業インフラストラクチャーとなりつつあります」とし、IBM Cloud上のHGX B300システムとSpectrum-X Ethernetネットワーキングにより、リアルタイムAIサービスに必要な性能、効率性、拡張性を備えたオープンソースAIの導入を支援するとしている。

本取り組みは、IBMとNVIDIAによるより広範な協業の最新事例にあたる。両社は最近、GPUネイティブなデータ分析、非構造化データ抽出、オンプレミスおよびクラウド・インフラストラクチャー、ならびにコンサルティング・サービスにおける進展を発表している。

Together AIについて

Together AIは、最先端のオープンソース・モデル、高性能インフラストラクチャー、AIの効率性および拡張性に関する先進的な研究を組み合わせたAI Native Cloudである。2022年に設立され、100万人を超える開発者と、世界でも特に大規模かつ高度なAIワークロードの一部を支援している。