AMDとDriveNetsがAIクラスタ向けリファレンス・アーキテクチャを公開 – 高性能とコスト効率を両立するAIインフラ構築の設計図

AMDとDriveNetsがAIクラスタ向けリファレンス・アーキテクチャを公開 – 高性能とコスト効率を両立するAIインフラ構築の設計図

結論:AIクラスタの性能と効率を最大化するリファレンス・アーキテクチャを公開

大規模ネットワーキング・ソリューションを提供するDriveNetsとAMDは、AIクラスタの性能と効率を最大化するためのリファレンス・アーキテクチャを発表しました。これは、AMD Instinct™ MI350シリーズGPUとDriveNets AI Fabricを基盤とするエンドツーエンドの設計図で、コスト効率に優れた高性能AIインフラの構築を可能にします。

AMD x DriveNets のジョイント・ソリューション

サービス概要:AMD Instinct GPUとDriveNets AI Fabricの統合

何ができるサービスか

本リファレンス・アーキテクチャは、AMD Instinct™ MI350シリーズGPUとDriveNets AI Fabricを組み合わせることで、AIクラスタ(AI処理を行うために多数のコンピュータを連携させたシステム)の設計・導入・チューニングを簡素化します。単一のネットワーキング・ソリューションでフロントエンドとストレージの両方のネットワーキングに対応し、スケールアウト(システムを拡張する際に、同じ種類のサーバーを複数追加していく方法)およびスケール・アクロス(複数の異なるシステムやリソースを連携させて規模を拡大する方法)の両アーキテクチャをサポートします。

さらに、自動化されたオーケストレーション(複数のシステムやサービスを連携させ、自動的に全体の処理を調整・管理すること)とフルスタックの統合サービスが提供され、迅速な導入と効率的なエンドツーエンドのスケーリングを実現します。

解決できる課題

  • 大規模AI GPUクラスタの設計・導入・チューニングの複雑さ

  • AIインフラの性能と効率の最大化

  • 総所有コスト(TCO:製品やシステムの導入から運用、廃棄までにかかる総費用)の削減

  • GPU(Graphics Processing Unit:AIの深層学習などで大量の並列計算を行う演算装置)の稼働率向上

  • AIワークロードにおける安定した性能と回復性の確保

導入メリットと活用シーン

具体的な性能向上データ

本リファレンス・アーキテクチャには、AMD Instinct MI355X GPUクラスタ上での推論、トレーニング、ネットワーク分離、ファブリックの回復性に関する包括的なベンチマークが含まれています。

ベンチマーク結果によると、DriveNetsのAI Fabricは、公開されている業界結果と比較して、スループット(単位時間あたりに処理できるデータ量)で約5%の向上、Time to First Token(TTFT:生成AIが最初のトークンを出力するまでの時間)で10〜15%の短縮を実現します。マルチノード環境では、20ミリ秒未満のトークン間レイテンシや、ユーザーあたり毎秒50トークン以上の出力を満たし、厳しい本番サービスレベル目標に対応します。回復性テストでは、同時に発生するRDMAトラフィック下でも安定した集合通信性能が実証され、一時的なリンク障害の間も性能低下は見られませんでした。

GPU稼働率の最大化とコスト削減

この統合アーキテクチャは、LLM(大規模言語モデル)のライフサイクル全体を支えるスケーラブルな基盤を提供し、トレーニングと推論の両ワークロードにおいて高い稼働率と一貫した性能を可能にします。GPUの効率を最大化し、TCOを削減することで、優れたトークンあたりコスト性能を提供します。これにより、垂直統合型のAIインフラ・スタックに代わるオープンな選択肢が生まれます。

オープンなAIインフラの選択肢

本アーキテクチャは、オープンでマルチベンダーなAIインフラという共通のビジョンを反映しています。DriveNetsの共同創業者兼最高経営責任者(CEO)であるIdo Susan氏は、「AIインフラは、単一ベンダーのスタックから、オープンでマルチベンダーなシステムへと移行しつつあり、その移行を機能させるのがネットワークです。」と述べています。これにより、企業は特定のベンダーに縛られることなく、柔軟にAIインフラを構築・運用できます。

対象企業と提供形態

大規模AIインフラを必要とする組織

本ソリューションは、大規模AI GPUクラスタを構築する企業、基盤モデル研究機関、NeoCloudプロバイダー(新しいクラウドサービスを提供する事業者)、そしてAT&TやComcastのようなグローバルなティア1事業者(自社で広域ネットワークを保有する大規模通信事業者)など、大規模なAIインフラを必要とするあらゆる組織が対象となります。

リファレンス・アーキテクチャと導入ガイドの提供

本リファレンス・アーキテクチャと補完的な導入ガイドは、以下のリンクから入手可能です。導入ガイドには、コンピュート、ネットワーク・インターフェース・カード(NIC:コンピュータをネットワークに接続するための拡張カード)、ネットワーキング、集合通信ライブラリ、ワークロードのセットアップ、各種構成、性能の最適化を網羅する、ステップバイステップの手順が記載されています。

導入支援と問い合わせ

共同ラボでのPoCテスト

AMDとDriveNetsは、LLM開発者やNeoCloudプロバイダーを含む共通顧客と、本番環境および概念実証(PoC)の導入にわたって緊密に連携しています。お客様が自社のワークロードを用いてPoCテストを実施できるよう、共同ラボも設立されており、導入前の検証が可能です。

関連リンク

DriveNetsとAMDについて

DriveNetsは、AIインフラおよびサービスプロバイダー向けの大規模ネットワーキング・ソリューションのリーダー企業です。同社のディスアグリゲーテッド(分離型)ネットワーキング・アーキテクチャは、大規模インフラの経済性を変革し、GPU稼働率を最大化することで、より高い毎秒トークン数と低いトークンあたりコストを実現します。

AMDは、高性能コンピューティングとAIコンピューティングにおけるイノベーションを推進する企業です。AIに最適化されたCPU、GPU、ネットワーキング、ソフトウェアの幅広い製品群により、インテリジェント・コンピューティングの新時代に必要な性能とスケーラビリティを備えたフルスタックのAIソリューションを提供しています。