こんにちは。SB C&S の村上です。

本記事では、モルゲンロット社の提供するGPUリソースの管理プラットフォームである「TailorNode」の検証レポートを紹介します。
今回の検証では、弊社が保有するGPUサーバー環境を基盤としてTailorNodeを構築し、GPUリソースの可視化や利用状況の確認、ユーザーへのリソース提供などの各管理機能の有効性を確認しました。

GPUインフラにおける課題

生成AI、大規模データ処理、シミュレーションなどの活用が進む中で、GPUを用いた計算リソースは、企業や研究機関にとって欠かせないものとなりました。また、特定の担当者や単一のプロジェクトだけでGPUを利用するのではなく、複数の部門、チーム、プロジェクトで同じGPU環境を共有するケースも増えています。

このような共有環境では、限られたGPUリソースを必要な利用者に適切に提供し、無駄なく活用することが求められます。そのためには、「どのGPUが利用可能か」「どのリソースが使用中か」「どの部門にどれだけ割り当てるか」といった情報を継続的に把握・管理する必要があります。

これらを手作業や個別の仕組みで管理すると、管理者の負担が大きくなるだけでなく、空きリソースの見落としや利用状況の把握漏れが発生しやすくなります。その結果、GPUリソースを十分に活用できなかったり、利用者が必要なタイミングでリソースを使えなかったりする可能性があります。

これらの課題を踏まえて、GPUインフラ運用で必要なことは以下のようにまとめられます。

これらを満たすために、GPUリソースの状態把握、利用者への最適な提供、活用状況の確認を一元的に行える運用基盤が必要です。
そこで本検証では、MORGENROT TailorNodeを用いたGPUリソースの管理と提供をどのように実現できるかを確認しました。

モルゲンロット社について

モルゲンロット株式会社は、GPUやHPCなどの高性能なコンピューティングリソースを有効に活用するためのサービスを提供しています。

ホームページ

同社は、Arthur、Cloud Bouquet、TailorNodeなど、コンピューティングリソースの活用を支援する複数のサービスを展開しています。
本記事で対象とするのは、その中でもGPUリソースの管理に関わる「TailorNode」です。

TailorNodeとは

TailorNodeは、自社で保有するGPUサーバーなどのコンピューティングリソースを管理し、必要な利用者に提供するための仮想化運用プラットフォームサービスです。社内部門や外部ユーザーに対して、GPUリソースを利用できる環境を提供する基盤として利用できます。

TailorNodeにより、管理者は提供対象となるサーバーやインスタンス仕様、提供先となるユーザー組織などを設定できます。また、利用者はGUIを通じて仮想マシンインスタンスを作成し、GPUリソースを利用できます。

本検証では、このTailorNodeをHPEサーバー環境に導入し、GPUリソースの管理、提供、利用、運用管理の観点から機能確認を行いました。

検証内容について

本検証では、TailorNodeの有効性を確認するため、GPUリソースの管理から利用者によるインスタンス作成、そしてそれらの利用状況を管理者が確認するところまでの一連の運用を想定して検証を行いました。

検証では、主に以下の4つの観点で確認しています。

• ①リソース制御
  • 各チームごとにリソース配分を設定できるか
• ②空きリソースの確認
  • 利用者がスムーズに空いているGPUリソースを確認できるか
• ③インスタンス作成
  • 利用者がGUIからインスタンスを作成できるか
• ④GPUリソースへの接続
  • 作成した環境へSSH接続し、GPUリソースを利用できるか

利用する検証環境

TailorNodeでは以下3種類のサーバーを準備する必要があります。

• Root Server
  • TailorNodeの管理サーバーで、Login ServerやCalc Serverの管理を実施
• Login Server
  • スケジューラー(KubernetesやSlurm)などのGPUが不要なインスタンスの払い出し
• Calc Server
  • GPUを搭載した計算リソースの払い出し

今回の検証環境ではそれぞれ1台ずつサーバーを用意しており、Calc ServerにはNVIDIA A100 GPUを2つ搭載しています。
なお今回はCalc Server1台で構成していますが、もちろん複数台で構成して、GPUリソースを増やしていくことが可能です。

検証レポート

それではここからは前述した観点それぞれの検証結果を記載していきます。

①リソース制御

リソース制御では、独自のポイント形式と、管理者があらかじめ定義する Planと呼ばれるリソース仕様によって、必要なチームへ必要な分だけコンピューティングリソースを柔軟に割り当てられることを確認しました。

まずTailorNodeでは、ユーザー管理が主に以下の単位で構成されています。

• Organization
  • 利用組織などの一番大きな単位
  • Region(TailorNodeを複数DCなどで使っている場合)の割り当ても可能
• Group
  • 部門やチーム、プロジェクトなどのリソース割り当ての単位
• User
  • 実際にGPUリソースを利用するユーザー

例えば、新しく登録したTeam Aに対して管理者が1,000ポイントを付与した場合、Team Aに所属するユーザーは、その1,000ポイントの範囲内でコンピューティングリソースを利用できます。これにより、チームごとに利用可能なリソース量を管理でき、複数部門や複数プロジェクトでGPU環境を共有する場合でも、利用枠を分けた運用が可能になります。

また、付与されたポイントでどの程度のコンピューティングリソースを利用できるかは、管理者があらかじめ設定できます。TailorNodeでは、利用者に提供するインスタンス仕様を Plan として定義します。Planには、GPU数、CPU、メモリなどのリソース構成に加えて、1時間あたりに必要なポイントを設定できます。

例えば、1GPU構成のPlanは1時間あたり60ポイント、2GPU構成のPlanは1時間あたり110ポイントといった形で設定できます。これにより、管理者は提供するコンピューティングリソースの種類と消費ポイントをあらかじめ定義し、利用者は割り当てられたポイントの範囲内で必要なPlanを選択して利用できます

以下の図は、Groupへのポイント付与とPlan設定の一例です。

リソース制御の観点ではGroup単位でポイントを付与し、Planごとに必要ポイントを設定することで、GPUリソースの利用量を柔軟に制御できることを確認できました。これにより、管理者はチームごとの利用枠を明確にしながら、GPUリソースを効率的に提供できると考えられます。

②空きリソースの確認

空きリソースの確認では、利用者がTailorNode上で利用可能なGPUリソースを把握できるかを確認しました。

TailorNodeではAvailability Calendarという機能により、利用者の視点で空きリソースをカレンダー形式で確認できます。この機能ではあらかじめ管理者が設定した Plan ごとに、どの時間帯でリソースが利用可能かを視覚的に確認できます。

これにより、利用者は「どのGPUリソースがいつ空いているか」を確認したうえで、必要なタイミングに合わせてリソースを利用できます。特に、複数の利用者が同じGPU環境を共有する場合でも、空き状況を一目で把握できるため、リソース選択や利用タイミングの判断がしやすいのが利用者視点ではとても嬉しく感じるものでした。

③インスタンス作成

インスタンス作成では利用者にて容易にコンピューティングリソースを確保することができるのかの観点で確認をしました。

TailorNodeは基本的には時間を指定してリソースを予約して、時間が来たら利用できるようになるといったものです。
実際の流れを確認していきます。

まず、利用者はPlan選択画面から、利用したいインスタンス仕様を選択します。Planには、GPU数、vCPU、メモリ、1時間あたりの必要ポイントなどが表示されており、利用者は用途に応じて必要なリソースを選択できます。 

次に、詳細設定画面で、利用するストレージ、OS、利用開始時間、利用時間などを指定します。これにより、利用者は必要なタイミングに合わせてコンピューティングリソースを予約できます。

設定完了後は、確認画面で選択したサーバー構成、1時間あたりの消費ポイント、利用時間に応じた総消費ポイントを確認できます。以下の例では、1GPU構成のPlanを2時間利用する条件で、必要ポイントが120ポイントとして表示されました。 

予約を確定すると、Cloud Servers画面上で対象インスタンスが Reserved として表示されます。

その後、指定した利用開始時間になるとインスタンス作成が開始され、ステータスが Running になることで利用可能な状態になります。本検証環境では、インスタンス作成開始からRunningになるまで約5分程度で完了しました。 ちなみに実行中の予約中や実行中のリソースはカレンダー上でも確認可能です。

インスタンス作成の観点では、利用者がGUI上でPlanを選択し、必要な条件を指定することで、コンピューティングリソースを予約・作成できることを確認しました。
これにより、管理者が個別に環境を準備することなく、利用者自身が必要なGPUリソースを確保できる運用が可能であると考えられます。

④GPUリソースへの接続

GPUリソースへの接続では、利用者がTailorNodeで作成したインスタンスへSSH接続し、実際に利用できる状態になるかを確認しました。

TailorNodeでは、ユーザーごとに作成・登録できるKey Pairを用いて、作成したインスタンスへSSH接続します。利用者はあらかじめ自身のKey Pairを登録しておき、インスタンス作成時または利用時にそのKey Pairを使用することで、対象リソースへ安全に接続できます。

Key Pairの管理画面では、登録済みのKey Pair名、所属するUser Group、使用中のサーバー、作成日時などを確認できます。これにより、利用者は自身が利用する接続鍵を管理でき、管理者側も必要に応じて利用状況を把握しやすくなります。

実際に作成されたインスタンスに対してKey Pairを用いたSSH接続を行い、OSへログインできることを確認しました。接続後にnvidia-smiコマンドを実行し、GPUが正常に認識されていることも確認することができました。

GPUリソースへの接続の観点では、TailorNodeで作成したインスタンスへSSH接続し、割り当てられたGPUリソースを利用できる状態であることを確認しました。ここまでの流れにて、利用者がGUIからインスタンスを作成し、その後GPUリソースへ接続して利用を開始するまでの一連の流れが成立することを確認できました。

検証結果から考える導入効果

今回検証をした結果としては特に以下の効果が大きいと感じました。

• ポイント制による部門やプロジェクトごとの利用枠の明確化
• 管理者へ個別に依頼することなく、利用者自身で必要なGPUリソースを利用可能
• Plan によってインスタンス仕様や消費ポイントを標準化

まず、ポイント制によるリソース管理により、部門やプロジェクトごとの利用枠を明確にできる点は大きな効果だと感じました。
従来、複数の利用者やチームで同じ GPU 環境を共有する場合、誰がどの程度リソースを利用しているのか、どのチームにどれだけの利用枠を割り当てるべきかを管理する必要があります。
TailorNodeでは、Group単位でポイントを付与し、その範囲内でリソースを利用できるため、利用枠を分けた運用がしやすくなります。
これにより、特定の利用者やチームにリソース利用が偏ることを抑えながら、限られたGPUリソースを計画的に提供できます。

次に、利用者自身が GUIから GPUリソースを予約・作成できる点も、運用面で有効だと感じました。
管理者へ個別に依頼して環境を準備してもらう運用では、利用開始までに時間がかかったり、管理者側の作業負荷が増えたりする可能性があります。
TailorNodeでは、利用者が空きリソースを確認し、必要な Planを選択してインスタンスを作成できます。
そのため、利用者は必要なタイミングで GPUリソースを確保しやすくなり、管理者は個別対応の負担を軽減できます。

また、Planによってインスタンス仕様や消費ポイントを標準化できることも重要だと感じました。
GPU数、vCPU、メモリ、OS、消費ポイントなどを Planとしてあらかじめ定義しておくことで、利用者は用途に応じた構成を選択しやすくなります。
管理者にとっても、提供するリソースの種類や利用条件を統一しやすくなるため、運用ルールの整理や利用状況の把握がしやすくなります。

これらの効果により、TailorNode は GPUリソースを複数チームやプロジェクトで共有する環境において、管理者の運用負荷を抑えながら、利用者が必要なときに必要なリソースを利用できる仕組みを提供できると考えられます。
特に、生成AIをはじめ、GPUの需要が高まる環境では、限られた GPUリソースを効率的に活用するための運用基盤として検証の結果とても有効であると感じました。

さいごに

本検証では、HPEサーバー環境に MORGENROT TailorNodeを導入し、リソースの制御、空き状況の確認、インスタンス作成、SSH接続までの一連の運用を確認しました。
検証の結果、TailorNodeを活用することで、限られた GPUリソースを効率的に活用できることを確認しました。
今後、GPU利用の拡大や運用状況の可視化ニーズが高まる中で、TailorNodeは柔軟な GPUインフラ運用を支える基盤として有効な選択肢になると考えられます。