GPU Capacity Management
概要
GPUキャパシティ管理は、GPUaaSインフラストラクチャ内の各ノードのGPUリソースを詳細に管理するための管理者ページです。このページでは、ユーザーは各GPUノードがクラスターに接続されている状態で、ノードごとにインストールされている物理GPUの数、作成されたインスタンスの数、割り当て状況、利用可能状況、および準備状況をリアルタイムで監視できます。さらに、ユーザーは個々のノードに対して構成変更、再プロビジョニング、および削除操作を実行することができます。
-
ヘッダーセクション – タイトルとノードの総数を表示
-
クラスターリソースセクション - 検索/フィルタリング、ソート機能を持つGPUリソースのリストを提供します。
-
ノードリソースセクション – 検索/フィルタリング、ソート、およびアクションオプションを持つノードのリストを提供します
クラスターリソースセクション
検索
この機能により、ユーザーはクラスターを選択して、そのクラスター内の対応するリソースを表示できます。
GPUリソースのリストを表示
ユーザーはクラスター内のGPUリソースのリストとその使用状況を以下の情報で確認できます：
- Resource Type: GPUリソースのタイプ
- Total: そのタイプのプロファイルの総数
- Pool Allocated: プールに割り当てられたプロファイルの数
- In Use: 現在使用中のプロファイルの数
- Available: 利用可能なプロファイルの数
- Usage: 現在使用中のプロファイルの割合
ノードリソースセクション
検索
リストが長い場合、ユーザーはテーブルセクションの上にある検索バーを使用できます。この機能により、ユーザーはノード名、IP、製品、およびステータスで検索できます。
GPUを持つノードのリストを表示
ユーザーは、現在GPUリソースを持っているノードのリストを次の情報とともに見ることができます：
- Cluster: GPUノードが属するクラスターの名前。（例：zcp-ai-cp-eks）
- Node: GPUノードのホスト名またはIPアドレス；ユーザーはノードの名前をクリックしてノードの詳細ページを表示できます。
- Physical GPUs: そのノード上の物理GPUの数（例：8枚のカード）。
- Total Instances: そのノード上に作成されたGPUインスタンスの総数（フルまたはMIG）。（例：20 MIG、1フル）
- Allocated: 現在のプロジェクトまたはプールにすでに割り当てられているGPUインスタンスの数。
- Available: 現在利用可能（未割り当て）のGPUインスタンスの数。0の場合、すべて使用中または準備中です。
- Status: ノードのステータス：
- Ready: 正常に動作しており、割り当て可能
- Maintenance: メンテナンス中で新しい割り当て制限
- Provisioning: プロビジョニング中
- Not Ready: 利用不可のステータス
アクションメニュー
ユーザーは、三点ボタンをクリックして、次のような機能のアクションメニューにアクセスできます：
- Config: GPUノードのMIGプロファイルと設定を変更します。
- Re-provision: ノードエラーから回復するか、設定変更を適用する場合に、GPUノードのリソースを再構成およびプロビジョニングします。
- View details: ノードの容量情報とGPU設定ステータスを表示します。
- Delete: システムからGPUノードを削除します（管理者権限が必要です）。
警告
- プロビジョニング中はノードを使用できません。進行中のタスクに影響を与える可能性があります。
- 削除は元に戻せず、ノードのすべてのGPUリソースが削除されます。