メインコンテンツまでスキップ

Dashboard

概要

ダッシュボードは、システム管理者がGPU管理システムの全体的なステータスを一目で把握するためのメインページです。リアルタイムのGPU使用状況、プロジェクト固有の割り当て、およびリクエストのステータスをカード、チャート、テーブルを使用して視覚化します。

1 ~ 3 カードセクション - 主要指標の概要(総GPUカード、利用率カード、保留中のリクエストカード)

  1. 使用分析チャート - GPU使用分析

  2. トップGPUプールテーブル - 主なGPUプールのリスト

  3. 保留中のGPUリクエストテーブル - 保留中のリクエストのリスト

カードセクション

総GPUカード

  • 目的: システムに登録されているGPUリソースの総数を表示します。
  • 色: テーマのデフォルト。
  • 表示される情報:
    • 総GPU: インフラ全体のGPUの総数。
    • ステータス別のGPUカウント: 各ステータス(準備完了、失敗、不一致)のGPUカウント。
  • アクション: カードをクリックすると、詳細情報のために GPU Pools Management ページに移動します。
  • ユースケース:
    • インフラの規模を迅速に把握し、運用状況の内訳を含める。
    • 利用率計算の参考として機能します。

利用率カード

  • 目的: '利用可能' と '使用中' によるリアルタイムの全体GPU利用率(%)を表示します。
  • 色: 緑系。
  • 表示される情報:
    • 利用率: 現在使用中のGPUの割合。
    • 利用可能: 割り当ての準備ができているGPUの数。
    • 使用中: 現在割り当てられ、ワークロードを実行しているGPUの数。
  • アクション: カードをクリックすると、使用分析の詳細を確認するために GPU Capacity Management ページに移動します。
  • ユースケース:
    • ユーザーがリソース消費を監視できるようにします。
    • 利用可能なキャパシティを迅速に特定し、追加リソースが必要かどうかを判断します。
備考

利用率 = (使用中 / 総GPU数) × 100%

保留中のリクエストカード

  • 目的: 承認待ちのGPUリクエストの数を表示します。
  • 色: 黄色系。
  • 表示情報:
    • 保留中のリクエスト: ステータスが REQUESTED のリクエストのカウント。
    • アイコン: 保留中のアクションを示すチェックボックスアイコン。
  • アクション: カードをクリックすると、GPU Pool Requests ページに REQUESTED フィルターが適用された状態で移動します。
  • ユースケース: 未処理のリクエストを即座に監視し、アクションを優先します。
警告

保留中のリクエストが多い場合、リソースの割り当てに遅延を避けるために即時の対応が必要です。

使用分析チャート

クラスター使用状況チャート

  • 目的: 業務仕様に基づいてGPUの割り当て状況を極座標ドーナツチャートで視覚化し、クラスター全体のリソース分配に関する即時の洞察を提供します。
  • 色: 緑系。
  • 表示情報:
    • Total: 選択したクラスターの総GPU数。
    • Allocated: プールに割り当てられているが現在使用されていないGPUの数(緑)。
    • Available: まだ割り当てられておらず、新しい割り当てに利用可能なGPUの数(薄緑)。
    • Used: 現在実行中のポッドによって利用されているGPUの数(灰色)。
  • ユースケース:
    • GPU仕様間での割り当て、使用状況、可用性を比較します。
    • 使用パターンとリソースのボトルネックを特定します。
    • スケーリングとリソース計画の意思決定をサポートします。
  • 解釈ロジック:
    • 割り当て済み: プールに割り当てられているがまだ使用されていないGPUを表します。
    • 使用中: ワークロードによって積極的に使用されているGPUを表します (usedProfile から allCounts API)。
    • 利用可能: 割り当てられておらず、使用中でもないGPUを表します (Available from cluster-capacity)。
    • 割り当て済み + 使用中: プールに割り当てられているすべてのGPUを表します (クラスター容量から)。
  • チャートのスライスサイズは、各ステータス/仕様の実際の数値を反映しています。

プロジェクト別使用状況チャート

  • 目的: プロジェクトごとのGPU使用率を示します。各プロジェクトが総使用量にどれだけ寄与しているかを視覚的に確認できます。
  • 色: 紫系。
  • 表示情報:
    • 上位5つのプロジェクトは、使用中のGPUの数とともに個別に表示されます。
    • その他のプロジェクトは Other の下にグループ化されます。
    • 合計: すべてのプロジェクトで使用中のGPUの合計数
  • ユースケース:
    • どのプロジェクトが最もGPUリソースを消費しているかを監視します。
    • 集中度と使用傾向を検出します。
    • プロジェクト固有の変化を追跡します。
  • 解釈ロジック: スライスサイズ = プロジェクトごとの使用量。
注記

「その他」は展開できません; 詳細はツールチップで確認できます。

GPUタイプ別使用状況チャート

  • 目的: ハードウェアタイプ別のGPU使用状況をドーナツチャートで示し、迅速な参照を提供します(A100、H100など)。
  • 色: 青系。
  • 表示情報:
    • 上位5つのタイプは、使用中のGPUの数とともに個別に表示されます。
    • その他のタイプは「その他」の下にグループ化されます。
    • 合計: タイプ別の使用中のGPUの合計数。
  • ユースケース:
    • 最も利用されているGPUタイプと最も利用されていないGPUタイプを特定します。
    • タイプ別の可用性と飽和状態を検出します。
    • ハードウェアの傾向を分析し、将来の調達に役立てます。
  • 解釈ロジック: スライスサイズ = GPUタイプごとの使用数。

上位5つのGPUプールテーブル

  • 目的: 主なGPUプールのリアルタイムの概要を提供し、使用状況、割り当て、ステータスを強調して効果的なリソース管理をサポートします。
  • 表示情報:
    • Pool Name: GPUプールの名前、クリック可能でプールの詳細ページに移動します。
    • Project: 割り当てられたプロジェクト名; 割り当てがない場合は「未割り当て」と表示されます。
    • Type: GPUモデルと数量情報(例: 7g.40gb x1, 1g.5gb x1, Mixed)。
  • Usage: 使用中/総GPU数を表示します(例:0/1、1/6)、プログレスバーで視覚化されています。
    • Status: プールの状態(正常/異常)
      • Inuse: アクティブプール、現在使用中です。
      • Available: プールは割り当て可能です。
      • Unassigned: プロジェクトは割り当てられていません。
  • 機能:
    • Sorting: Pool NameUsage でソートします。
    • View All: 完全なGPUプールリストにアクセスします。
    • Usage: 使用状況はプログレスバーの色で示されます。
      • 低使用: 緑色。
      • 中程度の使用: 黄色。
      • 高使用: 赤色。
  • ユースケース: 主要なプールの使用状況と状態を監視し、未割り当てのプールを特定し、割り当てを計画します。
    • 主要なGPUプールの使用率と運用状況を監視します。
    • 将来の割り当て計画のために Unassigned プールを特定します。
    • プールの健康状態を迅速に確認し、管理アクションの優先順位を付けます。

保留中のGPUリクエストテーブル

  • 目的: 最新の保留中のGPUプールリクエスト上位5件を表示し、管理者が承認ワークフローを効率的に管理できるようにします。
  • 表示情報:
    • Project: リクエストが作成されたプロジェクトの名前
    • Pool Name: リクエストされたGPUプールの名前。
    • Requested Date: リクエストが作成された日時。
    • Action: リクエストを Approve または Reject します(管理者がリクエストを承認または拒否できるようにします)。
  • 機能:
    • Sorting: Pool Name または Requested Date でソートします。
    • Actions:
      • Approve: リクエストを即座に承認します。
      • Reject: 拒否理由を入力するモーダルを開きます(必須)
    • View All: GPUプールリクエストの完全なリストにアクセスします。
  • ユースケース:
    • 古いまたは緊急のリクエストを迅速に特定し処理します。
    • 承認と拒否を効率化し、管理上の遅延を最小限に抑えます。
  • 処理方法:
  1. 承認をクリックすると、リクエストが承認されます
    1. 拒否をクリックし、モーダルに理由を入力すると、リクエストが拒否されます
注記
  • データは処理後に自動的に更新されます。
  • 拒否には透明性と追跡可能性を確保するための理由が必要です。