メインコンテンツまでスキップ

Deployment Details

この画面では、ユーザーがモデルデプロイメントの詳細情報を表示できます。ユーザーは基本的なデプロイメントの詳細を理解し、エラーを監視し、デプロイメントのステータスとパフォーマンスを追跡し、ライフサイクルアクションを管理し、運用上の問題を迅速に特定するのに役立ちます。

概要タブ​

基本情報​

デプロイメント情報を表示します：

  • Inference service name: デプロイメント名
  • Namespace: デプロイメントの名前空間
  • Framework: サービングフレームワーク
  • Endpoint: デプロイされたサービスのURL
  • Status: デプロイメントのステータス

デプロイされたモデル​

デプロイされたモデルの情報を表示します：

  • Model project: プロジェクト名
  • Model name: モデルの名前
  • Model tag: モデルのバージョン（タグ）
  • Pool name: : GPUプールの名前

条件​

条件グループを表示し、ユーザーがデプロイメントの現在の運用状態を判断できるようにします。エラーが発生した場合、ユーザーは問題を迅速に特定し、トラブルシューティングと解決のために隔離するのに役立ちます。

ポッド​

モデルのポッド情報を表示し、どのポッドがモデルを使用しているかを特定します：

  • Pod Name: ポッドの名前
  • CPU Limits: ポッドに割り当てられた最大CPUリソース量。
  • CPU Requests: スケジューリングのためにポッドが要求したCPUリソースの量。
  • GPU Spec: ポッドに割り当てられたGPU仕様
  • Memory Limits: ポッドに割り当てられた最大メモリ容量。
  • Memory Requests: スケジューリングのためにポッドが要求したメモリの量。
  • Memory Usage: 実行中のポッドの現在のメモリ使用量。
  • Node: ポッドが現在実行されているノード。
  • Phase: ポッドのステータス。
  • Ready Status: ポッドの準備状況を示し、準備が整ったコンテナの数を総コンテナ数で表示します。

YAML タブ​

このセクションでは、各モデルデプロイメントのYAMLファイルを表示し、ユーザーが構成の詳細、リソースの割り当て、およびデプロイされたモデルに関連するメタデータを確認できるようにします。

ログタブ​

ポッドのログ情報を表示し、ユーザーが実行時の動作を監視し、モデル実行中の問題を診断できるようにします。

ユーザーはポッドを選択し、その後ポッド内のコンテナを選択してログ情報を表示する必要があります：