본문으로 건너뛰기

Deployment Details

이 화면은 모델 배포의 상세 정보를 조회할 수 있도록 하며, 기본 배포 정보 이해, 에러 모니터링, 배포 상태,성능 추적, 라이프사이클 액션 관리, 운영 이슈의 빠른 식별을 지원합니다.

Overview 탭​

Basic information​

배포 정보를 표시합니다:

  • Inference service name: 배포명
  • Namespace: 배포를 위한 네임스페이스
  • Framework: 서비스 프레임워크
  • Endpoint: 배포된 서비스의 URL
  • Status: 배포 상태

Deployed model​

배포된 모델 정보를 표시합니다:

  • Model project: 프로젝트명
  • Model name: 모델명
  • Model tag: 모델의 버전(태그)
  • Pool name: GPU 풀 이름

Conditions​

배포의 현재 운영 상태를 판단할 수 있는 조건 그룹을 표시합니다. 에러가 발생한 경우, 트러블슈팅 및 문제 해결을 위해 이슈를 빠르게 식별하고 격리하는 데 도움이 됩니다.

Pods​

모델이 어떤 pod에서 사용 중인지 확인하기 위한 pod 정보를 표시합니다:

  • Pod Name: Pod 이름
  • CPU Limits: Pod에 할당된 CPU 리소스의 최대치.
  • CPU Requests: 스케줄링을 위해 pod가 요청한 CPU 리소스.
  • GPU Spec: Pod에 할당된 GPU 스펙
  • Memory Limits: Pod에 할당된 최대 메모리 용량.
  • Memory Requests: 스케줄링을 위해 pod가 요청한 메모리.
  • Memory Usage: 실행 중인 Pod의 현재 메모리 사용량.
  • Node: 현재 pod가 실행 중인 노드.
  • Phase: Pod의 상태.
  • Ready Status: Pod의 준비 상태를 나타내며, 준비된 컨테이너 수/ 총 컨테이너 수로 표시합니다.

YAML 탭​

이 섹션은 각 모델 배포의 YAML을 표시하여, 배포 설정, 리소스 할당, 메타데이터 등을 점검할 수 있습니다.

Logs 탭​

Pod 로그 정보를 표시하여 사용자가 런타임 동작을 모니터링하고 모델 실행 중 발생하는 이슈를 진단할 수 있습니다.

사용자는 포드를 선택한 다음 포드 내의 컨테이너를 선택하여 로그 정보를 조회할 수 있습니다: