본문으로 건너뛰기

Dashboard

개요​

대시보드는 시스템 관리자가 GPU 관리 시스템의 전반적인 상태를 한눈에 파악할 수 있는 메인 페이지입니다. 카드, 차트 및 테이블을 사용하여 실시간 GPU 사용량, 프로젝트별 할당 및 요청 상태에 대한 시각화를 제공합니다.

①~③ 카드 섹션 – 주요 지표 요약 (총 GPU 카드, 활용도 카드, 대기 요청 카드)

④ 사용 분석 차트 – GPU 사용 분석

⑤ 주요 GPU 풀 테이블 – 주요 GPU 풀 목록

⑥ 대기 GPU 요청 테이블 – 대기 요청 목록

카드 섹션​

총 GPU 카드​

  • 목적: 시스템에 등록된 GPU 리소스의 총 수를 표시합니다.
  • 색상: 테마 기본값.
  • 표시된 정보:
    • 총 GPU: 인프라 전반의 총 GPU 수.
    • 상태별 GPU 수: Ready, Failed, and Mismatched.
  • 액션: 카드를 클릭하면 추가 세부정보를 위해 GPU Pools Management 페이지로 이동합니다.
  • 사용 사례:
    • 운영 상태의 세부 사항을 포함하여 인프라 규모에 대한 빠른 개요를 제공합니다.
    • 활용도 계산을 위한 참고 자료로 사용됩니다.

활용도 카드​

  • 목적: 'Available' 및 'In Used'에 따라 실시간으로 전체 GPU 활용도(%)를 표시합니다.
  • 색상: 녹색.
  • 표시된 정보:
    • 활용도: 현재 사용 중인 GPU의 비율.
    • Available: 할당 준비가 된 GPU 수.
    • In Used: 현재 할당되어 작업을 실행 중인 GPU 수.
  • 액션: 카드를 클릭하면 사용 분석에 대한 세부 정보를 위해 GPU Capacity Management 페이지로 이동합니다.
  • 사용 사례:
    • 사용자가 리소스 소비를 모니터링할 수 있도록 합니다.
    • 사용 가능한 용량을 신속하게 식별하고 추가 리소스가 필요한지 결정합니다.
정보

Utilization = (In Used / Total GPUs) × 100%

대기 요청 카드​

  • 목적: 승인 대기 중인 GPU 요청 수를 표시합니다.
  • 색상: 노란색.
  • 표시된 정보:
    • 대기 요청: 상태가 REQUESTED인 요청의 수.
    • 아이콘: 대기 중인 작업을 구분하기 위한 체크박스 아이콘.
  • 작업: 카드를 클릭하면 REQUESTED 필터가 적용된 GPU Pool Requests 페이지로 이동합니다.
  • 사용 사례: 처리되지 않은 요청을 즉시 모니터링하고 작업의 우선 순위를 정합니다.
경고

대기 요청이 많으면 자원 할당 지연을 피하기 위해 주의가 필요합니다.

사용 분석 차트​

클러스터 사용 차트​

  • 목적: GPU 사양별 할당 현황을 폴라 도넛 차트로 시각화하여 클러스터 전반의 리소스 분포를 즉시 파악할 수 있습니다.
  • 색상: 녹색 톤.
  • 표시 정보:
    • Total: 선택한 클러스터의 총 GPU 수.
    • Allocated: 풀에 할당되었지만 현재 사용되지 않는 GPU 수 (녹색).
    • Available: 아직 할당되지 않고 할당 가능한 GPU 수 (연한 녹색).
    • Used: 현재 실행 중인 포드에 의해 사용되고 있는 GPU 수 (회색).
  • 사용 사례:
    • GPU 사양 간의 할당, 사용 및 가용성을 비교합니다.
    • 사용 패턴 및 자원 리소스 현상을 파악합니다.
    • 확장 및 리소스 계획을 위한 의사 결정을 지원합니다.
  • 해석 논리:
    • 할당됨: 풀에 할당되었지만 아직 사용되지 않은 GPU.
    • 사용됨: 작업에 의해 적극적으로 사용되는 GPU (usedProfile from allCounts API).
    • 사용 가능: 할당되지도 사용되지도 않은 GPU (cluster-capacity에서 사용 가능).
    • 할당됨 + 사용됨: 풀에 할당된 모든 GPU (cluster-capacity에서).
  • 차트 슬라이스 크기는 각 상태/사양에 대한 실제 숫자를 반영합니다.

프로젝트별 사용량 차트​

  • 목적: 프로젝트별 GPU 사용 비율을 표시합니다. 각 프로젝트가 전체 사용량에서 차지하는 비율을 시각적으로 확인할 수 있습니다.
  • 색상: 보라색.
  • 표시 정보:
    • 상위 5개 프로젝트는 사용 중인 GPU 수와 함께 개별적으로 표시됩니다.
    • 나머지 프로젝트는 ""로 그룹화됩니다.
    • 총계: 모든 프로젝트에서 사용 중인 GPU의 총 수
  • 사용 사례:
    • 가장 많은 GPU 리소스를 소비하는 프로젝트를 모니터링합니다.
    • 집중도 및 사용 추세를 감지합니다.
    • 시간에 따른 프로젝트별 변화를 추적합니다.
  • 해석 논리: 슬라이스 크기 = 프로젝트당 사용량.
노트

"Other"는 확장할 수 없으며, 세부 정보는 툴팁을 통해 확인할 수 있습니다.

GPU 유형별 사용량 차트​

  • 목적: 도넛 차트를 통해 하드웨어 유형별 GPU 사용량을 빠르게 확인할 수 있습니다 (A100, H100 등).
  • 색상: 파란색.
  • 표시 정보:
    • 상위 5개 유형은 사용 중인 GPU 수와 함께 개별적으로 표시됩니다.
    • 나머지 유형은 "Other"로 그룹화됩니다.
    • 총계: 유형별 사용 중인 GPU의 총 수.
  • 사용 사례:
    • 가장 많이 사용되는 GPU 유형과 가장 적게 사용되는 GPU 유형을 식별합니다.
    • 유형 기반 가용성 및 포화 상태를 감지합니다.
    • 하드웨어 추세를 분석하고 향후 조달에 대한 정보를 제공합니다.
  • 해석 논리: 슬라이스 크기 = GPU 유형당 사용 수.

상위 5개 GPU 풀 테이블​

  • 목적: 메인 GPU 풀에 대한 실시간 개요를 제공하여 사용량, 할당 및 상태를 강조하여 효과적인 리소스 관리를 지원합니다.
  • 표시 정보:
    • Pool Name: GPU 풀의 이름, 클릭 가능하여 클릭 풀의 세부 정보 페이지로 이동합니다.
    • Project: 할당된 프로젝트 이름; 할당되지 않은 경우 "Unassigned"으로 표시됩니다.
    • Type: GPU 모델 및 수량 정보 (예: 7g.40gb x1, 1g.5gb x1, 혼합).
  • Usage: 사용된/총 GPU 수를 표시합니다 (예: 0/1, 1/6), 진행률 막대로 시각화됩니다.
    • Status: 풀 상태 (건강함/불건강함)
      • Inuse: 활성하고 현재 사용 중인 풀.
      • Available: 할당 가능한 풀.
      • Unassigned: 할당된 프로젝트가 없는 풀.
  • 기능:
    • Sorting: Pool Name 및 Usage로 정렬합니다.
    • View All: 전체 GPU 풀 목록에 접근합니다.
    • Usage: 사용량은 진행률 막대 색상으로 표시됩니다.
      • 낮은 사용량: 녹색.
      • 중간 사용량: 노란색.
      • 높은 사용량: 빨간색.
  • 사용 사례: 메인 풀의 사용량 및 상태를 모니터링하고, 할당되지 않은 풀을 식별하며, 할당 계획을 수립합니다.
    • 메인 GPU 풀의 사용률 및 운영 상태를 모니터링합니다.
    • 향후 할당 계획을 위해 “Unassigned” 풀을 식별합니다.
    • 풀 건강 상태를 신속하게 검토하고 관리 작업의 우선 순위를 정합니다.

Pending GPU Requests Table​

  • 목적: 최근 5개의 처리 대기 중인 GPU 풀 요청을 표시하여 관리자가 승인 워크플로를 효율적으로 관리할 수 있도록 합니다.
  • 표시 정보:
    • Project: 요청이 생성된 프로젝트의 이름
    • Pool Name: 요청된 GPU 풀의 이름.
    • Requested Date: 요청이 생성된 날짜 및 시간.
    • Action: 요청을 Approve 또는 Reject (관리자가 요청을 승인하거나 거부할 수 있도록 함).
  • 기능:
    • Sorting: Pool Name 또는 Requested Date로 정렬합니다.
    • Actions:
      • Approve: 요청을 즉시 승인합니다.
      • Reject: 거부 사유를 입력할 수 있는 모달을 엽니다 (필수)
    • View All: GPU 풀 요청의 전체 목록에 접근합니다.
  • 사용 사례:
    • 오래되거나 긴급한 요청을 신속하게 식별하고 처리합니다.
    • 승인 및 거부를 간소화하여 관리 지연을 최소화합니다.
  • 처리 방법:
    1. 승인 클릭하여 요청이 승인됩니다.
    2. 거부 클릭할 때 모달에 사유 입력하여 요청이 거부됩니다.
노트
  • 데이터는 처리 후 자동으로 업데이트됩니다.
  • 거부에는 투명성과 추적 가능성을 보장하기 위한 사유가 필요합니다.