Chuyển tới nội dung chính

Dashboard

Tổng quan​

Bảng điều khiển là trang chính dành cho các quản trị viên hệ thống để có cái nhìn tổng quát về trạng thái tổng thể của hệ thống quản lý GPU. Nó cung cấp các hình ảnh trực quan về việc sử dụng GPU theo thời gian thực, phân bổ theo dự án và trạng thái yêu cầu thông qua các thẻ, biểu đồ và bảng.

1 ~ 3 Phần thẻ - Tóm tắt các chỉ số chính (Thẻ tổng số GPU, Thẻ sử dụng, và Thẻ yêu cầu đang chờ)

  1. Biểu đồ phân tích sử dụng - Phân tích sử dụng GPU

  2. Bảng các nhóm GPU hàng đầu - Danh sách các nhóm GPU chính

  3. Bảng yêu cầu GPU đang chờ - Danh sách các yêu cầu đang chờ

Phần thẻ​

Thẻ tổng số GPU​

  • Mục đích: Hiển thị tổng số tài nguyên GPU đã đăng ký trong hệ thống.
  • Màu sắc: Mặc định của chủ đề.
  • Thông tin hiển thị:
    • Tổng số GPU: Tổng số GPU trên toàn bộ hạ tầng.
    • Số lượng GPU theo trạng thái: Số lượng GPU cho từng trạng thái: Sẵn sàng, Thất bại, và Không khớp.
  • Hành động: Nhấp vào thẻ sẽ dẫn đến trang GPU Pools Management để biết thêm chi tiết.
  • Trường hợp sử dụng:
    • Cung cấp cái nhìn tổng quát nhanh về quy mô hạ tầng, bao gồm phân tích trạng thái hoạt động.
    • Làm tài liệu tham khảo cho các phép tính sử dụng.

Thẻ sử dụng​

  • Mục đích: Hiển thị tổng thể tỷ lệ sử dụng GPU (%) theo thời gian thực theo 'Sẵn có' và 'Đang sử dụng'.
  • Màu sắc: Tông màu xanh lá.
  • Thông tin hiển thị:
    • Tỷ lệ sử dụng: Phần trăm GPU hiện đang được sử dụng.
    • Sẵn có: Số lượng GPU sẵn sàng để phân bổ.
    • Đang sử dụng: Số lượng GPU hiện đang được phân bổ và chạy các khối lượng công việc.
  • Hành động: Nhấp vào thẻ sẽ dẫn đến trang GPU Capacity Management để tìm hiểu sâu hơn về phân tích sử dụng.
  • Trường hợp sử dụng:
    • Cho phép người dùng theo dõi mức tiêu thụ tài nguyên
    • Nhanh chóng xác định khả năng sẵn có và xác định xem có cần thêm tài nguyên hay không.
thông tin

Utilization = (In Used / Total GPUs) × 100%

Thẻ Yêu Cầu Đang Chờ​

  • Mục đích: Hiển thị số lượng yêu cầu GPU đang chờ phê duyệt.
  • Màu sắc: Tông màu vàng.
  • Thông tin hiển thị:
    • Yêu Cầu Đang Chờ: Số lượng yêu cầu có trạng thái REQUESTED.
    • Biểu tượng: Biểu tượng ô kiểm để báo hiệu các hành động đang chờ.
  • Hành động: Nhấp vào thẻ sẽ điều hướng đến trang GPU Pool Requests với bộ lọc REQUESTED được áp dụng.
  • Trường hợp sử dụng: Giám sát ngay lập tức các yêu cầu chưa được xử lý và ưu tiên các hành động tương ứng.
cảnh báo

Số lượng yêu cầu đang chờ cao có thể cần sự chú ý ngay lập tức để tránh trì hoãn trong việc phân bổ tài nguyên.

Biểu Đồ Phân Tích Sử Dụng​

Biểu Đồ Sử Dụng Cụm​

  • Mục đích: Hình dung trạng thái phân bổ của GPU theo thông số sử dụng biểu đồ donut hình tròn, cung cấp cái nhìn ngay lập tức về phân phối tài nguyên trên toàn cụm.
  • Màu sắc: Tông màu xanh lá.
  • Thông tin hiển thị:
    • Total: Tổng số GPU cho cụm đã chọn.
    • Allocated: Số lượng GPU được phân bổ cho các nhóm nhưng hiện không được sử dụng (xanh lá).
    • Available: Số lượng GPU chưa được phân bổ và có sẵn cho các phân công mới (xanh lá nhạt).
    • Used: Số lượng GPU hiện đang được sử dụng bởi các pod đang chạy (xám).
  • Trường hợp sử dụng:
    • So sánh phân bổ, sử dụng và khả năng có sẵn giữa các thông số GPU.
    • Xác định các mẫu sử dụng và nút thắt tài nguyên.
    • Hỗ trợ quyết định cho việc mở rộng và lập kế hoạch tài nguyên.
  • Logic diễn giải:
    • Đã phân bổ: Đại diện cho GPU đã được phân bổ cho các nhóm nhưng chưa được sử dụng.
    • Đang sử dụng: Đại diện cho GPU đang được sử dụng tích cực bởi các khối lượng công việc (usedProfile từ allCounts API).
    • Có sẵn: Đại diện cho GPU không được phân bổ cũng như không được sử dụng (Có sẵn từ cluster-capacity).
    • Đã phân bổ + Đang sử dụng: Đại diện cho tất cả GPU đã được phân bổ cho các nhóm (từ dung lượng cụm).
  • Kích thước lát biểu đồ phản ánh số liệu thực tế cho từng trạng thái/đặc tả.

Biểu đồ Sử dụng theo Dự án​

  • Mục đích: Hiển thị tỷ lệ phần trăm sử dụng GPU theo dự án. Bạn có thể nhìn thấy trực quan mức độ mà mỗi dự án chiếm trong tổng mức sử dụng.
  • Màu sắc: Tông màu tím.
  • Thông tin hiển thị:
    • 5 dự án hàng đầu được hiển thị riêng lẻ với số lượng GPU đang sử dụng.
    • Các dự án khác được nhóm lại dưới Other
    • Tổng: Tổng số GPU đang sử dụng bởi tất cả các dự án
  • Trường hợp sử dụng:
    • Giám sát các dự án nào đang tiêu thụ nhiều tài nguyên GPU nhất.
    • Phát hiện sự tập trung và xu hướng sử dụng.
    • Theo dõi các thay đổi cụ thể của dự án theo thời gian.
  • Logic diễn giải: Kích thước lát = số lượng sử dụng theo dự án.
ghi chú

"Khác" không thể mở rộng; chi tiết có sẵn qua tooltip.

Biểu đồ Sử dụng theo Loại GPU​

  • Mục đích: Minh họa việc sử dụng GPU theo loại phần cứng với biểu đồ donut để tham khảo nhanh (A100, H100, v.v.).
  • Màu sắc: Tông màu xanh.
  • Thông tin hiển thị:
    • 5 loại hàng đầu được hiển thị riêng lẻ với số lượng GPU đang sử dụng.
    • Các loại khác được nhóm lại dưới "Khác".
    • Tổng: Tổng số GPU đang sử dụng theo loại.
  • Trường hợp sử dụng:
    • Xác định các loại GPU được sử dụng nhiều nhất và ít nhất.
    • Phát hiện tính khả dụng và độ bão hòa theo loại.
    • Phân tích xu hướng phần cứng và thông báo cho việc mua sắm trong tương lai.
  • Logic diễn giải: Kích thước lát = số lượng sử dụng theo loại GPU.

Bảng 5 Hồ bơi GPU Hàng đầu​

  • Mục đích: Cung cấp cái nhìn tổng quan theo thời gian thực về các hồ bơi GPU chính, làm nổi bật việc sử dụng, phân bổ và trạng thái để hỗ trợ quản lý tài nguyên hiệu quả.
  • Thông tin hiển thị:
    • Pool Name: Tên của hồ bơi GPU, có thể nhấp để điều hướng đến trang chi tiết của hồ bơi.
    • Project: Tên dự án được phân bổ; nếu không được phân bổ, hiển thị là Chưa phân bổ.
    • Type: Thông tin về mô hình và số lượng GPU (ví dụ: 7g.40gb x1, 1g.5gb x1, Hỗn hợp).
  • Usage: Hiển thị GPU đã sử dụng/Tổng số GPU (ví dụ: 0/1, 1/6), được trực quan hóa bằng thanh tiến độ.
    • Status: Trạng thái Pool (Khỏe/Mất sức khỏe)
      • Inuse: Pool đang hoạt động, hiện đang được sử dụng.
      • Available: Pool có sẵn để phân công.
      • Unassigned: Không có dự án nào được phân công.
  • Tính năng:
    • Sorting: Sắp xếp theo Pool Name và Usage.
    • View All: Truy cập danh sách đầy đủ các GPU pool.
    • Usage: Mức sử dụng được chỉ định bằng màu sắc của thanh tiến độ.
      • Mức sử dụng thấp: Màu xanh.
      • Mức sử dụng trung bình: Màu vàng.
      • Mức sử dụng cao: Màu đỏ.
  • Trường hợp sử dụng: Giám sát mức sử dụng và trạng thái của các pool chính, xác định các pool chưa được phân công và lập kế hoạch phân bổ.
    • Giám sát tỷ lệ sử dụng và trạng thái hoạt động của các GPU pool chính.
    • Xác định các pool Unassigned cho kế hoạch phân bổ trong tương lai.
    • Nhanh chóng xem xét tình trạng pool và ưu tiên các hành động quản lý.

Pending GPU Requests Table​

  • Mục đích: Hiển thị 5 yêu cầu GPU Pool đang chờ gần đây nhất, cho phép các quản trị viên quản lý quy trình phê duyệt một cách hiệu quả.
  • Thông tin hiển thị:
    • Project: Tên của dự án mà yêu cầu được tạo ra
    • Pool Name: Tên của GPU pool được yêu cầu.
    • Requested Date: Ngày và giờ khi yêu cầu được tạo ra.
    • Action: Approve hoặc Reject yêu cầu (cho phép quản trị viên phê duyệt hoặc từ chối yêu cầu).
  • Tính năng:
    • Sorting: Sắp xếp theo Pool Name hoặc Requested Date.
    • Actions:
      • Approve: Phê duyệt ngay lập tức yêu cầu.
      • Reject: Mở một modal để nhập lý do từ chối (bắt buộc)
    • View All: Truy cập danh sách đầy đủ các yêu cầu GPU Pool
  • Trường hợp sử dụng:
    • Nhanh chóng xác định và xử lý các yêu cầu cũ hoặc khẩn cấp.
    • Tinh giản quy trình phê duyệt và từ chối, giảm thiểu sự chậm trễ hành chính.
  • Phương pháp xử lý:
  1. Nhấn Chấp nhận thì yêu cầu được chấp thuận
    1. Nhấn Từ chối thì nhập lý do trong hộp thoại thì yêu cầu bị từ chối
ghi chú
  • Dữ liệu tự động cập nhật sau khi xử lý.
  • Việc từ chối yêu cầu một lý do để đảm bảo tính minh bạch và khả năng truy xuất.