Chuyển tới nội dung chính

GPU Capacity Management

Tổng quan​

Quản lý dung lượng GPU là một trang quản trị cung cấp quản lý chi tiết các tài nguyên GPU cho mỗi nút trong hạ tầng GPUaaS. Trên trang này, người dùng có thể theo dõi theo thời gian thực số lượng GPU vật lý được cài đặt trên mỗi nút, số lượng phiên bản đã tạo, trạng thái phân bổ, trạng thái khả dụng và trạng thái sẵn sàng cho mỗi nút GPU kết nối với một cụm. Ngoài ra, nó cho phép người dùng thực hiện các thay đổi cấu hình, tái cấp phát và các thao tác xóa trên từng nút.

  1. Phần tiêu đề – Hiển thị tiêu đề và tổng số nút

  2. Phần tài nguyên cụm - Cung cấp danh sách các tài nguyên GPU với tìm kiếm/lọc, sắp xếp.

  3. Phần tài nguyên nút – Cung cấp danh sách các nút với tìm kiếm/lọc, sắp xếp và các tùy chọn hành động

Phần tài nguyên cụm​

Chức năng này cho phép người dùng chọn một cụm để xem các tài nguyên tương ứng trong cụm đó.

Xem danh sách tài nguyên GPU​

Người dùng có thể xem danh sách các tài nguyên GPU trong cụm và trạng thái sử dụng của chúng với các thông tin sau:

  • Resource Type: Loại tài nguyên GPU
  • Total: Tổng số hồ sơ của loại đó
  • Pool Allocated: Số lượng hồ sơ được phân bổ cho các nhóm
  • In Use: Số lượng hồ sơ hiện đang được sử dụng
  • Available: Số lượng hồ sơ khả dụng
  • Usage: Tỷ lệ phần trăm hồ sơ hiện đang được sử dụng

Phần tài nguyên nút​

Nếu danh sách dài, người dùng có thể sử dụng thanh tìm kiếm ở trên phần bảng. Chức năng này cho phép người dùng tìm kiếm theo tên nút, IP, sản phẩm và trạng thái.

Xem danh sách các nút có GPU​

Người dùng có thể thấy danh sách các nút hiện đang có tài nguyên GPU với thông tin:

  • Cluster: Tên của cụm mà nút GPU thuộc về. (ví dụ: zcp-ai-cp-eks)
  • Node: Tên máy chủ hoặc địa chỉ IP của một nút GPU; người dùng có thể nhấp vào tên của nút để xem trang chi tiết của nút.
  • Physical GPUs: Số lượng GPU vật lý trên nút đó (ví dụ: 8 thẻ).
  • Total Instances: Tổng số lượng phiên bản GPU (Full hoặc MIG) được tạo ra trên nút đó. (ví dụ: 20 MIG, 1 Full)
  • Allocated: Số lượng phiên bản GPU đã được phân bổ cho dự án hoặc nhóm hiện tại.
  • Available: Số lượng phiên bản GPU hiện có (chưa được phân bổ). Nếu là 0, tất cả đều đang được sử dụng hoặc đang chuẩn bị.
  • Status: Trạng thái nút:
    • Sẵn sàng: Hoạt động bình thường và có thể được phân bổ
    • Bảo trì: Đang bảo trì và giới hạn phân bổ mới
    • Cung cấp: Đang trong quá trình cung cấp
    • Không sẵn sàng: Trạng thái không khả dụng

Menu Hành Động​

Người dùng có thể nhấp vào nút ba chấm để truy cập menu hành động cho các tính năng như:

  • Config: Thay đổi hồ sơ MIG và cài đặt cấu hình của một nút GPU.
  • Re-provision: Cấu hình lại và cung cấp tài nguyên trên các nút GPU trong trường hợp người dùng muốn khôi phục từ lỗi nút hoặc áp dụng thay đổi cấu hình.
  • View details: Xem thông tin dung lượng nút và trạng thái cấu hình GPU.
  • Delete: Xóa nút GPU khỏi hệ thống (cần quyền quản trị).
cảnh báo
  • Nút không thể được sử dụng trong quá trình cung cấp lại. Các tác vụ đang diễn ra có thể bị ảnh hưởng.
  • Việc xóa là không thể đảo ngược và sẽ xóa tất cả tài nguyên GPU cho nút.