跳到主要内容

GPU Capacity Management

概述​

GPU容量管理是一个管理员页面，提供对GPUaaS基础设施中每个节点的GPU资源的详细管理。在此页面上，用户可以实时监控每个节点上安装的物理GPU数量、创建的实例数量、分配状态、可用状态以及连接到集群的每个GPU节点的准备状态。此外，它还允许用户对单个节点进行配置更改、重新配置和删除操作。

  1. 标题部分 – 显示标题和节点总数

  2. 集群资源部分 - 提供带有搜索/过滤、排序的GPU资源列表。

  3. 节点资源部分 – 提供带有搜索/过滤、排序和操作选项的节点列表

集群资源部分​

此功能允许用户选择一个集群以查看该集群内的相应资源。

查看GPU资源列表​

用户可以查看集群中GPU资源的列表及其使用状态，包含以下信息：

  • Resource Type: GPU资源类型
  • Total: 该类型的总配置文件数量
  • Pool Allocated: 分配给池的配置文件数量
  • In Use: 当前使用的配置文件数量
  • Available: 可用配置文件数量
  • Usage: 当前使用的配置文件百分比

节点资源部分​

如果列表很长，用户可以使用表格部分上方的搜索栏。此功能允许用户按节点名称、IP、产品和状态进行搜索。

查看带有GPU的节点列表​

用户可以看到当前拥有 GPU 资源的节点列表，信息如下：

  • Cluster: GPU 节点所属集群的名称。（例如，zcp-ai-cp-eks）
  • Node: GPU 节点的主机名或 IP 地址；用户可以点击节点名称查看节点的详细页面。
  • Physical GPUs: 该节点上的物理 GPU 数量（例如，8 张卡）。
  • Total Instances: 在该节点上创建的 GPU 实例总数（完整或 MIG）。（例如，20 MIG，1 完整）
  • Allocated: 已分配给当前项目或池的 GPU 实例数量。
  • Available: 当前可用（未分配）GPU 实例的数量。如果为 0，则表示所有实例都在使用中或准备中。
  • Status: 节点状态：
    • 准备就绪：正常工作，可以分配
    • 维护中：正在维护，新的分配限制
    • 配置中：正在进行配置
    • 不可用：不可用状态

操作菜单​

用户可以点击三点按钮访问操作菜单，功能包括：

  • Config: 更改 GPU 节点的 MIG 配置文件和设置。
  • Re-provision: 重新配置和提供 GPU 节点上的资源，以便用户从节点错误中恢复或应用配置更改。
  • View details: 查看节点容量信息和 GPU 配置状态。
  • Delete: 从系统中移除 GPU 节点（需要管理员权限）。
注意
  • 在重新配置期间，节点无法使用。正在进行的任务可能会受到影响。
  • 删除是不可逆的，将移除该节点的所有 GPU 资源。