跳到主要内容

Architecture

代理工作室是SK NPO平台的核心组件,旨在促进AI代理和模型的创建、管理和部署。它位于NPO服务(AI Ops/Workspace)和基础NPO核心基础设施之间,提供构建和管理AI驱动的商业解决方案的工具和环境。

1. 智能代理开发与运营

全面的工具用于构建、管理和操作具有智能决策能力的AI代理。

Core Components:
  • Agent Studio: 代理设计和配置的可视化环境
  • Workflow: 基于工作流的代理编排和自动化
  • Contextual Cooperator: 多代理协作和交互框架

2. Data & AI Infrastructure Orchestration (Data & AI Infra Orchestration)

统一平台用于管理数据、AI模型和计算资源:

Access & Deployment Layer:
  • RAGaaS & Ontology: 检索增强生成和语义知识管理
  • GPUaaS Platform: GPU资源管理和分配
  • LLMOps: 语言模型生命周期管理和优化
  • Std. I/F (MCP): 外部系统的标准集成接口
AI Agent Hub:
  • 代理、MCP服务器和技能的集中管理
  • 统一的治理和版本控制
AI Gateway:
  • AI服务的API管理和路由
  • 请求/响应转换和优化
Resources & Infrastructure:
  • Data (Knowledge): 知识库和向量存储
  • GPU/NPU (Computing): 用于推理和训练的GPU和NPU资源池
  • LLM Model (Open): 开源语言模型支持和管理
  • Service (System): 系统级服务和API

3. AI Observability & Monitoring (AI Observability)

对AI操作的全面监控和可观察性:

  • 实时代理性能跟踪
  • 模型推理指标和日志记录
  • 系统健康和资源利用监控