Architecture
Agent Studio là một thành phần cốt lõi của nền tảng SK NPO, được thiết kế để tạo điều kiện cho việc tạo, quản lý và triển khai các AI Agent. Nó nằm giữa Dịch vụ NPO (AI Ops/Workspace) và cơ sở hạ tầng NPO Core, cung cấp các công cụ và môi trường để xây dựng và quản lý các giải pháp kinh doanh dựa trên AI.
1. Phát triển & Vận hành AI Agent
Các công cụ toàn diện để xây dựng, quản lý và vận hành các AI Agent với khả năng ra quyết định thông minh.
Core Components:- Agent Studio: Môi trường trực quan cho thiết kế và cấu hình AI Agent
- Workflow: Tổ chức và tự động hóa AI Agent dựa trên quy trình làm việc
- Contextual Cooperator: Framework tương tác và kết hợp nhiều AI Agent
2. Data & AI Infrastructure Orchestration (Data & AI Infra Orchestration)
Nền tảng thống nhất để quản lý dữ liệu, mô hình AI và tài nguyên tính toán:
Access & Deployment Layer:- RAGaaS & Ontology: Tạo ra thông tin tăng cường và quản lý tri thức ngữ nghĩa
- GPUaaS Platform: Quản lý và phân bổ tài nguyên GPU
- LLMOps: Quản lý và tối ưu hóa vòng đời mô hình ngôn ngữ
- Std. I/F (MCP): Giao diện tích hợp tiêu chuẩn cho các hệ thống bên ngoài
- Quản lý tập trung các AI Agent, Máy chủ MCP và Kỹ năng
- Quản lý và phiên bản thống nhất
- Quản lý và định tuyến API cho các dịch vụ AI
- Chuyển đổi và tối ưu hóa yêu cầu/phản hồi
- Data (Knowledge): Cơ sở tri thức và lưu trữ vector
- GPU/NPU (Computing): Các nhóm tài nguyên GPU và NPU cho suy diễn và đào tạo
- LLM Model (Open): Hỗ trợ và quản lý mô hình ngôn ngữ mã nguồn mở
- Service (System): Dịch vụ và API cấp hệ thống
3. AI Observability & Monitoring (AI Observability)
Giám sát và quan sát toàn diện cho các hoạt động AI:
- Theo dõi hiệu suất AI Agent theo thời gian thực
- Các chỉ số suy diễn mô hình và ghi log
- Giám sát sức khỏe hệ thống và sử dụng tài nguyên