Architecture
Agent 는 AI 에이전트 및 모델의 생성, 관리, 배포를 효율적으로 지원하기 위해 설계된 SK NPO 플랫폼의 핵심 구성 요소입니다. Agent Studio는 NPO 서비스(AI Ops / AI Workspace)와 NPO 코어 인프라 사이에 위치하여, AI 기반 비즈니스 솔루션을 구축하고 운영하기 위한 통합 도구와 실행 환경을 제공합니다.
1. 지능형 에이전트 개발 및 운영
Agent Studio는 지능형 의사결정 기능을 갖춘 AI 에이전트를 구축, 관리 및 운영하기 위한 종합적인 개발·운영 도구를 제공합니다.
Core Components:- Agent Studio: 에이전트를 설계하고 구성하기 위한 시각적 개발 환경
- Workflow: 워크플로 기반의 에이전트 오케스트레이션 및 자동화 기능
- Contextual Cooperator: 다중 에이전트 간 협업과 상호작용을 지원하는 프레임워크
2. Data & AI Infrastructure Orchestration (Data & AI Infra Orchestration)
데이터, AI 모델, 컴퓨팅 자원을 통합적으로 관리하기 위한 엔터프라이즈급 오케스트레이션 플랫폼입니다.
Access & Deployment Layer:- RAGaaS & Ontology: 검색 증강 생성(RAG) 및 의미론적 지식 관리
- GPUaaS Platform: GPU 자원의 관리 및 할당
- LLMOps: 언어 모델의 생애 주기 관리 및 성능 최적화
- Std. I/F (MCP): 외부 시스템과의 표준 통합 인터페이스
- 에이전트, MCP 서버, 기술(Skill)의 중앙 집중식 관리
- 통합 거버넌스 및 버전 관리 지원
- AI 서비스에 대한 API 관리 및 라우팅
- 요청/응답 변환 및 성능 최적화
- Data (Knowledge): 지식 기반 및 벡터 저장소
- GPU/NPU (Computing): 추론 및 훈련을 위한 GPU 및 NPU 자원 풀
- LLM Model (Open): 오픈소스 언어 모델 지원 및 관리
- Service (System): 시스템 수준의 서비스 및 공통 API
AI 운영을 위한 모니터링 및 가시성
AI 운영 전반에 대한 포괄적인 모니터링 및 가시성을 제공합니다.
- 에이전트 실행 및 성능에 대한 실시간 추적
- 모델 추론 메트릭 수집 및 로그 관리
- 시스템 상태 및 자원 활용 현황 모니터링