Introduction

Quản lý Mô hình NPO là một nền tảng tự động hóa toàn diện cho các mô hình AI/ML được SKAX quảng bá, được thiết kế để quản lý toàn bộ vòng đời—bao gồm phát triển, đăng ký, triển khai, kiểm tra và vận hành—trong một môi trường tích hợp duy nhất. Người dùng có thể đăng ký các mô hình trong một Đăng ký Mô hình trung tâm và triển khai chúng lên các cụm Kubernetes thông qua giao diện dựa trên trình duyệt, mà không cần thiết lập hạ tầng phức tạp hoặc quy trình thủ công. Sau khi triển khai, người dùng có thể thực hiện kiểm tra thời gian thực và xác thực hiệu suất trong Playground. Trong giai đoạn vận hành, tính năng Giám sát & Quản lý cho phép giám sát thời gian thực trạng thái mô hình, mức sử dụng tài nguyên và nhật ký, cho phép khắc phục sự cố nhanh chóng. Quy trình tự động này giảm thiểu sự can thiệp của con người (Không có Hoạt động của Con người), tối đa hóa hiệu quả, sự ổn định và khả năng tái sản xuất trong các hoạt động mô hình AI.

Quản lý Mô hình NPO bao gồm các tính năng chính sau:

• Model Registry: Đăng ký mô hình, kiểm soát phiên bản và quản lý siêu dữ liệu
• Model Serving: Triển khai mô hình dựa trên Kubernetes và vận hành dịch vụ
• Playground: Kiểm tra và xác thực thời gian thực các mô hình đã triển khai
• Monitoring & Management: Giám sát và kiểm soát trạng thái của các mô hình đã triển khai

Thông qua những tính năng tích hợp này, NPO cung cấp một nền tảng tiêu chuẩn dựa trên MLOps cho quản lý mô hình, cho phép chuyển giao các mô hình từ môi trường nghiên cứu và phát triển sang môi trường sản xuất.