본문으로 건너뛰기

Backend List

Backend List 화면은 사용자가 외부 LLM 제공자 및 클러스터 내 모델 또는 REST 서비스와 같은 API의 라우팅 대상을 관리할 수 있도록 합니다.

Backend List 화면 접근​

왼쪽 네비게이션에서 Backends을 선택합니다.

백엔드 검색​

검색 기능을 사용하여 특정 백엔드를 빠르게 찾을 수 있습니다.

  • Name:  백엔드 이름으로 필터링
  • Project: 프로젝트로 필터링 (기본값: All)
  • Cluster: 클러스터로 필터링 (기본값: All)
  • Namespace: 네임스페이스로 필터링 (기본값: All)

사용자가 키워드를 입력하거나 값을 선택하면 검색 결과가 즉시 표시됩니다.

사용자는 Add Tag을 클릭하여 태그 필터를 추가할 수 있습니다. 여러 태그를 지원하며 AND 논리를 사용하여 결합됩니다.

Backend List 보기​

필터에 맞는 모든 백엔드를 나열하는 테이블을 볼 수 있습니다 (있는 경우). 정보에는 다음이 포함됩니다.

  • Backend Name: 백엔드 리소스 이름. 클릭하여 Backend Details을 엽니다.
  • Provider: LLM 제공자
  • Model: 모델 식별자
  • Secret: 백엔드 인증에 사용되는 API 키 비밀 이름
  • Namespace: 백엔드가 배포된 네임스페이스

작업​

생성​

사용자는 Register Backend을 클릭하여 새 백엔드를 생성할 수 있습니다. 클릭하면 Register Backend 화면으로 이동합니다.

세부정보 보기​

사용자는 Backend name을 클릭하여 Backend Detais 페이지를 열 수 있습니다.

삭제​

사용자는 휴지통 아이콘을 클릭하여 백엔드를 삭제할 수 있습니다. 클릭하면 확인 팝업이 나타나고 사용자는 삭제를 확인하기 위해 백엔드 이름을 입력해야 합니다.