AI Gatewayは、ゲートウェイの操作、トラフィック制御、およびサービスの可観測性をサポートするための重要な機能セットを提供します。
ゲートウェイ管理
ゲートウェイ
Definition: AI Gatewayのエントリーポイントとして機能するKubernetes Gateway リソースを管理します。
Key Functions:- クラスターやネームスペース全体にデプロイされたゲートウェイを表示および管理します。
- リスナー、TLS、およびルーティング関連の設定を構成し、操作/トラブルシューティングのためにゲートウェイの詳細を確認します。
ゲートウェイ設定
Definition: 共有リソース、レプリカ数、およびタグを含む、ゲートウェイインスタンスに適用される一般的な設定のテンプレートを管理します。複数のゲートウェイは、同じ設定を参照して、一貫したリソースおよび運用ポリシーを強制できます。
Key Functions:- 再利用可能なゲートウェイ構成テンプレートを作成および管理します。
- 一般的なリソースポリシー（リソース）、レプリカ、およびタグ付け基準を定義します。
- 同じ設定を参照することで、複数のゲートウェイに一貫した設定を適用します。
TLSシークレット（証明書）
Definition: Kubernetesシークレットリソースを管理し、ゲートウェイリスナーがHTTPSエンドポイントで使用する証明書/秘密鍵ペアの登録、ローテーション、および削除をサポートします。
Key Functions:- TLSシークレットを作成および管理します。
- 未使用または期限切れのTLS材料を削除し、操作のためにTLSシークレットの詳細を確認します。
トラフィック
バックエンド
Definition: 外部LLMプロバイダー（例：OpenAI、Anthropic）やクラスター内のモデル/RESTサービスを含むAPIのルーティングターゲットを管理します。
Key Functions:- バックエンドを登録し、バックエンド接続設定およびエンドポイントを管理します。
- ルーティングターゲットを検証し、問題をトラブルシューティングするためにバックエンドの詳細を表示します。
API
Definition: トラフィックルーティングルール（HTTPRoute/API）をゲートウェイ上で定義し、ホスト名、パスプレフィックス、マッチ条件、バックエンド、フィルター、およびポリシーを単一のゲートウェイエクスポージャユニットにまとめます。
Key Functions:- APIを作成し、API設定を管理します。
- 操作制御のためにAPIの詳細を確認します。
トラフィックポリシー
Definition: 認証、レート制限、ヘッダー変換、AIプロンプトガードなど、ゲートウェイおよびルートに適用されるトラフィックポリシーを管理し、Kubernetes Gateway APIポリシーアタッチメントモデルに従います。
Key Functions:- ゲートウェイ用の再利用可能なトラフィックポリシーを作成および管理します。
- 操作およびトラブルシューティングのためにポリシーバインディングと効果的な動作を検査します。
APIキー
Definition: Kubernetes Secretリソースを管理し、主に公共LLMプロバイダーのAPIキーおよびユーザー認証のための資格情報を保存するために使用されます。
Key Functions:- Kubernetes Secretリソースを作成および管理します。
- 操作/トラブルシューティングのためのメタデータと参照を表示します。
可観測性
トポロジー
Definition: ゲートウェイ、API、バックエンド、ポリシー、およびシークレット間の関係グラフを視覚化し、トラフィックフロー、ポリシーアタッチメント、およびバックエンドマッピングを一目で確認します。
Key Functions:- コンポーネントの関係と高レベルのフローを視覚化します。
- 操作の理解とトラブルシューティングをサポートします。