Une plateforme self-hosted pour héberger les modèles open-weight sur Kubernetes : InferenceService déclaratif, autoscaling sur signaux GPU, GitOps de bout en bout. Une fondation pensée pour évoluer avec l'écosystème.

Cilium permet de prendre en charge les fonctionnalités généralement fournies par des Ingress controllers grâce à l'implémentation du standard Gateway API. Une introduction et une mise en oeuvre concrète

Use a local k3d cluster in order to create and manage a GKE cluster