Zum Inhalt springen
MCP-Server eingebautWie das funktioniert
Zurück zum Plattform-Überblick

Betrieb & Deployment

Ein Compose-Stapel zum Ausprobieren, ein Helm-Chart für den Betrieb

Die ehrliche Frage bei On-Premises lautet nicht, ob die Software läuft, sondern wer sie betreibt. Deshalb hier ohne Beschönigung: was mitkommt, was Sie stellen müssen, und was für den Enterprise-Betrieb noch fehlt.

Ausprobieren
Docker Compose, eine Maschine
Betrieb
Helm-Chart für Kubernetes
Tür nach außen
ein Reverse-Proxy, drei Routen
Speicher
S3-kompatibel, Ihr eigener

Erst einmal auf einer Maschine

Ein Skript im Compose-Ordner erzeugt beim ersten Start die Geheimnisse, baut Konsole und Agent, fährt den Stapel hoch und richtet den Keycloak-Realm ein. Danach ist die Plattform unter einer Adresse erreichbar. Kein Kubernetes nötig, um zu sehen, ob das Ding taugt.

Was dabei hochfährt
gateway     nginx, die einzige Tür nach außen
console     die Oberfläche
agent       Backend, Rechte und Werkzeuge
keycloak    Anmeldung, Rollen
trino       die Query-Engine
nessie      versionierter Iceberg-Katalog
minio       S3-kompatibler Speicher
postgres    Plattformzustand und Vektorindex
ollama      lokales Einbettungsmodell (CPU)

Das lokale Einbettungsmodell läuft mit und wird bei Untätigkeit entladen, damit es keinen Arbeitsspeicher hält. Für die semantische Suche braucht es damit keinen Cloud-Schlüssel. Für den KI-Assistenten dagegen schon eine Anbindung Ihrer Wahl – mit der Plattform wird kein Modellschlüssel ausgeliefert.

Genau eine Tür nach außen

Alles läuft hinter einem Reverse-Proxy, und der kennt drei Routen: die Konsole, die Agent-Schnittstelle und Keycloak. Trino, der Objektspeicher und die Plattform-Datenbank sind von außen nicht erreichbar – nicht durch Konfiguration abgeschaltet, sondern gar nicht veröffentlicht.

Was nicht erreichbar ist, muss nicht abgesichert werden. Die kürzeste Absicherung ist eine fehlende Route.

Das hat eine Folge, die man kennen sollte: BI-Werkzeuge können sich nicht direkt an Trino hängen. Der Weg dorthin führt über einen eigenen, lesenden Feed der Plattform – nicht über einen offenen Datenbankport.

Im Betrieb: ein Helm-Chart

Für Kubernetes gibt es ein Chart, das die Plattform samt Abhängigkeiten ausrollt: drei getrennte PostgreSQL-Instanzen für Nessie, Keycloak und den Plattformzustand, MinIO als Speicher, Keycloak, Nessie, Trino, ein nginx-Ingress als die eine öffentliche Tür und optional cert-manager für die Zertifikate.

BestandteilWoherAnmerkung
Konsole, Agenteigene Vorlagen im Chartdie Plattform selbst
TrinoChart des Trino-ProjektsAnzahl Worker ist Ihre Entscheidung
NessieChart des Nessie-Projektsder versionierte Katalog
Keycloakcodecentric/keycloakxfährt das offizielle Keycloak-Abbild
PostgreSQL, MinIOChart-Abhängigkeitenabschaltbar, wenn Sie eigene stellen
Ingress, Zertifikatenginx-Ingress, cert-managereine öffentliche Adresse, Pfad-Routing

Dass Keycloak über das Chart von codecentric kommt und nicht über das von Bitnami, ist kein Geschmack: die Bitnami-Abbilder sind hinter eine Bezahlschranke gewandert und halten keine ziehbaren versionierten Marken mehr vor. Solche Entscheidungen stehen im Chart als Kommentar – wer den Stapel betreibt, muss wissen, woher die Abbilder kommen.

MinIO und PostgreSQL sind Abhängigkeiten mit Schalter. Wenn in Ihrem Rechenzentrum schon ein S3-kompatibler Speicher und eine betreute Datenbank stehen, zeigen Sie darauf, statt zwei weitere zu betreiben.

Was für Enterprise-Betrieb noch fehlt

Der Sicherheitskern steht: delegierte Identität, Richtlinien in der Engine, WORM-Audit, Egress-Schutz, verschlüsselte Geheimnisse, prozessisoliertes Parsen. Was zwischen „läuft als Einzelinstanz“ und „enterprise-tauglich“ liegt, ist offen – und das sollten Sie vor einer Entscheidung wissen, nicht danach.

  • Hochverfügbarkeit ohne Single Points of FailureIn Entwicklung
  • Metriken, Logs, Traces, Alerting und SLOsIn Entwicklung
  • Geheimnisse über Vault oder External SecretsIn Entwicklung
  • TLS zwischen allen DienstenIn Entwicklung
  • Abgeschotteter Betrieb ohne jede Verbindung nach außenIn Entwicklung
  • Sicherung und WiederanlaufIn Entwicklung

Die Punkte sind einzeln geplant und nicht als Sammelposten „Härtung“ – wer wissen will, woran es hängt, bekommt eine Liste und kein Achselzucken.

Sehen, statt nachzulesen

In einer halben Stunde zeigen wir die Plattform an Ihren Fragen – Ingestion, Rechte, Suche, Agent. Ohne Folien.

Live-Demo buchen