KI-Anbindung einrichten
Der Chat ist der einzige Teil der Plattform, der ohne Einrichtung nicht antwortet. Ein Sprachmodell wird nicht mitgeliefert – die Wahl liegt bei Ihnen, und sie hat Folgen dafür, wohin Gesprächsinhalte fließen.
Auf dieser Seite
Modelle für Chat, SQL und lavaflow
Chat, SQL-Funktionen und der Pyro-Schritt können unterschiedliche Modelle verwenden. SQL und laufende Pyro-Schritte benötigen einen lokalen Anbieter oder API-Zugang; ein persönlicher Claude-/ChatGPT-Abo-Zugang funktioniert dort nicht. Abo-Anmeldungen für den Chat sind nur verfügbar, wenn der Betreiber sie ausdrücklich zulässt.
Nur der Chat wartet
Anmeldung, Arbeitsblatt, Import, Governance und Suche laufen ohne jede Anbindung – das Einbettungsmodell für die Suche liegt lokal bei.
Wer das darf
Die Anbindung setzt die Plattform-Administration unter KI → KI-Anbindung. Ein normaler Nutzer sieht die Seite nicht.
Anbieter und Zugangswege
| Weg | Was gebraucht wird | Wohin Gesprächsinhalte gehen |
|---|---|---|
| Claude (Anthropic) | Ein API-Schlüssel aus der Anthropic-Konsole | Zum Anbieter |
| OpenAI | Ein API-Schlüssel von OpenAI | Zum Anbieter |
| Azure OpenAI | Ressourcenname, API-Schlüssel und Deployment-Name als Modell | Zur konfigurierten Azure-Ressource |
| AWS Bedrock | Region, Modell-ID und Bedrock-API-Schlüssel oder IAM-Schlüsselpaar | Zum konfigurierten Bedrock-Dienst |
| Google Vertex AI | Projekt, Region und Dienstkonto-JSON; Gemini oder Claude als Modell | Zum konfigurierten Vertex-AI-Dienst |
| OpenAI-kompatibel | Adresse und Schlüssel eines selbst betriebenen Modells, etwa hinter vLLM | Dorthin, wo dieses Modell steht – bei Betrieb im eigenen Netz: nirgendwo hinaus |
| Anmeldung mit Claude | Kein Schlüssel der Installation; jeder Nutzer meldet sich mit seinem eigenen Konto an | Zum Anbieter, unter dem Konto des jeweiligen Nutzers |
Einrichten
Als Plattform-Administration anmelden
Im lokalen Compose-Stapel ist das flaky-admin.
KI → KI-Anbindung öffnen
Anbieter wählen und den Schlüssel einsetzen. Bei einem selbst betriebenen Modell zusätzlich die Basis-Adresse angeben.
„Verbindung testen und speichern“
Der Schlüssel wird geprüft und anschließend verschlüsselt abgelegt. Zurückgelesen werden kann er nicht – auch nicht von der Administration.
Modell auswählen
Steht die Verbindung, lässt sich das konkrete Modell des Anbieters wählen.
Was die Wahl für Ihre Daten bedeutet
Ein selbst betriebenes Modell hinter der OpenAI-kompatiblen Anbindung hält auch die Gespräche im eigenen Netz. Bei einem gehosteten Anbieter werden Gesprächsinhalte und die im Chat verwendeten Werkzeugergebnisse dorthin übertragen. Auch Namen und Typen können bei optionaler KI-Klassifizierung übertragen werden. Die Wahl des Einbettungsanbieters wird separat verwaltet.
Anmeldung mit dem eigenen Claude-Konto
Statt eines gemeinsamen Schlüssels für die Installation kann sich jeder Nutzer mit seinem eigenen Claude-Konto anmelden. Der Agent läuft dann pro Anfrage in einer eigenen, abgeschotteten Umgebung, und die Gates bleiben unverändert wirksam – die Rechte kommen weiterhin aus Keycloak, nicht aus dem Modellkonto.
KI-Verbrauch, Preise und Tagesbudget
Unter Betrieb → Überwachung zeigt „KI-Kosten“ den erfassten Token-Verbrauch nach Nutzer und Modell. Eurobeträge entstehen nur für Modelle mit gepflegtem Preis; unbepreister Verbrauch bleibt als solcher sichtbar. Claude-Abonutzung wird nicht als API-Rechnung ausgegeben. Embedding-Tokens sind noch nicht in dieser Erfassung enthalten.
Die Administration kann Preise in EUR je einer Million Tokens pflegen und Listenpreise auf Knopfdruck aus der LiteLLM-Referenzliste übernehmen, umgerechnet mit dem EZB-Kurs. Manuelle Vertragspreise werden nicht überschrieben. Herkunft und Kursdatum bleiben sichtbar. Ohne Internetverbindung ist die manuelle Preisangabe der Weg.
Ein Token-Tagesbudget lässt sich als Standard und je Nutzer setzen. Es wird vor einem Chat-Lauf geprüft; ein laufender Modellaufruf kann die Grenze noch überschreiten. Das Budget ist ein Token-Kontingent, keine garantierte Euro-Kostenobergrenze.
Wenn der Chat schweigt
- „Keine Anbindung konfiguriert“ – der erwartete Zustand vor der Einrichtung, kein Fehler.
- Der Verbindungstest scheitert: bei einem selbst betriebenen Modell zuerst die Basis-Adresse und den Egress-Schutz prüfen – eine Allowlist, die den Zielhost nicht nennt, blockt den Aufruf.
- Antworten kommen, Daten fehlen: nicht das Modell, sondern die Rechte. Der Agent sieht nur, was Ihre Kennung in Trino sehen darf.
Stand: Diese Seite beschreibt lavalake 0.201.0. Produkt und Dokumentation liegen in getrennten Repositories – im Zweifel gilt, was die Konsole zeigt.
Etwas fehlt?
Wenn diese Seiten Ihre Frage nicht beantworten, zeigen wir die Plattform in einer halben Stunde an Ihrem Fall.
Demo vereinbaren