KI-Verbindungen
Überblick
Standardmäßig nutzen die KI-Funktionen von Akollo die Modelle, die Akollo bereitstellt. Ein Administrator kann stattdessen einen KI-Anbieter mit dem eigenen Schlüssel Ihrer Organisation anbinden („Bring your own key“) und festlegen, welches Modell dieses Anbieters welche Aufgabe übernimmt.
Unterstützte Anbieter: OpenRouter, Anthropic, OpenAI, Google AI, Azure OpenAI, Amazon Bedrock und Google Vertex AI, außerdem Ihr eigener Modellserver, direkt oder über den AI Connector.
Verbindung hinzufügen
Verbindungsseite öffnen
Öffnen Sie Settings › AI › Connections (Einstellungen › KI › Verbindungen).
Anbieter und Schlüssel eingeben
Wählen Sie unter Add a connection (Verbindung hinzufügen) den Provider (Anbieter), vergeben Sie einen Name und fügen Sie den API key ein. Für Azure OpenAI und Vertex AI geben Sie zusätzlich die Address (Adresse) ein, die Ihr Anbieter Ihnen nennt. Für Amazon Bedrock geben Sie die Region an (zum Beispiel eu-central-1).
Zugelassene Daten festlegen
Wählen Sie unter Data allowed (zugelassene Daten) eine Stufe: Public data only (nur öffentliche Daten), Up to internal data (bis einschließlich interne Daten) oder Up to confidential data (bis einschließlich vertrauliche Daten). Die sensibelsten Daten (Stufe „restricted“, streng vertraulich) gehen nie an einen externen Anbieter. Als streng vertraulich gekennzeichnete Informationen bleiben auf dem eigenen Server des Instituts. Klicken Sie dann auf Add connection.
| Datenstufe | Darf über eine externe Verbindung gehen? |
|---|---|
| Öffentlich | Ja, bei jeder Stufe |
| Intern | Ja, mit Up to internal data oder Up to confidential data |
| Vertraulich | Ja, nur mit Up to confidential data |
| Streng vertraulich (restricted) | Nie. Bleibt auf dem eigenen Server des Instituts |
Hinweis
Der Schlüssel wird verschlüsselt gespeichert und nie wieder angezeigt, auch nicht für Administratoren. Zum Ändern verwenden Sie Replace key (Schlüssel ersetzen) und testen die Verbindung anschließend erneut.
Testen und aktivieren
Modelle suchen
Find models (Modelle suchen) listet die Modelle auf, die Ihr Schlüssel nutzen darf.
Ein Modell testen
Test führt eine kurze Prüfung des gewählten Modells durch: Antworten auf Türkisch, strukturierte Antworten und die Nutzung eines Werkzeugs. Erst nach bestandener Prüfung lässt sich die Verbindung aktivieren.
Aktivieren
Activate (Aktivieren) schaltet die Verbindung ein. In Live-Organisationen muss ein zweiter Administrator die Aktivierung auf derselben Seite freigeben. Bis dahin zeigt die Verbindung Waiting for a second admin (wartet auf zweiten Administrator). Der andere Administrator wählt Approve activation (Aktivierung freigeben) oder Reject (Ablehnen). Wer die Aktivierung beantragt hat, kann sie nicht selbst freigeben.
| Status | Bedeutung |
|---|---|
| Draft (Entwurf) | Hinzugefügt, noch nicht aktiv. Hier werden Modelle gesucht und getestet. |
| Waiting for a second admin | Aktivierung in einer Live-Organisation beantragt. Ein anderer Administrator entscheidet. |
| Active (aktiv) | In Betrieb. Die getesteten Modelle können Aufgaben zugeordnet werden. |
| Disabled (deaktiviert) | Endgültig abgeschaltet. |
Eigener Modellserver
Betreibt Ihre Organisation einen eigenen Modellserver (zum Beispiel llama.cpp oder vLLM), fügen Sie ihn als Own model server (eigener Modellserver) mit seiner HTTPS-Adresse hinzu. Ein Schlüssel ist optional.
- Die Adresse muss auf der Liste der zugelassenen Ziele Ihrer Installation stehen.
- Akollo verbindet sich nie mit privaten oder reservierten Adressen, es sei denn, die Installation lässt diesen Server zu.
- Von einer Cloud-Installation aus wird eine Adresse im privaten Netz des Instituts nicht als externe Verbindung akzeptiert. Nutzen Sie in diesem Fall den AI Connector.
AI Connector
Steht der Modellserver in einem abgeschotteten Netz, verwenden Sie den AI Connector. Das ist ein kleines Programm, das neben dem Modellserver läuft und sich von innen nach außen mit Akollo verbindet. Eine eingehende Verbindung ist nicht nötig.
Connector anlegen
Vergeben Sie unter Add an AI Connector (AI Connector hinzufügen) einen Namen.
Token kopieren
Kopieren Sie das angezeigte Token. Es wird nur einmal angezeigt.
Connector starten
Starten Sie den Connector neben Ihrem Modellserver mit diesem Token. Die Verbindungskarte zeigt, ob der Connector online ist.
Achtung
New token (neues Token) ersetzt das bisherige Token. Das alte Token ist sofort ungültig; starten Sie den Connector mit dem neuen Token neu.
Modelle den Aufgaben zuordnen
Wählen Sie unter Which model does which job (welches Modell welche Aufgabe übernimmt) für jede Aufgabe entweder die von Akollo bereitgestellten Modelle oder ein Modell einer aktiven Verbindung und klicken Sie auf Save. Die Aufgaben sind:
- Routing (Weiterleitung)
- Safety check (Sicherheitsprüfung)
- Everyday answers (alltägliche Antworten)
- Planning and complex work (Planung und komplexe Aufgaben)
- Search (Suche)
Wählbar sind nur aktive Verbindungen und die Modelle, die beim Test gefunden wurden. Solange Sie keine Verbindung hinzufügen, läuft die KI mit den Modellen, die Akollo bereitstellt.
Kosten
Anfragen über Ihre eigene Verbindung stellt Ihnen der Anbieter direkt in Rechnung. Sie verbrauchen keine Akollo-KI-Tokens Ihrer Organisation.
Verbindung abschalten
Disable (Deaktivieren) schaltet eine Verbindung endgültig ab. Aufgaben, die sie genutzt haben, laufen wieder mit den Modellen, die Akollo bereitstellt.
Wer Verbindungen verwalten darf
Inhaber und Administratoren der Organisation. Jede Änderung wird mit Person und Zeitpunkt protokolliert. In einer Support-Sitzung lassen sich die Verbindungen ansehen, aber nicht ändern.
Häufige Fragen
Nein. Der Schlüssel wird verschlüsselt gespeichert und nie wieder angezeigt, auch nicht für Administratoren. Zum Ändern verwenden Sie Replace key.
Nein. Streng vertrauliche Daten (restricted) gehen nie an einen externen Anbieter. Sie bleiben auf dem eigenen Server des Instituts.
Die Verbindung muss zuerst den Test bestehen. In Live-Organisationen muss außerdem ein zweiter Administrator die Aktivierung freigeben; wer sie beantragt hat, kann das nicht selbst tun.
Nein. Der Anbieter rechnet direkt mit Ihnen ab; die Akollo-KI-Tokens Ihrer Organisation werden nicht verbraucht.
Sie wird endgültig abgeschaltet, und die Aufgaben, die sie genutzt haben, laufen wieder mit den Modellen, die Akollo bereitstellt.
Nein. Der AI Connector läuft neben dem Modellserver und verbindet sich von innen nach außen mit Akollo.
Verwandte Seiten
KI-Zugang und KI-Tokens
Legen Sie fest, wer KI nutzen darf, vergeben Sie Plätze, setzen Sie ein Monatslimit pro Person, verfolgen Sie den Token-Verbrauch und stoppen Sie alles sofort.
Eigenes KI-Modell betreiben
Einen Modellserver auf dem eigenen Rechner oder Server installieren, einen OpenAI-kompatiblen Endpunkt starten und mit Akollo verbinden.