# KI-Verbindungen (https://docs.akollo.com/de/ai/connections)



## Überblick [#überblick]

Standardmäßig nutzen die KI-Funktionen von Akollo die Modelle, die Akollo bereitstellt. Ein Administrator kann
stattdessen einen KI-Anbieter mit dem eigenen Schlüssel Ihrer Organisation anbinden („Bring your own key“) und
festlegen, welches Modell dieses Anbieters welche Aufgabe übernimmt.

Unterstützte Anbieter: OpenRouter, Anthropic, OpenAI, Google AI, Azure OpenAI, Amazon Bedrock und Google Vertex AI,
außerdem Ihr eigener Modellserver, direkt oder über den AI Connector.

<Mermaid
  title="Wohin eine KI-Anfrage geht"
  chart="`flowchart LR
A[KI-Funktion in Akollo] --> B{Für diese Aufgabe gewähltes Modell}
B -->|Standard| C[Von Akollo bereitgestellte Modelle]
B -->|Aktive Verbindung| D{Daten auf dieser Verbindung zugelassen?}
D -->|Ja| E[Ihr Anbieter oder Modellserver]
D -->|Streng vertrauliche Daten| F[Bleibt auf dem eigenen Server des Instituts]`"
/>

## Verbindung hinzufügen [#verbindung-hinzufügen]

<Steps>
  <Step>
    ### Verbindungsseite öffnen [#verbindungsseite-öffnen]

    Öffnen Sie **Settings › AI › Connections** (Einstellungen › KI › Verbindungen).
  </Step>

  <Step>
    ### Anbieter und Schlüssel eingeben [#anbieter-und-schlüssel-eingeben]

    Wählen Sie unter **Add a connection** (Verbindung hinzufügen) den **Provider** (Anbieter), vergeben Sie einen
    **Name** und fügen Sie den **API key** ein. Für Azure OpenAI und Vertex AI geben Sie zusätzlich die **Address**
    (Adresse) ein, die Ihr Anbieter Ihnen nennt. Für Amazon Bedrock geben Sie die **Region** an (zum Beispiel
    eu-central-1).
  </Step>

  <Step>
    ### Zugelassene Daten festlegen [#zugelassene-daten-festlegen]

    Wählen Sie unter **Data allowed** (zugelassene Daten) eine Stufe: **Public data only** (nur öffentliche Daten),
    **Up to internal data** (bis einschließlich interne Daten) oder **Up to confidential data** (bis einschließlich
    vertrauliche Daten). Die sensibelsten Daten (Stufe „restricted“, streng vertraulich) gehen nie an einen externen
    Anbieter. Als streng vertraulich gekennzeichnete Informationen bleiben auf dem eigenen Server des Instituts. Klicken
    Sie dann auf **Add connection**.
  </Step>
</Steps>

| Datenstufe                      | Darf über eine externe Verbindung gehen?                         |
| ------------------------------- | ---------------------------------------------------------------- |
| Öffentlich                      | Ja, bei jeder Stufe                                              |
| Intern                          | Ja, mit **Up to internal data** oder **Up to confidential data** |
| Vertraulich                     | Ja, nur mit **Up to confidential data**                          |
| Streng vertraulich (restricted) | Nie. Bleibt auf dem eigenen Server des Instituts                 |

<Callout type="info" title="Hinweis">
  Der Schlüssel wird verschlüsselt gespeichert und nie wieder angezeigt, auch nicht für Administratoren. Zum Ändern
  verwenden Sie **Replace key** (Schlüssel ersetzen) und testen die Verbindung anschließend erneut.
</Callout>

## Testen und aktivieren [#testen-und-aktivieren]

<Steps>
  <Step>
    ### Modelle suchen [#modelle-suchen]

    **Find models** (Modelle suchen) listet die Modelle auf, die Ihr Schlüssel nutzen darf.
  </Step>

  <Step>
    ### Ein Modell testen [#ein-modell-testen]

    **Test** führt eine kurze Prüfung des gewählten Modells durch: Antworten auf Türkisch, strukturierte Antworten und
    die Nutzung eines Werkzeugs. Erst nach bestandener Prüfung lässt sich die Verbindung aktivieren.
  </Step>

  <Step>
    ### Aktivieren [#aktivieren]

    **Activate** (Aktivieren) schaltet die Verbindung ein. In Live-Organisationen muss ein zweiter Administrator die
    Aktivierung auf derselben Seite freigeben. Bis dahin zeigt die Verbindung **Waiting for a second admin** (wartet auf
    zweiten Administrator). Der andere Administrator wählt **Approve activation** (Aktivierung freigeben) oder
    **Reject** (Ablehnen). Wer die Aktivierung beantragt hat, kann sie nicht selbst freigeben.
  </Step>
</Steps>

<Mermaid
  title="Status einer Verbindung"
  chart="`flowchart LR
A[Draft] -->|Test bestanden, Activate| B{Live-Organisation?}
B -->|Nein| D[Active]
B -->|Ja| C[Waiting for a second admin]
C -->|Approve activation| D
C -->|Reject| F[Nicht aktiviert]
D -->|Disable| E[Disabled]`"
/>

| Status                         | Bedeutung                                                                                |
| ------------------------------ | ---------------------------------------------------------------------------------------- |
| **Draft** (Entwurf)            | Hinzugefügt, noch nicht aktiv. Hier werden Modelle gesucht und getestet.                 |
| **Waiting for a second admin** | Aktivierung in einer Live-Organisation beantragt. Ein anderer Administrator entscheidet. |
| **Active** (aktiv)             | In Betrieb. Die getesteten Modelle können Aufgaben zugeordnet werden.                    |
| **Disabled** (deaktiviert)     | Endgültig abgeschaltet.                                                                  |

## Eigener Modellserver [#eigener-modellserver]

Betreibt Ihre Organisation einen eigenen Modellserver (zum Beispiel llama.cpp oder vLLM), fügen Sie ihn als **Own
model server** (eigener Modellserver) mit seiner HTTPS-Adresse hinzu. Ein Schlüssel ist optional.

* Die Adresse muss auf der Liste der zugelassenen Ziele Ihrer Installation stehen.
* Akollo verbindet sich nie mit privaten oder reservierten Adressen, es sei denn, die Installation lässt diesen
  Server zu.
* Von einer Cloud-Installation aus wird eine Adresse im privaten Netz des Instituts nicht als externe Verbindung
  akzeptiert. Nutzen Sie in diesem Fall den AI Connector.

## AI Connector [#ai-connector]

Steht der Modellserver in einem abgeschotteten Netz, verwenden Sie den **AI Connector**. Das ist ein kleines
Programm, das neben dem Modellserver läuft und sich von innen nach außen mit Akollo verbindet. Eine eingehende
Verbindung ist nicht nötig.

<Steps>
  <Step>
    ### Connector anlegen [#connector-anlegen]

    Vergeben Sie unter **Add an AI Connector** (AI Connector hinzufügen) einen Namen.
  </Step>

  <Step>
    ### Token kopieren [#token-kopieren]

    Kopieren Sie das angezeigte Token. Es wird nur einmal angezeigt.
  </Step>

  <Step>
    ### Connector starten [#connector-starten]

    Starten Sie den Connector neben Ihrem Modellserver mit diesem Token. Die Verbindungskarte zeigt, ob der Connector
    online ist.
  </Step>
</Steps>

<Mermaid
  title="AI Connector: nur ausgehende Verbindungen"
  chart="`flowchart LR
subgraph Abgeschottetes Netz
M[Modellserver] --- K[AI Connector]
end
K -->|Verbindet sich mit seinem Token nach außen| A[Akollo]`"
/>

<Callout type="warn" title="Achtung">
  **New token** (neues Token) ersetzt das bisherige Token. Das alte Token ist sofort ungültig; starten Sie den
  Connector mit dem neuen Token neu.
</Callout>

## Modelle den Aufgaben zuordnen [#modelle-den-aufgaben-zuordnen]

Wählen Sie unter **Which model does which job** (welches Modell welche Aufgabe übernimmt) für jede Aufgabe entweder
die von Akollo bereitgestellten Modelle oder ein Modell einer aktiven Verbindung und klicken Sie auf **Save**. Die
Aufgaben sind:

* **Routing** (Weiterleitung)
* **Safety check** (Sicherheitsprüfung)
* **Everyday answers** (alltägliche Antworten)
* **Planning and complex work** (Planung und komplexe Aufgaben)
* **Search** (Suche)

Wählbar sind nur aktive Verbindungen und die Modelle, die beim Test gefunden wurden. Solange Sie keine Verbindung
hinzufügen, läuft die KI mit den Modellen, die Akollo bereitstellt.

## Kosten [#kosten]

Anfragen über Ihre eigene Verbindung stellt Ihnen der Anbieter direkt in Rechnung. Sie verbrauchen keine
Akollo-KI-Tokens Ihrer Organisation.

<Screenshot src="/screens/en/settings-usage.webp" alt="Seite Usage mit ausgewähltem Zähler AI input tokens und einem Budgetfeld" caption="Usage (Nutzung): Hier werden die Akollo-KI-Tokens gezählt. Anfragen über Ihre eigene Verbindung zählen nicht dazu." />

## Verbindung abschalten [#verbindung-abschalten]

**Disable** (Deaktivieren) schaltet eine Verbindung endgültig ab. Aufgaben, die sie genutzt haben, laufen wieder mit
den Modellen, die Akollo bereitstellt.

## Wer Verbindungen verwalten darf [#wer-verbindungen-verwalten-darf]

Inhaber und Administratoren der Organisation. Jede Änderung wird mit Person und Zeitpunkt protokolliert. In einer
Support-Sitzung lassen sich die Verbindungen ansehen, aber nicht ändern.

## Häufige Fragen [#häufige-fragen]

<Accordions type="single">
  <Accordion title="Kann ich den API-Schlüssel nach dem Speichern noch einmal sehen?">
    Nein. Der Schlüssel wird verschlüsselt gespeichert und nie wieder angezeigt, auch nicht für Administratoren. Zum
    Ändern verwenden Sie **Replace key**.
  </Accordion>

  <Accordion title="Können streng vertrauliche Daten an unseren eigenen Anbieter gehen?">
    Nein. Streng vertrauliche Daten (restricted) gehen nie an einen externen Anbieter. Sie bleiben auf dem eigenen
    Server des Instituts.
  </Accordion>

  <Accordion title="Warum kann ich eine Verbindung nicht aktivieren?">
    Die Verbindung muss zuerst den **Test** bestehen. In Live-Organisationen muss außerdem ein zweiter Administrator die
    Aktivierung freigeben; wer sie beantragt hat, kann das nicht selbst tun.
  </Accordion>

  <Accordion title="Verbrauchen Anfragen über unsere Verbindung KI-Tokens?">
    Nein. Der Anbieter rechnet direkt mit Ihnen ab; die Akollo-KI-Tokens Ihrer Organisation werden nicht verbraucht.
  </Accordion>

  <Accordion title="Was passiert, wenn ich eine Verbindung deaktiviere?">
    Sie wird endgültig abgeschaltet, und die Aufgaben, die sie genutzt haben, laufen wieder mit den Modellen, die Akollo
    bereitstellt.
  </Accordion>

  <Accordion title="Unser Modellserver steht in einem abgeschotteten Netz. Müssen wir einen eingehenden Port öffnen?">
    Nein. Der AI Connector läuft neben dem Modellserver und verbindet sich von innen nach außen mit Akollo.
  </Accordion>
</Accordions>

## Verwandte Seiten [#verwandte-seiten]

* [Wer Assistenz nutzen kann, und KI-Tokens](/de/ai/access-and-tokens)
* [Das Modell im Institut betreiben](/de/ai/on-prem)
* [Was die Assistenz sehen kann](/de/ai/privacy)