Aufbau der Plattform

Das Grundprinzip#

swaiz ist kein einzelnes Programm, sondern ein aufeinander abgestimmtes Paket aus mehreren Bausteinen. Jeder Baustein hat eine klare Aufgabe. aictl sorgt dafür, dass alle Bausteine zusammenpassen, richtig verbunden sind und gemeinsam aktualisiert werden.

Du musst die einzelnen Bausteine nicht kennen oder pflegen. Dieses Kapitel hilft dir aber zu verstehen, was im Hintergrund passiert und wo du welchen Bereich findest.

Die Bausteine#

Wie eine Anfrage fliesst#

1. Eine Person stellt im Chat eine Frage.
2. Das Gateway nimmt die Verbindung entgegen und leitet sie an den Chat weiter. Der Chat prüft über den Firmen-Login, wer angemeldet ist.
3. Der Chat reicht die Frage an die KI-Zentrale weiter.
4. Die KI-Zentrale wählt das passende Modell und einen Rechner, der es bereitstellt.
5. Die Modell-Engine auf diesem Rechner erzeugt die Antwort, und sie kommt auf demselben Weg zurück.

Alle Dienste sprechen nur mit der KI-Zentrale, nie direkt mit einem Modell. Darum kannst du Modelle austauschen oder weitere Rechner hinzufügen, ohne dass sich für dein Team etwas ändert.

Veröffentlichte Bereiche#

Hast du eine Domain eingerichtet, sind einzelne Bereiche unter eigenen Adressen erreichbar. Die Tabelle zeigt die Standardwerte für die Domain ki.firma.ch:

Welche Bereiche unter welcher Adresse erreichbar sind, bestimmst du selbst mit sudo aictl proxy hostname. Die Auswahl dort zeigt jeden Bereich mit seiner aktuellen Adresse. Wie das geht, steht unter Domain und Zertifikate.

Gut zu wissen:

• Der Zugriffsschutz funktioniert nur, solange der Firmen-Login selbst veröffentlicht ist. Nimmst du ihn vom Netz, sind veröffentlichte Verwaltungsbereiche ohne Anmeldung erreichbar, und der Chat fällt auf eigene Konten zurück.
• Die Automationen haben zusätzlich zur vorgeschalteten Prüfung ihre eigene Anmeldung.
• Enthält dein Plan keinen Zugriff auf die Programmschnittstelle der KI-Zentrale, ist von aussen nur ihre Verwaltungsoberfläche erreichbar. Chat, Automationen und Erweiterungen sind davon nicht betroffen, sie sprechen intern mit der KI-Zentrale.
• Eine Erweiterung ist so gut geschützt wie ihre eigene Anmeldung. Das Gateway schaltet vor Erweiterungen keine zusätzliche Prüfung. aictl warnt dich, wenn eine Erweiterung ohne Anmeldung veröffentlicht ist.

Lokale Zugänge auf dem Server#

Unabhängig von der Domain ist jeder Bereich auch direkt auf dem Server über einen eigenen Port erreichbar, standardmässig nur lokal auf dem Server selbst:

Ohne Domain arbeitest du ausschliesslich über diese Adressen. Von deinem Arbeitsplatz aus erreichst du sie über einen SSH-Tunnel, zum Beispiel für den Chat:

ssh -L 3000:localhost:3000 admin@server

Danach öffnest du http://localhost:3000 im Browser deines Arbeitsplatzes.

Achtung: Diese lokalen Zugänge laufen am Firmen-Login vorbei. Öffne sie nie für das ganze Netz, ausser auf einem Test-Server.

Mehrere Rechner#

Der Server, auf dem die Plattform läuft, heisst Hauptserver. Wird er zu langsam, kannst du weitere Rechner als Modell-Rechner anhängen. Auf diesen läuft nur die Modell-Engine, nicht die ganze Plattform. Die KI-Zentrale verteilt die Anfragen automatisch auf alle Rechner, die ein Modell bereitstellen.

Modell-Rechner werden vom Hauptserver aus gesteuert, auf ihnen läuft kein eigener Dienst von aictl. Sie brauchen keine eigene Lizenz. Mehr dazu unter Modelle und Rechner.

Der Hintergrunddienst#

Auf dem Hauptserver läuft ständig der Hintergrunddienst von aictl. Er sorgt dafür, dass:

• nach einem Neustart die Plattform automatisch wieder läuft,
• abgestürzte Kerndienste neu gestartet werden,
• die KI-Zentrale immer weiss, welche Modelle auf welchen Rechnern bereitstehen,
• die Lizenz regelmässig bestätigt wird,
• neue Modell-Rechner aufgenommen werden können,
• geplante Aufgaben der Erweiterungen ausgeführt werden, zum Beispiel das nächtliche Aufräumen,
• automatische Updates eingespielt werden, wenn du sie eingeschaltet hast.

Was er bewusst nicht tut und wie er mit deinen Befehlen zusammenspielt, steht unter So funktioniert aictl.