Systemanforderungen

Betriebssystem#

swaiz läuft auf einem aktuellen Linux-Server mit 64 Bit, entweder mit Intel- bzw. AMD-Prozessor (x86-64) oder mit ARM-Prozessor (arm64). Wir empfehlen eine gängige Distribution wie Ubuntu Server oder Debian in einer aktuellen Langzeitversion. Die Installation braucht einen der üblichen Paketmanager (apt, dnf, yum, pacman oder zypper), um fehlende Systembestandteile nachzuinstallieren.

Alles Weitere, was die Plattform zum Laufen braucht, installiert aictl automatisch.

Beachte ausserdem:

• Du brauchst Administratorrechte (sudo oder ein Konto mit root). Fast alle Befehle von aictl laufen mit sudo.
• Der Server sollte ausschliesslich für swaiz verwendet werden. Andere Anwendungen auf derselben Maschine können sich mit der Plattform in die Quere kommen, zum Beispiel weil sie dieselben Ports belegen.
• macOS wird für den Betrieb nicht unterstützt. Das Werkzeug lässt sich dort zwar starten, die Installation ist aber nicht umgesetzt.
• Die Systemzeit muss stimmen. Aktiviere die automatische Zeitsynchronisation, zum Beispiel mit sudo timedatectl set-ntp true. Weicht die Uhr zu stark ab, schlägt die Lizenzaktivierung fehl.

Hardware-Empfehlungen#

Wie viel Leistung du brauchst, hängt vor allem davon ab, wie grosse Sprachmodelle du nutzen willst und wie viele Personen gleichzeitig arbeiten.

Das sind Richtwerte. Wir beraten dich gerne bei der Wahl der Hardware: [email protected].

Braucht es eine Grafikkarte?#

Nein, aber sie macht einen grossen Unterschied. Ohne Grafikkarte laufen kleinere Modelle auf dem Prozessor, grössere werden aber spürbar langsamer. Mit einer passenden Grafikkarte antwortet die KI deutlich schneller. Stelle sicher, dass der Treiber deiner Grafikkarte installiert ist, bevor du die Plattform einrichtest. Die Installation zeigt zu Beginn an, ob sie eine Grafikkarte erkannt hat.

Manche Erweiterungen nutzen eine Grafikkarte, wenn eine vorhanden ist, und laufen sonst auf dem Prozessor weiter. Erweiterungen, die zwingend eine Grafikkarte verlangen, setzen eine NVIDIA-Karte mit installiertem NVIDIA-Treiber und dem «NVIDIA Container Toolkit» voraus. Fehlt das, verweigert die Erweiterung die Installation mit einem entsprechenden Hinweis, bevor etwas heruntergeladen wird.

Reicht ein Server nicht mehr aus, kannst du später weitere Rechner anhängen. Mehr dazu unter Modelle und Rechner.

Speicherplatz#

Die Plattform, die Sprachmodelle und die Daten deines Teams liegen auf dem Server, vor allem unterhalb von /var/lib. Plane diesen Bereich grosszügig:

• Die Bestandteile der Plattform belegen bereits bei der ersten Installation über 10 GB. Die Installation prüft deshalb vorher, ob am Ablageort der Bestandteile (meist /var/lib/docker) mindestens 20 GiB frei sind. Fehlen nur einzelne Bestandteile, genügen 6 GiB.
• Ein Sprachmodell braucht je nach Grösse zwischen wenigen und über 15 GB.
• Jede Erweiterung bringt eigenen Platzbedarf mit. Er wird vor der ersten Installation geprüft. Bevor eine Erweiterung heruntergeladen wird, müssen ausserdem mindestens 6 GiB frei sein.

aictl status warnt, sobald weniger als 5 GiB frei sind, und meldet einen Fehler unter 1 GiB. Eine volle Festplatte legt zuerst die Datenbank lahm, und die Symptome zeigen dann oft in eine ganz andere Richtung. Halte deshalb immer Reserve frei.

Anforderungen der Erweiterungen#

Jede Erweiterung braucht zusätzlich Speicher und Rechenleistung. Was eine Erweiterung verlangt, zeigt ihre Installation an, bevor sie etwas einrichtet. Dabei wird geprüft:

• ob genug Speicherplatz frei ist,
• ob der Server genug Prozessorkerne hat,
• ob eine verlangte Grafikkarte vorhanden ist.

Reicht etwas nicht, bricht die Installation mit einem verständlichen Hinweis ab. Den Arbeitsspeicher prüft sie nicht. Plane ihn anhand der Angaben zur Erweiterung selbst ein.

Netzwerk#

Internetverbindung braucht der Server:

• für die Installation, denn die Lizenz wird online aktiviert und alle Bestandteile werden heruntergeladen,
• für Updates, neue Erweiterungen und neue Sprachmodelle,
• für automatische Zertifikate, falls du sie nutzt.

Im Alltag läuft die Plattform auch ohne Verbindung weiter. Wie lange, steht unter Lizenz.

Ports, die von aussen erreichbar sein müssen oder die auf dem Server frei sein müssen:

Belegt ein anderes Programm einen dieser Ports, auch Port 7700, bricht die Installation ab und nennt das Programm, das ihn belegt.

DNS: Möchtest du die Plattform unter einer Domain betreiben, brauchst du Zugriff auf deine DNS-Einstellungen. Was einzutragen ist, steht unter Domain und Zertifikate.

Browser#

Für die Arbeit mit swaiz genügt ein aktueller Browser wie Chrome, Edge, Firefox oder Safari. Auf den Arbeitsplätzen muss nichts installiert werden.