Hardware
Welcher Server passt zu euch?
swaiz läuft bei euch im Haus. Hier steht, worauf es bei der Hardware ankommt, was wir empfehlen und was vor der Installation bereit sein muss.
Empfehlungen
Drei Grössen, ein Weg nach oben
Richtwerte für den Server. Du kannst klein anfangen und später weitere Rechner anhängen, ohne neu zu installieren.
Einstieg
Chat und Archiv für kleine Teams
- 8 CPU-Kerne
- 32 GB Arbeitsspeicher
- 250 GB SSD
- Grafikkarte optional
Ein solider Büro-Server reicht. Antworten dauern etwas länger.
Team
Mehrere Erweiterungen, flüssige Antworten
- 16 CPU-Kerne
- 64 GB Arbeitsspeicher
- 1 TB SSD
- Grafikkarte mit 24 GB
Der Sweet Spot für die meisten KMU.
Wachstum
Viele Nutzer, grosse Modelle
- Server wie «Team»
- plus weitere Rechner nach Bedarf
- im eigenen Netzwerk
- Lastverteilung automatisch
Zusätzliche Rechner werden einfach angehängt.
Was den Bedarf bestimmt
Drei Fragen entscheiden
Wie viel Leistung ihr braucht, hängt weniger von der Firmengrösse ab als davon, wie ihr mit der KI arbeitet.
-
Grösse der Modelle
Grössere Modelle schreiben besser, brauchen aber mehr Speicher. Mit Grafikkarte zählt deren Speicher, sonst der Arbeitsspeicher.
-
Gleichzeitige Nutzung
Fragen viele Personen gleichzeitig, braucht es mehr Rechenleistung. Reicht ein Server nicht mehr, hängst du weitere Rechner an.
-
Erweiterungen
Jede Erweiterung bringt eigenen Bedarf an Speicher und Rechenleistung mit. Die Installation prüft ihn, bevor sie etwas einrichtet.
Wie viel Speicher ein Modell braucht
- Klein
- ca. 6 GB
- Schnelle Antworten und einfache Aufgaben, auch ohne Grafikkarte
- Mittel
- ca. 9 GB
- Gute Qualität für die meisten Büroaufgaben
- Gross
- ab ca. 15 GB
- Anspruchsvolle Texte, lange Dokumente, beste Qualität
Eine Grafikkarte mit 24 GB Speicher hält ein grosses Modell oder mehrere kleine. Welche Modelle zu euren Aufgaben passen, steht unter Modelle und Rechner.
Grafikkarte
Braucht es eine Grafikkarte?
Nein, aber sie macht einen grossen Unterschied. Installiere ihren Treiber, bevor du die Plattform einrichtest.
Ohne Grafikkarte
- Kleinere Modelle laufen auf dem Prozessor
- Grössere Modelle antworten spürbar langsamer
- Erweiterungen, die eine Grafikkarte verlangen, lassen sich nicht installieren
Mit Grafikkarte
- Die KI antwortet deutlich schneller
- Auch grosse Modelle laufen flüssig
- Für Erweiterungen, die eine Grafikkarte verlangen: NVIDIA mit Treiber und «NVIDIA Container Toolkit»
Erweiterungen
Was die Erweiterungen zusätzlich brauchen
Die Installation prüft Speicherplatz, Prozessorkerne und eine verlangte Grafikkarte. Den Arbeitsspeicher planst du anhand dieser Angaben selbst ein.
-
Sitzungsprotokolle
- Speicherplatz
- 25 GB plus Platz für die Aufnahmen
- Prozessor
- mindestens 8 Kerne
- Arbeitsspeicher
- bis 10 GB für die Spracherkennung, rund 15 GB für das lokale Sprachmodell
- Grafikkarte
- nicht nötig, die Spracherkennung läuft auf dem Prozessor
- Sprachen
- Deutsch (auch Schweizerdeutsch), Englisch, Französisch, Italienisch
- Ersteinrichtung
- Internet für rund 4 GB Modelle und ein kostenloses Hugging-Face-Konto
- Plattform
- ab Version 0.41
-
Dokumentenarchiv
- Speicherplatz
- 12 GB plus die Grösse eurer Ablage
- Prozessor
- mindestens 4 Kerne
- Arbeitsspeicher
- rund 12 GB, dazu das Sprachmodell, wenn es lokal läuft
- Grafikkarte
- nicht nötig
- Dateitypen
- PDF, Bilder, Word, Excel, PowerPoint, Text und HTML, bis 100 MB pro Datei
- Netzlaufwerke
- Windows-Freigaben (SMB), NFS, WebDAV und SFTP
- Plattform
- ab Version 0.41
Vor der Installation
Das muss bereit sein
Alles Weitere installiert aictl automatisch.
-
Linux-Server mit 64 Bit
Ubuntu Server oder Debian in einer aktuellen Langzeitversion, mit Intel-, AMD- oder ARM-Prozessor.
-
Nur für die Plattform
Andere Anwendungen auf derselben Maschine kommen sich mit der Plattform in die Quere. Für die Installation braucht es Administratorrechte.
-
Grosszügig Speicherplatz
Die Plattform belegt bei der ersten Installation über 10 GB, jedes Modell zwischen wenigen und über 15 GB. Dazu kommen die Daten deines Teams.
-
Internetverbindung
Für Installation, Updates und neue Modelle. Im Alltag läuft die Plattform auch ohne Verbindung weiter.
-
Ports 80 und 443
Erreichbar aus dem Netz, in dem dein Team arbeitet. Für eine eigene Adresse wie chat.firma.ch braucht es Zugriff auf die DNS-Einstellungen.
-
Nichts auf den Arbeitsplätzen
Dein Team arbeitet im Browser. Chrome, Edge, Firefox oder Safari in einer aktuellen Version genügen.
Ports, Speicherplatz und Netzwerk im Detail: Systemanforderungen.
Unsicher, was
ihr braucht?
Schick uns ein paar Eckdaten zu deinem Team. Wir empfehlen dir einen passenden Server und sagen dir, ob deine vorhandene Hardware reicht.
Du bist die IT? Hier geht's zur Installationsanleitung.