Zum Inhalt springen

Navigation

Hardware

Welcher Server passt zu euch?

swaiz läuft bei euch im Haus. Hier steht, worauf es bei der Hardware ankommt, was wir empfehlen und was vor der Installation bereit sein muss.

Empfehlungen

Drei Grössen, ein Weg nach oben

Richtwerte für den Server. Du kannst klein anfangen und später weitere Rechner anhängen, ohne neu zu installieren.

Einstieg

Chat und Archiv für kleine Teams

  • 8 CPU-Kerne
  • 32 GB Arbeitsspeicher
  • 250 GB SSD
  • Grafikkarte optional

Ein solider Büro-Server reicht. Antworten dauern etwas länger.

Empfohlen

Team

Mehrere Erweiterungen, flüssige Antworten

  • 16 CPU-Kerne
  • 64 GB Arbeitsspeicher
  • 1 TB SSD
  • Grafikkarte mit 24 GB

Der Sweet Spot für die meisten KMU.

Wachstum

Viele Nutzer, grosse Modelle

  • Server wie «Team»
  • plus weitere Rechner nach Bedarf
  • im eigenen Netzwerk
  • Lastverteilung automatisch

Zusätzliche Rechner werden einfach angehängt.

Was den Bedarf bestimmt

Drei Fragen entscheiden

Wie viel Leistung ihr braucht, hängt weniger von der Firmengrösse ab als davon, wie ihr mit der KI arbeitet.

  • Grösse der Modelle

    Grössere Modelle schreiben besser, brauchen aber mehr Speicher. Mit Grafikkarte zählt deren Speicher, sonst der Arbeitsspeicher.

  • Gleichzeitige Nutzung

    Fragen viele Personen gleichzeitig, braucht es mehr Rechenleistung. Reicht ein Server nicht mehr, hängst du weitere Rechner an.

  • Erweiterungen

    Jede Erweiterung bringt eigenen Bedarf an Speicher und Rechenleistung mit. Die Installation prüft ihn, bevor sie etwas einrichtet.

Wie viel Speicher ein Modell braucht

Klein
ca. 6 GB
Schnelle Antworten und einfache Aufgaben, auch ohne Grafikkarte
Mittel
ca. 9 GB
Gute Qualität für die meisten Büroaufgaben
Gross
ab ca. 15 GB
Anspruchsvolle Texte, lange Dokumente, beste Qualität

Eine Grafikkarte mit 24 GB Speicher hält ein grosses Modell oder mehrere kleine. Welche Modelle zu euren Aufgaben passen, steht unter Modelle und Rechner.

Grafikkarte

Braucht es eine Grafikkarte?

Nein, aber sie macht einen grossen Unterschied. Installiere ihren Treiber, bevor du die Plattform einrichtest.

Ohne Grafikkarte

  • Kleinere Modelle laufen auf dem Prozessor
  • Grössere Modelle antworten spürbar langsamer
  • Erweiterungen, die eine Grafikkarte verlangen, lassen sich nicht installieren

Mit Grafikkarte

  • Die KI antwortet deutlich schneller
  • Auch grosse Modelle laufen flüssig
  • Für Erweiterungen, die eine Grafikkarte verlangen: NVIDIA mit Treiber und «NVIDIA Container Toolkit»

Erweiterungen

Was die Erweiterungen zusätzlich brauchen

Die Installation prüft Speicherplatz, Prozessorkerne und eine verlangte Grafikkarte. Den Arbeitsspeicher planst du anhand dieser Angaben selbst ein.

  • Sitzungsprotokolle
    Speicherplatz
    25 GB plus Platz für die Aufnahmen
    Prozessor
    mindestens 8 Kerne
    Arbeitsspeicher
    bis 10 GB für die Spracherkennung, rund 15 GB für das lokale Sprachmodell
    Grafikkarte
    nicht nötig, die Spracherkennung läuft auf dem Prozessor
    Sprachen
    Deutsch (auch Schweizerdeutsch), Englisch, Französisch, Italienisch
    Ersteinrichtung
    Internet für rund 4 GB Modelle und ein kostenloses Hugging-Face-Konto
    Plattform
    ab Version 0.41
  • Dokumentenarchiv
    Speicherplatz
    12 GB plus die Grösse eurer Ablage
    Prozessor
    mindestens 4 Kerne
    Arbeitsspeicher
    rund 12 GB, dazu das Sprachmodell, wenn es lokal läuft
    Grafikkarte
    nicht nötig
    Dateitypen
    PDF, Bilder, Word, Excel, PowerPoint, Text und HTML, bis 100 MB pro Datei
    Netzlaufwerke
    Windows-Freigaben (SMB), NFS, WebDAV und SFTP
    Plattform
    ab Version 0.41

Vor der Installation

Das muss bereit sein

Alles Weitere installiert aictl automatisch.

  • Linux-Server mit 64 Bit

    Ubuntu Server oder Debian in einer aktuellen Langzeitversion, mit Intel-, AMD- oder ARM-Prozessor.

  • Nur für die Plattform

    Andere Anwendungen auf derselben Maschine kommen sich mit der Plattform in die Quere. Für die Installation braucht es Administratorrechte.

  • Grosszügig Speicherplatz

    Die Plattform belegt bei der ersten Installation über 10 GB, jedes Modell zwischen wenigen und über 15 GB. Dazu kommen die Daten deines Teams.

  • Internetverbindung

    Für Installation, Updates und neue Modelle. Im Alltag läuft die Plattform auch ohne Verbindung weiter.

  • Ports 80 und 443

    Erreichbar aus dem Netz, in dem dein Team arbeitet. Für eine eigene Adresse wie chat.firma.ch braucht es Zugriff auf die DNS-Einstellungen.

  • Nichts auf den Arbeitsplätzen

    Dein Team arbeitet im Browser. Chrome, Edge, Firefox oder Safari in einer aktuellen Version genügen.

Ports, Speicherplatz und Netzwerk im Detail: Systemanforderungen.

Unsicher, was
ihr braucht?

Schick uns ein paar Eckdaten zu deinem Team. Wir empfehlen dir einen passenden Server und sagen dir, ob deine vorhandene Hardware reicht.

Du bist die IT? Hier geht's zur Installationsanleitung.