Lokale KI oder Cloud-KI? Für mittelständische Unternehmen entscheidet sich diese Frage an Daten, Aufgaben und Betrieb. Eine lokal installierte Oberfläche ist noch kein Beleg dafür, dass Eingaben im Unternehmen bleiben. Ebenso ersetzt ein eigener Server kein Sicherheitskonzept.
Dieser Leitfaden ist eine redaktionelle Entscheidungshilfe, kein Produkttest. Stand: 29. Oktober 2026.
Was bedeutet lokal, Cloud oder hybrid?
Bei lokaler Ausführung berechnet ein Modell seine Antworten auf einem eigenen Rechner oder Server. Bei einem Cloud-Dienst erfolgt diese Berechnung auf Infrastruktur des Anbieters. Hybrid bedeutet hier: Je nach Aufgabe kommen beide Betriebsformen zum Einsatz. Entscheidend ist der tatsächliche Datenfluss einschließlich Dokumentensuche, Protokollen und angebundenen Werkzeugen.
Ein konkretes Beispiel liefert Ollamas Beschreibung seiner Cloud-Modelle: Dieselben lokalen Werkzeuge können auch Modelle auf Cloud-Infrastruktur ansprechen. Deshalb muss die Prüfung den gewählten Modell-Endpunkt einschließen.
Die Entscheidung in fünf Fragen
- Welche Daten braucht die Aufgabe? Trennen Sie öffentliches Material, interne Dokumente und besonders schützenswerte Inhalte. Beginnen Sie den Vergleich mit einem freigegebenen Testdatensatz.
- Welche Qualität ist erforderlich? Eine verständliche Zusammenfassung und das korrekte Extrahieren technischer Grenzwerte sind unterschiedliche Aufgaben. Legen Sie fachlich überprüfbare Antworten fest.
- Wie hoch ist die gleichzeitige Nutzung? Ein erfolgreicher Einzelplatztest sagt wenig darüber aus, wie sich das System bei parallelen Anfragen verhält.
- Wer übernimmt den Betrieb? Benennen Sie Zuständigkeiten für Updates, Zugriffsrechte, Störungen und Modellwechsel. Auch eine Cloud-Anwendung braucht interne Verantwortliche.
- Wie bleibt ein Wechsel möglich? Prüfen Sie den Export von Dokumenten, Vorlagen und Konfigurationen sowie die Abhängigkeit von anbieterspezifischen Funktionen.
Vergleich für die Beschaffung
| Kriterium | Lokale Ausführung prüfen | Cloud-Dienst prüfen |
|---|---|---|
| Datenfluss | Telemetrie, externe Schnittstellen, Backups | Verarbeitungsorte, Speicherfristen, Unterauftragnehmer |
| Kapazität | Arbeitsspeicher, Beschleuniger, parallele Anfragen | Nutzungslimits, Verfügbarkeit, Lastspitzen |
| Kosten | Hardware, Betrieb, Wartung, Personal | Lizenzen, Nutzung, Integration, Betreuung |
| Änderungen | Updates und eigene Freigabetests | Änderungsankündigungen und erneute Qualitätstests |
Das sind Prüfkriterien, keine pauschale Rangfolge. Für einen selten genutzten Prozess kann eine andere Lösung sinnvoll sein als für eine stark ausgelastete interne Anwendung.
Sicherheit gehört in beide Varianten
Das BSI empfiehlt für integrierte KI-Anwendungen klar verteilte Verantwortlichkeiten, begrenzte Zugriffe, festgelegte Verwendungszwecke und die Prüfung von Ausgaben vor ihrer Übergabe an andere Systeme. Berechtigungen müssen auch bereits hochgeladene Dokumente berücksichtigen. Für ein Unternehmen bedeutet das: Die Antwortqualität allein reicht für eine Freigabe nicht aus.
Ein überschaubarer Vergleichstest
Unser Vorschlag: Wählen Sie 20 typische, freigegebene Aufgaben und einige bewusst schwierige Fälle. Lassen Sie dieselben Aufgaben mit beiden Kandidaten bearbeiten. Bewerten Sie fachliche Richtigkeit, nachvollziehbare Quellen, Antwortzeit und notwendige Nacharbeit. Die Zahl 20 ist ein praktischer Startvorschlag, keine wissenschaftlich abgesicherte Mindestgröße.
Erfassen Sie zusätzlich die Arbeitszeit für Einrichtung und Betreuung. Vergleichen Sie Kosten pro fachlich akzeptiertem Ergebnis statt nur Lizenzpreise. Ein günstiger Aufruf mit umfangreicher Korrektur kann im Arbeitsprozess teurer sein als ein höher bepreister Aufruf mit weniger Nacharbeit.
Mittelstands-Check
- Nutzen: Eine passende Betriebsform kann den Zugang zu Wissen und die Dokumentenarbeit unterstützen.
- Aufwand: Datenfreigabe, Integration, Qualitätstest und Betrieb müssen eingeplant werden.
- Grenze: Lokal bedeutet nicht automatisch sicher; Cloud bedeutet nicht automatisch für jede Datenklasse geeignet.
- Nächster Schritt: Eine Aufgabe, ein freigegebener Datensatz und eine verantwortliche Person festlegen.
Zum Einstieg: So planen Sie ein sinnvolles KI-Pilotprojekt im Mittelstand.
Leave a Reply