Brauchen wir ein eigenes KI-Modell? Warum die Antwort meist Nein lautet
Kurz beantwortet
Die meisten mittelständischen Unternehmen brauchen kein eigenes KI-Modell. Fertige Modelle verstehen Sprache und Dokumente bereits sehr gut. Was ihnen fehlt, ist Ihr Firmenwissen, und das lässt sich günstiger ergänzen: über gute Anweisungen und Beispiele oder über eine Suche, die der KI passende Stellen aus Ihren Unterlagen mitgibt. Eigenes Training lohnt sich nur in Sonderfällen.
Was bedeutet das für Ihr Unternehmen? Erstgespräch vereinbaren
„Wir brauchen eine KI, die unser Unternehmen kennt.“ Dieser Wunsch ist verständlich, und er führt oft zu einem teuren Missverständnis: dem eigenen KI-Modell. Dabei lässt sich das Ziel fast immer einfacher erreichen.
Welche Möglichkeiten gibt es, KI mit Firmenwissen zu verbinden?
Es gibt vier Stufen, mit stark steigendem Aufwand:
- Anweisungen und Beispiele: Sie sagen dem Modell, wie es arbeiten soll, und geben ihm einige gute Beispiele mit. Das reicht erstaunlich oft.
- Wissenssuche: Vor jeder Antwort durchsucht ein System Ihre Unterlagen und gibt dem Modell die passenden Abschnitte mit. Die KI antwortet auf dieser Grundlage und nennt die Quelle.
- Feinabstimmung: Ein fertiges Modell wird mit vielen Beispielen auf eine bestimmte Aufgabe oder einen bestimmten Stil angepasst.
- Eigenes Training: Ein Modell wird von Grund auf trainiert. Das kostet Millionen und ist für den Mittelstand keine Option.
Was reicht in den meisten Fällen?
Die Kombination aus den ersten beiden Stufen. Sie hat entscheidende Vorteile:
- Immer aktuell: Ein neues Dokument ist sofort verfügbar, ohne neues Training.
- Nachvollziehbar: Jede Antwort lässt sich auf eine Quelle zurückführen.
- Austauschbar: Erscheint ein besseres Modell, wird es einfach eingesetzt. Ihr Wissen bleibt in Ihren Unterlagen.
- Günstig: Die Umsetzung ist meist in wenigen Wochen möglich.
Wann lohnt sich eine Feinabstimmung?
In wenigen Fällen ist sie sinnvoll: wenn eine sehr spezielle Aufgabe in großer Menge anfällt, etwa das Einordnen von Dokumenten in hunderte Kategorien, wenn ein festes Format zuverlässig eingehalten werden muss oder wenn ein kleineres, günstigeres Modell eine Aufgabe übernehmen soll. Voraussetzung sind mehrere hundert bis einige tausend geprüfte Beispiele.
Was spricht gegen ein eigenes Modell?
- Kosten: Training, Infrastruktur und Fachleute stehen in keinem Verhältnis zum Nutzen.
- Schnelle Alterung: Neue Modellgenerationen erscheinen in kurzen Abständen. Ein eigenes Modell ist schnell überholt.
- Datenschutz: Was einmal in ein Modell trainiert wurde, lässt sich kaum gezielt wieder entfernen. Das passt schlecht zum Recht auf Löschung (Art. 17 DSGVO), wenn personenbezogene Daten im Spiel sind.
Und ein Modell auf eigenen Servern?
Das ist eine andere Frage: Es geht um den Ort der Verarbeitung, nicht um das Training. Frei verfügbare Modelle lassen sich auf eigenen Servern oder bei einem deutschen Rechenzentrum betreiben. Das kann bei sehr sensiblen Daten sinnvoll sein, kostet aber Hardware oder Miete. Abwägungen dazu stehen im Beitrag KI datenschutzkonform nutzen, die Kosten im Beitrag Was kostet KI?
Julius Launhardt verbindet KI mit dem Wissen mittelständischer Unternehmen, ohne teure Umwege über eigene Modelle. Mehr dazu auf der Seite zur KI-Beratung.
Häufige Fragen
Was ist eine Wissenssuche für KI?
Die KI durchsucht vor jeder Antwort Ihre Unterlagen, etwa Handbücher oder Verträge, und bekommt die passenden Abschnitte mitgeliefert. Sie antwortet auf dieser Grundlage und nennt die Quelle. Fachleute sprechen von Retrieval Augmented Generation, kurz RAG.
Lernt die KI aus unseren Dokumenten dazu?
Bei einer Wissenssuche nicht. Das Modell bleibt unverändert, es liest Ihre Unterlagen nur bei Bedarf. Neue Dokumente sind dadurch sofort verfügbar, und gelöschte verschwinden sofort aus den Antworten.
Wie viele Beispiele braucht eine Feinabstimmung?
Je nach Aufgabe mehrere hundert bis einige tausend gute, geprüfte Beispiele. Sie zu sammeln ist oft aufwendiger als die Feinabstimmung selbst.
Ist ein Modell auf eigenen Servern dasselbe wie ein eigenes Modell?
Nein. Auf eigenen Servern läuft meist ein frei verfügbares, fertiges Modell. Das betrifft den Ort der Verarbeitung, nicht das Training, und kann bei sehr sensiblen Daten sinnvoll sein.
