Internes ChatGPT: wie eine firmenweite KI wirklich funktioniert
«Wir hätten gern ein internes ChatGPT» gehört inzwischen zu den häufigsten Sätzen in unseren Erstgesprächen. Gemeint ist fast immer dasselbe: ein KI-Assistent für das ganze Team, der die Dokumente und Abläufe des eigenen Betriebs kennt, und bei dem niemand befürchten muss, dass Vertrauliches beim falschen Anbieter landet. Selten geklärt ist dagegen, dass es drei sehr unterschiedliche Wege dorthin gibt. Sie unterscheiden sich weniger in der Qualität der Antworten als in Aufwand, Kosten und Kontrolle.
Warum das Thema aufkommt
Meistens nicht, weil jemand eine KI-Strategie beschlossen hätte, sondern weil die Mitarbeitenden längst angefangen haben. Sie nutzen kostenlose Chat-Tools über private Konten, und damit verlassen Offerten, Verträge, Kundendaten und Quellcode das Unternehmen. Dafür gibt es einen Begriff, Schatten-KI, und mit einem Verbot ist es nicht getan: Der Bedarf ist real, und wo kein freigegebenes Werkzeug bereitsteht, greifen die Leute zu einem nicht freigegebenen.
Ein internes GPT ist deshalb selten ein Innovationsprojekt. Meistens ist es die Antwort auf eine Lücke, die längst offen ist.
Die drei Wege
1. Der Enterprise-Tarif beim Modellanbieter. Der schnellste Einstieg: Sie buchen den Geschäftstarif eines grossen Anbieters und erhalten eine Nutzerverwaltung sowie die Zusicherung, dass mit Ihren Eingaben nicht trainiert wird. Was Sie nicht erhalten, ist Wahlfreiheit, denn Sie sind an die Modelle dieses einen Anbieters gebunden, und in aller Regel auch keine Kontrolle über den Serverstandort. Vielen Teams reicht das völlig. In regulierten Branchen ist es genau der Punkt, an dem die Rechtsabteilung abwinkt.
2. Selbst betreiben. Open-Weight-Modelle sind gut genug geworden, dass ein eigenes internes GPT realistisch ist. Die Rechnung geht allerdings selten so auf wie auf dem Papier: Sie brauchen GPU-Kapazität, jemanden, der die Modelle aktuell hält, und alles Übrige bauen Sie ebenfalls selbst, von der Dokumenten-Indexierung über die Oberfläche bis zur Protokollierung. Sinnvoll, wenn Sie ein Plattform-Team haben und die Anforderungen keinen Spielraum lassen. Teuer, wenn es Ihnen nur um den Datenschutz geht.
3. Eine Plattform auf Ihrem eigenen Wissen. Der Mittelweg: Oberfläche und Nutzerverwaltung sind fertig, die Modelle bleiben austauschbar, und der Hosting-Standort ist eine Einstellung und keine Eigenschaft des Anbieters. Diesen Weg gehen wir mit botts.ai. Mehr dazu auf unserer Seite zur ChatGPT-Alternative, und die Modellübersicht zeigt, welche Modelle zur Auswahl stehen und in welchem Land sie jeweils laufen.
Was am Ende über die Nutzung entscheidet
Die Wahl des Weges wird meist überschätzt. Ob ein internes ChatGPT nach drei Monaten noch benutzt wird, hängt an drei deutlich unspektakuläreren Punkten.
Es muss Ihre Dokumente kennen. Ein Assistent, der dieselben allgemeinen Antworten gibt wie das öffentliche Modell, hat keine Daseinsberechtigung. Der Unterschied zeigt sich erst, wenn er Ihre Preisliste, Ihr Handbuch und Ihre Projektablage kennt, wenn also eine gepflegte Wissensdatenbank dahintersteht. Genau hier geraten die meisten Projekte ins Stocken, nicht am Modell, sondern daran, dass das Wissen unstrukturiert über fünf Systeme verteilt liegt.
Der Hosting-Standort gehört bewusst entschieden. Nicht «irgendwo in Europa», sondern eine Angabe, die Sie kennen und begründen können. In welchem Land die Server stehen, welches Unternehmen sie betreibt und welchem Recht dieses Unternehmen untersteht, sind drei verschiedene Fragen. Wir haben sie in einem eigenen Beitrag zur Datenresidenz auseinandergenommen. Für Schweizer Firmen kommt das Berufsgeheimnis dazu, das wir im Beitrag zu ChatGPT in der Schweiz behandeln.
Kein Training mit Ihren Daten. Das gehört vertraglich zugesichert, und zwar nicht nur von der Plattform, sondern auch von den Modellanbietern dahinter. Wie wir es handhaben, steht auf der Sicherheitsseite.
Woran die Zeit tatsächlich draufgeht
Technisch ist ein internes ChatGPT rasch aufgesetzt. Die Arbeit steckt in der Wissensbasis, und dort stellen sich Fragen, die niemand gerne beantwortet: Welche Dokumente sollen überhaupt hinein? Wer entscheidet das? Und wer pflegt sie nach, wenn im Herbst die Preisliste ändert?
Daran hängt die Qualität. Ein Assistent, der aus einer sauberen, gepflegten Ablage antwortet, liefert brauchbare Antworten. Derselbe Assistent auf einem Ordner mit drei Versionen desselben Handbuchs liefert Widersprüche, und das spricht sich im Team innert weniger Tage herum.
Fangen Sie deshalb lieber klein an: eine Abteilung, ein überschaubarer Satz Dokumente, eine Aufgabe, die sich ständig wiederholt. Das Onboarding neuer Mitarbeitender eignet sich gut, weil die Fragen jedes Mal ähnlich sind und die Antworten ohnehin schon irgendwo geschrieben stehen.
Woran es in der Praxis fast nie scheitert: an der Modellqualität.
Sie überlegen, welcher der drei Wege zu Ihrem Unternehmen passt? Kontaktieren Sie uns, wir schauen uns Ihre Ausgangslage an und sagen Ihnen ehrlich, ob sich der Aufwand lohnt.
