Inhouse KI-Coach: Warum der HR-Eigenbau selten eine gute Idee ist

Ein eigenes KI-Coaching-System im Unternehmen aufbauen? Auf den ersten Blick klingt das nach Kontrolle, Datenhoheit und Kostenersparnis. In der Praxis entwickelt sich das Vorhaben leicht zu einem sehr anspruchsvollen Projekt.

Wir arbeiten seit 2023 an unserem Business KI-Coach Sapericus. Aktuell entwickeln wir an der fünften Iteration. Was uns die vergangenen Jahre gelehrt haben: Was auf einer Folie in fünf Minuten einfach aussieht, verschlingt in der Realität Monate, viele hundert Stunden und bringt einen kontinuierlichen Lern- und Korrekturprozess mit sich. Wer trotzdem inhouse bauen möchte, sollte unbedingt vorher wissen, worauf er sich einlässt.

1. Der EU AI Act macht Inhouse-Coaching zum Dauer-Compliance-Projekt

Sobald KI-Coaching im Unternehmenskontext eingesetzt wird, greifen die Regelungen des EU AI Act. Besonders relevant: Ein KI-System, das Audio- oder Videoaufzeichnungen verarbeitet und dabei Rückschlüsse auf Emotionen, Motivation oder Verhalten ermöglicht, steht im Arbeitsverhältnis unter strenger Beobachtung.

Sie müssen lückenlos dokumentieren und kontinuierlich überwachen, dass diese Daten nicht für verbotene Zwecke genutzt werden, etwa Emotionserkennung am Arbeitsplatz, Leistungsbewertung oder personalbezogene Entscheidungen. Das ist keine einmalige Aufgabe, sondern ein dauerhafter Prozess mit juristischer Begleitung, technischen Kontrollen und laufender Nachweispflicht.

2. KI-Expertise ist teuer

Gute KI-Entwickler:innen sind rar und teuer. Jede Entwicklerstunde, die in ein internes Coaching-Tool fließt, fehlt an anderer Stelle: an Ihrem Kernprodukt.

Die aktuelle Entwicklung bewegt sich mit hoher Geschwindigkeit in Richtung stärkerer Automatisierung und agentischer Systeme. Für viele Unternehmen wird das Szenario deutlich automatisierter Wertschöpfungsketten in den kommenden Jahren zur Realität. Wer in diesem Umfeld wettbewerbsfähig bleiben will, sollte die KI-Expertise dort einsetzen, wo sie einen Vorteil für das Unternehmen schafft.

3. Prototyp an einem Tag, Produkt in vielen Monaten

Ein KI-Coaching-Prototyp lässt sich an einem Tag bauen. Ein produktionsreifes System leider nicht.

Zwischen einem beeindruckenden Demo und einem stabilen, sicheren und inhaltlich belastbaren Coaching-Produkt liegen in aller Regel viele Monate Arbeit eines ganzen Teams. Und wenn Sie diesen Punkt erreicht haben, beginnt die Arbeit erst richtig:

• Neue Modelle erscheinen im Monatstakt und verändern Fähigkeiten, Grenzen und Verhalten.
• Alte Modelle werden deprecatet und müssen ersetzt werden.
• Prompts, Leitplanken und Grounding-Daten müssen bei jedem Wechsel neu evaluiert und angepasst werden.

Wir sind bei Version 5 und passen alle paar Monate grundlegend Dinge an. Inhouse-Teams unterschätzen diesen Dauerbetrieb häufig.

4. Mentale Gesundheit ist kein Spielfeld für Single-Model-Experimente

Coaching berührt Themen, die nahe an mentaler Gesundheit liegen. Unsere Erfahrung hat gezeigt: Mit einem einzelnen Modell, das sowohl den Coaching-Prozess als auch die Sicherheitsmechanismen übernimmt, kommt man da nicht weit. Deswegen lassen wir mehrere Modelle parallel laufen, damit jedes Modell immer nur eine klare Aufgabe hat.

Denn für die Sicherheit braucht es:

• ein fundiertes Verständnis möglicher Nebenwirkungen und Grenzfälle,
• eine Detektionslogik für Situationen, die über Coaching hinausgehen,
• eine Exit-Strategie, die Nutzer:innen sicher an menschliche Fachkräfte übergibt.

Wir haben dafür ein integriertes EAP-System (Employee Assistance Program) aufgebaut. Unser Indikator-System erkennt, wenn Nutzer:innen sich in Lagen befinden, die Coaching nicht mehr abdecken kann, und (darf) leitet sie gezielt an qualifizierte menschliche Ansprechpartner:innen weiter. Das Feld der Indikatoren und das Modelling ist eine wissenschaftliche Disziplin für sich, zu der wir uns regelmäßig mit Forschenden austauschen.

5. Das Akzeptanzproblem: Mitarbeitende öffnen sich ungern gegenüber dem eigenen Arbeitgeber

Rechtlich ist klar: Coaching-Inhalte dürfen nicht für personalbezogene Entscheidungen verwendet werden. Praktisch hilft Ihnen das nur bedingt. Sie kämpfen nicht gegen Anwälte, sondern um das Vertrauen Ihrer Mitarbeitenden.

Oft reicht schon ein kleiner Zweifel: Könnten meine Antworten irgendwann doch gegen mich verwendet werden? Dadurch sind die Antworten nicht mehr offen und ehrlich, was den Coaching-Prozess behindert. Studien und unsere eigene Erfahrung zeigen: Nutzer:innen teilen sehr tiefgehende persönliche Themen mit einer KI, solange sie darauf vertrauen, dass die Daten unabhängig verarbeitet werden. Genau dieser Vertrauensvorsprung ist einer der Schlüssel, warum KI-Coaching eine bessere Wirkung entwickeln kann. Mit einer Inhouse-Lösung verlieren Sie diesen Vorteil häufig durch die Vorbehalte Ihrer Mitarbeitenden.

6. „Wir füttern einfach alles in die KI"

Ein häufiges Missverständnis: „Wir geben der KI einfach alle auffindbaren Materialien, Studien und Prozesse, dann wird sie zum Super-Coach."

Das funktioniert so leider nicht. Moderne Modelle haben das öffentlich verfügbare Coaching-Wissen bereits vielfach verarbeitet. Sie bringen ihr mit 300 zusammengesuchten Artikeln keine neue Grundlage bei. Die eigentliche Kunst besteht darin, die subtilen, aber entscheidenden Schwächen der Modelle zu erkennen und mit gezielten Grounding-Daten zu korrigieren.

7. Ein sinnvoller Coaching-Pfad entsteht nicht aus Trainingsdaten

Eines der zentralen Konzepte im (KI-)Coaching ist ein klarer, individueller Pfad. Eine Journey, die zur Situation und den Zielen einer Person passt.

Diesen Pfad kann eine KI alleine nicht zuverlässig erstellen. Es sei hier versichert, wir haben es versucht. Deswegen basiert bei uns der Kern auf einem Logiksystem, das wir seit 2023 gemeinsam mit erfahrenen Coaches, medizinischem Fachpersonal und sogar Universitätsprofessor:innen erstellt haben. Es kombiniert klassische Softwarelogik mit Entscheidungsbäumen und regelbasierten Übergängen. Und wir entwickeln es immer wieder weiter.

8. Qualitätssicherung skaliert nicht nebenbei

KI-Systeme werden erst durch Nutzer:innen so richtig einem Stresstest unterzogen. Also von echten Menschen mit echten kreativen Eingaben. Und die finden zuverlässig jeden Weg, auf dem das System nicht mehr tut, was es soll.

Selbst mit einer nennenswerten Zahl an Teilnehmenden ist hochwertige Qualitätssicherung aufwendig:

• Jede unerwartete Nutzungssituation muss analysiert werden (mit Zustimmung der Nutzer:in!)
• Jede Modellaktualisierung braucht eine neue Evaluationsrunde.
• Jede Anpassung an Prompts oder Leitplanken muss möglichst regressionssicher eingebaut werden.

Diese Arbeit wird mit zunehmender Nutzerbasis einfacher, da der Aufwand im Verhältnis zu den Nutzern sinkt. Ein einzelnes Unternehmen kommt aber häufig nicht auf die nötige Anzahl an Nutzern.

Fazit: Inhouse ist selten die klügere Entscheidung

KI-Coaching ist kein klassisches IT-Projekt, das man einmal baut und dann betreibt. Es ist ein Produkt an der Schnittstelle von Recht, KI-Entwicklung, Psychologie, Medizin und Produktpflege, das kontinuierliche Weiterentwicklung, Qualitätssicherung und sogar Forschung erfordert.

Für die allermeisten Organisationen gilt deshalb: Die eigenen KI-Ressourcen gehören ins Kernprodukt. Coaching und mentale Balance Ihrer Mitarbeitenden gehören in die Hände eines spezialisierten Anbieters, der rechtliche Rahmenbedingungen, Datenschutz, Sicherheitsmechanismen und fachliche Tiefe bereits abbildet und durch eine große Nutzerbasis die Qualität dauerhaft verbessert.