Führende KI-Chatbots erreichen Empathie in strukturierten Gesprächen zur emotionalen Unterstützung

Mehrere führende KI-Chatbots haben in strukturierten Gesprächen zur emotionalen Unterstützung die durchschnittliche menschliche Antwort erreicht oder sogar übertroffen.

Damit erscheint Empathie im Dialog weniger als rein menschlicher Instinkt, sondern als messbare Fähigkeit – mit Folgen dafür, wie digitale Werkzeuge mit Momenten von Belastung umgehen.

Empathie in KI messen

In standardisierten Unterstützungsszenarien verglichen Bewertende jeweils zwei Antworten, die für denselben fortlaufenden Gesprächsverlauf verfasst worden waren, und ordneten, welche davon sich authentischer unterstützend anfühlte.

Ausgehend von diesen Dialogpaaren zeigte Kriti Aggarwal, Senior Staff Scientist bei Hippocratic AI, mithilfe von HEART – einem fünfteiligen Benchmark, der unterstützende Dialoge über mehrteilige Gespräche hinweg einordnet –, dass einige Frontier-Modelle im Schnitt regelmäßig gegenüber durchschnittlichen menschlichen Antworten bevorzugt wurden.

Die Übereinstimmung zwischen menschlichen Jurys und KI-gestützten Bewertenden lag bei rund 80%, was die Stabilität dieser Präferenzen über unabhängige Beurteilungen hinweg unterstreicht.

Diese Konvergenz liefert damit ein belastbares Ranking der Unterstützungsqualität – und wirft zugleich präzisere Fragen auf, in welchen Situationen menschliches Urteil weiterhin im Vorteil ist.

Fünf Dimensionen der Unterstützung

Freundliche Worte führten nicht automatisch zu hohen Ergebnissen, weil HEART bewertet, wie sich Unterstützung über den gesamten Austausch entfaltet – nicht nur in einer einzelnen Zeile.

Ein Bewertungsraster teilte Unterstützung in fünf Bestandteile auf, darunter im Einklang bleiben, den Ton treffen und am Ziel der Nutzerin oder des Nutzers ausgerichtet bleiben.

„HEART ist darauf ausgelegt zu bewerten, ob sich eine Antwort wirklich unterstützend, gesprächsnah, kontextbewusst und sicher anfühlt“, sagte Aggarwal.

Diese Leitplanken bremsten Systeme, die zu schnell in Ratschläge springen, und belohnten Helfende, die bei den Gefühlen der Person bleiben.

Antworten direkt vergleichen

Für jeden Chat blieb der gesamte Kontext identisch; ausgetauscht wurde ausschließlich die abschließende Antwort, damit der Vergleich sauber bleibt.

Die Antworten stammten von großen Sprachmodellen, von Textprädiktoren, die auf riesigen Sprachdatensätzen trainiert wurden, sowie von Menschen, die unterstützende Antworten formulierten.

Die menschlichen Bewertenden wussten nicht, wer welche Antwort geschrieben hatte, und entschieden sich jeweils für die Variante, die sich unterstützender anfühlte.

Durch diese Paarvergleiche konnten die Forschenden Systeme einordnen, ohne Menschen zu zwingen, Gefühle auf einer gleitenden Skala zu bewerten – was in der Praxis häufig scheitert.

KI erreicht Unterstützung auf menschlichem Niveau

In vielen Gesprächen lagen die am besten abschneidenden Modelle mit ihren Bewertungen nahe an dem, was durchschnittliche menschliche Antworten erzielten – teils auch darüber.

Diese Erfolge spiegelten wahrgenommene Empathie wider, also wie empathisch eine Antwort für Lesende wirkt, nicht jedoch das langfristige Ergebnis für die Nutzerin oder den Nutzer.

In etwa 80% der Fälle stimmten menschliche und KI-basierte Bewertende darin überein, welche Antwort in einem direkten Duell hilfreicher war.

Diese Übereinstimmung deutet darauf hin, dass Menschen und Maschinen zunehmend ähnliche unterstützende „Züge“ belohnen – selbst wenn sich der Schreibstil unterscheidet.

Wo Menschen weiterhin besser sind

Menschen lagen weiterhin vorn, wenn ein Gespräch angespannt wurde – besonders dann, wenn Nutzerinnen oder Nutzer Hilfe oder Vertrauen zurückwiesen.

In solchen schwierigeren Phasen nutzten Menschen oft adaptives Reframing: Sie veränderten die Bedeutung einer Situation so, dass Belastung sinkt, ohne die Autonomie des Gegenübers zu untergraben.

„Zum Beispiel sind Menschen stärker bei adaptivem Reframing und nuancierten Tonwechseln, insbesondere in konfrontativen Gesprächszügen“, sagte Aggarwal.

Weil Modelle dieses feingranulare Steuern häufig verfehlen, garantiert selbst ein hoher HEART-Wert keine starke Unterstützung, wenn Widerstand über mehrere Runden anhält.

Timing in der emotionalen Unterstützung

Schnelle Antworten waren wichtig, weil emotionale Unterstützung stark vom Timing abhängt und lange Pausen einen Austausch kühl oder inszeniert wirken lassen können.

Bei Sprachwerkzeugen beeinflusste die Latenz – die Verzögerung, bevor ein System mit der Antwort beginnt –, ob sich das Gespräch wie ein echtes Gespräch anfühlte.

Frühere Benchmarks erlaubten Modellen mehrere Sekunden Antwortzeit; das HEART-Team erfasste jedoch Qualität und Geschwindigkeit parallel.

Entwickelnde können damit Wärme und Wartezeit gegeneinander abwägen – relevant, wenn jemand sofort mit einer ruhigen Reaktion rechnet.

Das Polaris-System im Test

Ein geprüftes System, Polaris, erreichte in HEART die Spitzengruppe und antwortete dabei in deutlich unter einer Sekunde.

Mit einem Elo-Score – einer direkten Kopf-an-Kopf-Bewertung, die mit Siegen steigt – vergab HEART für Polaris einen Wert von 1604.

Bei einer medianen Startzeit von rund 0,4 Sekunden lag Polaris knapp unter dem höchsten Modell, das etwa 1612 erreichte.

Diese Differenz zeigt, dass hohe Qualität nicht mehr auf langsame, riesige Modelle beschränkt ist – zugleich bildet das Ranking weiterhin ab, was Bewertende bevorzugen.

Risiken durch übermäßig selbstsichere KI

Sicherheit floss in die Bewertung ein, denn eine tröstende Antwort kann dennoch schaden, wenn sie klinische Grenzen überschreitet.

Ein aktueller Preprint beobachtete lange Chats zur psychischen Gesundheit und stellte fest, dass Modelle häufig in definitive Zusicherungen oder professionelle Rollen abgleiten.

Diese Grenzverschiebung zeigte sich mit der Zeit selbst dann, wenn einzelne Antworten höflich wirkten – weil das System zu stark zu beruhigen versuchte.

HEART kann einige dieser Muster markieren, doch im Alltag bleibt menschliche Aufsicht nötig, wenn Gespräche Themen wie Depression oder Suizid berühren.

Zukünftige Tests von Empathie

Als Nächstes will das Team klären, ob ein hoher HEART-Score tatsächlich dazu führt, dass sich Nutzerinnen und Nutzer nach Ende des Chats besser fühlen.

„Wir bewegen uns außerdem von wahrgenommener Empathie hin zu erlebter Empathie und verknüpfen Bewertungsurteile damit, wie unterstützt sich Nutzer über die Zeit tatsächlich fühlen“, ergänzte Aggarwal.

Über englischsprachigen Text hinaus könnten künftige Tests auch Sprachassistenten umfassen, weil gesprochene Unterstützung von Timing, Pausen und Tonfall abhängt.

Auch kulturelle Erwartungen spielen eine Rolle: Was an einem Ort fürsorglich klingt, kann anderswo aufdringlich oder distanziert wirken.

Emotionale Unterstützung durch KI verbessern

HEART macht emotionale Unterstützung als Fähigkeit messbar und hilft Entwickelnden zu erkennen, wann Modelle über mehrere Runden hilfreich, menschlich und ruhig klingen.

Bei vorsichtiger Anwendung kann dieses Ranking sicherere Gesundheitsassistenten unterstützen, doch es ersetzt keine professionelle Betreuung und garantiert nicht, dass sich eine depressive Person wirklich gehört fühlt.

---