Von Der Kundenservice hat KI als Branche mit größerer Begeisterung angenommen als fast jede andere, und die Automatisierung der Unterstützung ist in vielerlei Hinsicht sinnvoll, besonders angesichts der Geschwindigkeit, mit der sich diese Technologie in den letzten Jahren entwickelt hat. Ebenso wichtig ist es jedoch für Unternehmen, menschliche Support-Teams vorzuhalten, damit Kunden, die den KI-Service-Pfad verlassen möchten, dies reibungslos und mit vollständiger Kontinuität tun können.
Die Bedeutung menschlicher Unterstützung neben KI-Tools im Kundenservice ist in Deutschland besonders ausgeprägt, und dafür gibt es mehrere Gründe.
Die rechtlichen Notwendigkeiten
Der Hauptgrund, warum KI-Kundenservicesysteme, die von deutschen Unternehmen eingesetzt werden, stets menschliche Mitarbeiter zur Seite haben müssen, liegt vermutlich in einem vielschichtigen rechtlichen Erfordernis.
Zunächst gibt es das KI-Gesetz der EU, das verschiedene Aspekte der Technologie abdeckt, einschließlich der Offenlegungspflichten, die Unternehmen einhalten müssen, wenn Kunden ein KI-System vorgestellt wird. Zudem schreibt das Prinzip des „Human-in-the-Loop“ vor, dass automatisierte Interaktionen einen menschlichen Rückfallmechanismus bieten müssen, wenn Anfragen den Umfang der KI übersteigen oder die Rechte eines Nutzers berühren.
Dann gibt es die DSGVO, die EU-Bürgern zudem das Recht einräumt, eine Beteiligung automatisierter Systeme an Entscheidungen zu verhindern, wenn dies rechtliche Folgen oder ähnlich weitreichende Auswirkungen hätte. Wenn also beispielsweise ein KI-Kundenservice an der Entscheidung beteiligt ist, ob ein Antrag auf Rückerstattung oder eine Kontokündigung genehmigt wird, haben Nutzer eine berechtigte, rechtliche Erwartung, dass sie diesen Fall zur weiteren Prüfung an ein menschliches Teammitglied weiterleiten können.
Manche Branchen unterliegen in Deutschland eigenen strengen Vorschriften und Regularien, wodurch menschlicher Kundenservice in Märkten wie dem iGaming noch wichtiger wird. So setzt beispielsweise die Seite German Tikal Casino auf einen Live-Support mit menschlichen Mitarbeitern, um jegliche Compliance-Probleme zu vermeiden, die bei einer vollständigen Automatisierung entstehen könnten.
Die Unvollkommenheit der KI-Technologie
Abgesehen von der rechtlichen Seite eines menschlichen Auswegs bei KI-Kundenservice-Tools gibt es auch die Realität, dass automatisierte Chatbots und verwandte Technologien in ihrer aktuellen Form schlicht nicht fehlerfrei sind und Fehler machen können, die dem Ruf eines Unternehmens schaden – ganz zu schweigen von den einzelnen Kundenbeziehungen, die durch solche Patzer beeinträchtigt werden.
Besonders große Sprachmodelle neigen dazu, zu „halluzinieren“ und Fakten zu erfinden, falsche Ratschläge zu geben und anderweitig Fehler zu machen, die für Kunden zu Problemen führen könnten. Das deutsche Recht enthält weitere Vorschriften zur Abgabe falscher Aussagen durch Unternehmen und deren Vertreter, einschließlich automatisierter Tools, sodass Unternehmen für Probleme, die durch solche Halluzinationen entstehen, haftbar gemacht werden können.
Daher ist es unerlässlich, in Situationen, die schlicht über das hinausgehen, was von einem KI-System vernünftigerweise erwartet werden kann – etwa wenn das Anliegen eines Kunden so komplex und nuanciert ist, dass es noch nie zuvor aufgetreten ist – zu einem menschlichen Support-Mitarbeiter wechseln zu können.
Schließlich stehen Verbraucher in Deutschland KI noch immer relativ skeptisch gegenüber, und obwohl sie deren Einsatz in manchen Fällen tolerieren mögen, lohnt es sich weiterhin, im Kundenservice einen menschlichen Ausweg anzubieten.
