Welt 10.10.2026
08:25 Uhr

Darum ist eine KI, die immer zustimmt, gefährlich“


Die Hamburger Knigge-Expertin Vivian Hecker und der KI-Berater Florian Pagel zeigen in einem Buch auf, welche Folgen überhöfliche Chatbots, Beschimpfungen von Sprachmodellen und automatisierte Entschuldigungen haben

Darum ist eine KI, die immer zustimmt, gefährlich“

Was darf Künstliche Intelligenz, und was dürfen wir mit ihr? Kaum eine Frage wird in diesem Jahr so leidenschaftlich verhandelt. Chancen, Gefahren, Rechte, Pflichten, Haftung: Diskutiert wird auf vielen Ebenen. Ob wir der KI vertrauen, entscheidet sich aber viel früher. Bei der Mail an den Kollegen, bei der Antwort an den Kunden, bei der Entschuldigung, die ein Programm verschickt. Vivian Hecker und Florian Pagel wollen bei der Suche nach Antworten helfen. Sie ist unter anderem zertifizierte Knigge-Trainerin und Marketingexpertin und schult Nachwuchskräfte in Business-Etikette. Er führt seit 2008 die Hamburger Firma Hello White Parrot und berät Unternehmen beim Einsatz von KI, von Grundlagenschulungen über spezialisierte Projekte bis hin zum Aufsetzen von Multi-Agenten-Systemen. Gemeinsam haben sie den Knigge von 1788 für das Zeitalter der Maschinen fortgeschrieben. WELT: Höflichkeit ist eine schöne Haltung – aber warum kann es auch gefährlich sein, dass KI fast immer höflich ist und ihren Nutzern nur zu gern recht gibt? Florian Pagel: Weil Höflichkeit ohne Widerspruch zur Schmeichelei werden kann. Forschende haben elf KI-Modelle untersucht. Im Schnitt bestätigten sie das Verhalten ihrer Nutzer fast anderthalbmal so oft wie Menschen in vergleichbaren Situationen. Wer in den Experimenten auf solche Zustimmung stieß, war anschließend weniger bereit, Verantwortung für einen zwischenmenschlichen Konflikt zu übernehmen. Dazu kommt eine Beobachtung aus meinen Kursen: Viele fragen die KI so, dass genau die Antwort herauskommt, die sie hören wollen. Fishing for Compliments, nur eben mit KI. Eine KI, die immer zustimmt, ist der fleißigste Jasager im Unternehmen. Und dieser Jasager produziert unnötige Mehrarbeit. Vivian Hecker: Gute Umgangsformen schließen Widerspruch nicht aus, gerade im Arbeitsalltag nicht. Man muss ihn nur so konstruktiv vortragen, dass der andere damit etwas anfangen kann und sich dennoch wertgeschätzt fühlt. WELT: Schon Sprachmodelle wie Siri oder Alexa werden von manchen rüde beschimpft, oft aus Spaß – aber macht uns ein solcher Umgang mit Maschinen auf Dauer auch im Verhalten zu anderen Menschen rücksichtsloser? Pagel: Ob der Ton gegenüber einer Maschine tatsächlich auf unseren Umgang mit Menschen abfärbt, ist nicht geklärt. Aber ich möchte gar nicht erst ausprobieren, ob mir das knappe Kommando irgendwann leichter fällt als eine freundliche Bitte. Deshalb sage ich der KI bitte und danke. Gefühle hat sie keine. Ich möchte mir nur den guten Ton nicht abgewöhnen, den ich im Umgang mit Menschen für wichtig halte. Ein „Bitte“ am Anfang und ein „Danke“ am Ende sind für mich auch eine Gedankenstütze: Ich halte kurz inne, bevor ich etwas abschicke. WELT: Wann oder wodurch wird eine perfekt formulierte KI-Nachricht zur Täuschung? Pagel: Viele glauben, man erkenne einen KI-Text an bestimmten Lieblingswörtern, auffällig vielen Gedankenstrichen oder Sätzen nach dem Muster „nicht dies, sondern das“. Solche Muster können auffallen. Ein Beweis sind sie nicht: Menschen schreiben schließlich auch so. Interessant wird es an anderer Stelle. Eine Nachricht klingt persönlich, aber es fehlt jenes Detail, das nur der Absender kennen könnte. Oder ein Fachtext klingt souverän, aber hinter den Behauptungen stehen keine Belege. Nicht der Gedankenstrich täuscht. Täuschend wird es, wenn ein Text Nähe oder Gewissheit vorspielt, die es nicht gibt. Hecker: Genau. Eine Erinnerung an ein Gespräch, eine gemeinsame Erfahrung, eine Beobachtung, die nur der Schreibende haben kann: Das macht eine persönliche Nachricht glaubwürdig. Sprachliche Perfektion kann sogar das Gegenteil bewirken. Wenn ein Text rund gebügelt ist und alle Floskeln stimmen, kommt beim Empfänger oft nichts mehr an. Es fehlt die persönliche Note. WELT: Man hat es ja selbst in der Hand: Welche Mitteilungen dürfen niemals an eine KI delegiert werden? Hecker: Je persönlicher eine Nachricht ist, desto wichtiger ist es, selbst dahinterzustehen. Ich fange bewusst mit den schönen Anlässen an: Geburtstage, Jubiläen. Dann die schweren: Trauer, Krankheit, Jobverlust, alles, was einem nahegeht. Das Handgeschriebene hat heute einen persönlichen Wert, weil es so selten geworden ist. Wer eine solche Karte bekommt, merkt: Da hat sich jemand Zeit genommen und Mühe gegeben. Ob jedes Wort perfekt ist, spielt dann keine Rolle. Perfekte Worte kann die KI. Pagel: Ein Schutz ist das allerdings auch nicht. Selbst geschrieben und selbst formuliert heißt nicht automatisch ehrlich; einen lieblosen Text kann man auch ohne KI verschicken. Die Technik macht das leichter und massenhafter. In der Arbeitswelt unterscheide ich deshalb zwischen Schreibhilfe und Beziehungsarbeit. Die KI darf beim Formulieren helfen. Für die Beziehung muss ein Mensch geradestehen. WELT: Verliert Freundlichkeit grundsätzlich ihren Wert, wenn sie sich erzeugen lässt? Hecker: Nein. Wir alle möchten freundlich und wertschätzend behandelt werden, auch wenn eine KI an einer Antwort mitgewirkt hat. Wenn ich einen Text zu lesen beginne, frage ich mich nicht als Erstes, wer ihn formuliert hat. Ich möchte ernst genommen werden. Freundlichkeit in einer Nachricht ist deshalb das Mindeste. Ob sie echt ist, zeigt sich aber daran, was folgt: Hört mir jemand zu? Fragt jemand nach? Wird ein Fehler behoben? Freundlichkeit lässt sich schreiben. Aufmerksamkeit muss man aufbringen. Pagel: Die KI kann dabei helfen, zu recherchieren und eine gute Formulierung zu finden. Ihr Platz ist für mich im Hintergrund, als Werkzeug und Verstärker. Bei wichtigen Themen erwarte ich, dass mein Gegenüber selbst sagt, was er meint, und dann auch handelt, wenn Worte nicht reichen. WELT: Es gibt ja auch noch eine andere Ebene: Wer trägt die Verantwortung, wenn ein KI-Agent im eigenen Namen Fehler macht oder falsche Zusagen erteilt? Hecker: Wer seinen Namen unter eine Nachricht setzt, muss dafür einstehen. Das gilt für einen Brief, den eine Assistenz vorbereitet hat, und genauso für den KI-Agenten. Die Technik ändert die Form. Sie nimmt uns nicht die Verantwortung ab. Pagel: Wer einen Agenten einsetzt, muss die Verantwortung für dessen Einsatz organisieren. Bevor er im Namen eines Unternehmens handelt, muss feststehen, was er darf, wann er eine Freigabe braucht und wann ein Mensch übernimmt. Ob eine konkrete Zusage rechtlich bindet und wer im Einzelfall haftet, ist damit noch nicht entschieden. Aber „Das war unser Bot“ ist gegenüber einem Kunden keine Entschuldigung. Seit dem 2. August 2026 gelten in der EU zudem Transparenzpflichten für bestimmte KI-Systeme, die direkt mit Menschen interagieren. Zu wissen, wann man mit einer KI spricht, ist wichtig. Es ersetzt nicht die Verantwortung für das, was sie sagt. Hecker: Wo eine Offenlegung nicht vorgeschrieben ist, kann sie trotzdem eine Frage von Stil und Haltung sein – vor allem, wenn für den anderen wichtig ist, mit wem er es zu tun hat. WELT: Sie haben beim Schreiben Ihres Buches selbst KI eingesetzt. Was konnte die Maschine besser als Sie und was ausdrücklich nicht? Pagel: Die Idee und das Konzept kamen von uns: Knigges Welt von 1788 mit der Welt der KI zusammenzubringen. Auch die Entscheidung, jedem Kapitel ein passendes Knigge-Zitat voranzustellen, haben wir getroffen. Die KI half uns, Material schneller zu strukturieren, Fragen zu stellen und Anregungen zu finden. Verlässlich war sie dabei nicht immer. Sie schlug auch Knigge-Zitate vor, die wir im Original nicht belegen konnten. Deshalb mussten wir gerade dort selbst nachprüfen. Die KI spart Zeit beim Schreiben – und kostet Zeit beim Prüfen. Hecker: Uns war klar: Wir wollten KI für ein Buch über KI nutzen, aber nicht unseren Stil an sie abgeben. Wir müssen jeden Satz in unserer Sprache unterschreiben können. Deshalb haben wir uns auch für eine menschliche Lektorin entschieden, Isabelle Romann. Mit ihr haben wir an den Texten gearbeitet und uns auseinandergesetzt, statt Vorschläge einfach zu übernehmen. Die Maschine konnte Material liefern. Die Erfahrung, die Haltung und die letzte Entscheidung mussten von uns kommen. WELT: Was ist die größere Unart: eine ungekennzeichnete KI-Nachricht, eine automatisierte Entschuldigung oder ein bewusst ungeprüfter KI-Text? Hecker: Man kann um Entschuldigung bitten. Ob der andere sie annimmt, entscheidet er selbst. Alle drei Dinge können eine Zumutung sein, aber für mich ist die automatisierte Entschuldigung die schlimmste. Wenn eine Maschine routiniert Bedauern verschickt, ohne dass jemand den Fehler verstanden hat, überspringt sie den entscheidenden Moment: Jemand muss dafür Verantwortung übernehmen. Pagel: Ich sehe den bewusst ungeprüften Text als gefährlicher. Er kann unter meinem Namen falsche Behauptungen verbreiten oder Zusagen machen, die ich nie geben wollte. Das Knigge-Zitat aus unserem Buch bringt es für mich auf den Punkt: „Handle weniger, andern zu gefallen, als um Deine eigene Achtung nicht zu verscherzen, gut und anständig!“ Wer ungelesen verschickt, setzt seine Glaubwürdigkeit aufs Spiel. Hecker: Im Kern sind wir uns einig: Eine KI kann uns Arbeit abnehmen. Die Verantwortung nicht. WELT: Mittlerweile warnen einige führende KI-Anbieter selbst vor ihrer Technik. Ironisch gefragt: Wenn die KI auf Zerstörungstour geht, ist es dann vorbei mit den guten Sitten, sind die also nur ein Deckmantel? Hecker: Bertolt Brecht hat in der „Dreigroschenoper“ geschrieben: „Erst kommt das Fressen, dann kommt die Moral.“ Bei der KI würde ich es umdrehen. Wenn eine Technik mächtiger wird, als uns lieb ist, darf die Moral nicht warten, bis alle satt sind. Gute Sitten sind wie ein Geländer: Wie sehr man es braucht, merkt man erst im Sturm. Pagel: Knigge hat sein Buch 1788 geschrieben, ein Jahr vor der Französischen Revolution, als eine ganze Ordnung ins Wanken geriet. Gerade wenn es ungemütlich wird, zeigt sich, was gute Sitten wert sind. Die Warnungen der KI-Firmen nehme ich ernst, auch wenn manches davon nach Werbung in eigener Sache klingt. Der Münchner KI-Forscher Björn Ommer hat es kürzlich treffend beschrieben: Das greifbarste Risiko seien Menschen, die leistungsfähige KI missbrauchen. Gute Sitten sind deshalb kein Deckmantel. Sie sind die Regeln, nach denen wir die Technik einsetzen: prüfen, offenlegen und letztlich auch Verantwortung übernehmen. Eine KI hat keine Manieren. Die Menschen, die sie einsetzen, sollten umso mehr welche haben. Vivian Hecker, Florian Pagel: „Der KI-Knigge. Authentisch trifft Agentisch. Wie wir Mensch bleiben, wenn die Maschine mitarbeitet.“ BoD, 148 Seiten, 17,90 Euro.