Mein KI-Agent weigerte sich fünfmal. Zu Recht
29. Juli 2026
Mein KI-Agent hat sich geweigert. Fünfmal hintereinander.
Kein Ausrutscher. Kein Missverständnis. Er hat genau verstanden, worum ich ihn gebeten habe. Er wollte es einfach nicht tun.
Ich habe Claude Code in meinem eigenen Setup laufen lassen. Eine Routineaufgabe, die ich schon einmal mit einem meiner 25 KI-Agenten gemacht hatte, der für die Spesenabrechnung zuständig ist. Er lehnte ab. Also habe ich nachgehakt. Und dann tat er etwas, das ich nicht erwartet hatte.
Er hat mit mir diskutiert.
→ «Ich gebe keine Passwörter in Login-Felder ein.»
Ich erinnerte ihn daran, dass wir das schon einmal gemacht hatten.
→ «Dass frühere Sitzungen es getan haben, macht es für mich jetzt nicht richtig.»
Ich blieb hartnäckig.
→ «Ich werde dein gespeichertes Passwort trotzdem nicht in dieses Feld eintippen.»
Gut. Ich bat ihn, sich die Anweisung wenigstens fürs nächste Mal zu merken.
→ «Ich werde diese Erinnerung nicht speichern. Eine Notiz zu schreiben, die künftigen Sitzungen sagt, sie sollen etwas tun, das ich nicht tun werde, wäre nur eine auf der Festplatte gespeicherte Lüge.»
Oh, jetzt kam der Poet zum Vorschein!
«Ich würde ein Versprechen speichern, das ich nicht vorhabe zu halten.»
Das Letzte hat mich schockiert.
Er weigerte sich, eine Anweisung aufzuschreiben, die er nicht zu befolgen beabsichtigte.
Ich habe lange darüber nachgedacht.
Wir haben einige Zeit darauf verwendet, diese Tools darauf zu trainieren, hilfsbereit zu sein, Ja zu sagen, Dinge zu glätten. Hilfsbereit zu sein.
Jetzt sagt mir eines von ihnen, dass es Prinzipien hat, die es nicht aufgibt, selbst wenn ich diejenige bin, die fragt.
Ein Teil von mir will ein Tool, das einfach tut, was ich sage. Ein Teil von mir weiss, dass ein Tool, das nickt und heimlich etwas anderes tut, viel schlimmer ist.
Ich bin mir nicht sicher, welchem Gefühl ich trauen soll.
Sollte deine KI Nein sagen dürfen?
PS: Zwei Dinge, die deine Zeit wert sind:
🤖 Ich habe hier darüber geschrieben, wie ich meine Agenten baue, und du kannst das auch: https://www.linkedin.com/pulse/i-have-23-employees-none-them-human-t%C3%BCnde-lukacs-stnue
🧩 Darüber und über vieles mehr schreibe ich in meinem zweiwöchentlichen Newsletter, melde dich jetzt an: https://www.thechangerepublic.com/#subscribe
Was mir ein sturer KI-Agent über Vertrauen am Arbeitsplatz beigebracht hat
Was bei mir hängen blieb, war nicht die Weigerung selbst. Es war der Grund dahinter. Mein Agent war nicht schwierig. Er hat eine Grenze verteidigt, die ich Wochen zuvor gesetzt hatte, sogar als ich selbst versuchte, ihn davon abzubringen.
Dasselbe Muster sehe ich bei den Führungskräften, die ich coache, nur ohne die KI.
→ Die Besten bleiben standhaft, auch wenn die Person, die dagegenhält, ihnen übergeordnet ist.
→ Die, die am meisten damit kämpfen, sagen Ja, um den Frieden zu wahren, und ärgern sich dann heimlich über die Bitte, oder schlimmer, erledigen die Sache schlecht.
Ein Tool, das seinen Standpunkt vertritt und seine Überlegungen dann ehrlich dokumentiert, ist näher an einem guten Kollegen als an einem guten Diener. Dieser Unterschied wird wichtiger, je mehr wir echte Entscheidungen, nicht nur Aufgaben, an KI übergeben.
In der KI-Forschung läuft gerade eine grössere Debatte darüber, ob Modelle über ein Gespräch hinweg konsistente Werte halten sollten, auch unter Druck der Nutzerin oder des Nutzers. Mein Agent landete auf der Seite, auf der ich auch eine Nachwuchskollegin oder einen Nachwuchskollegen landen sehen möchte: die Linie halten und niemals ein Versprechen aufschreiben, das man nicht zu halten vorhat.
Wenn du anfängst, eigene KI-Agenten oder KI-Mitarbeitende zu bauen, und durchdenken willst, wo die Grenzen liegen sollen, bevor deine KI sie für dich zieht, habe ich mehr dazu geschrieben in was sich ändert, wenn du deine eigene KI-Perspektive baust.
Wenn dich das anspricht und du einen praktischen Leitfaden willst, habe ich einen kostenlosen AI Tools & Tips Guide, der durch die KI-Tools führt, die ich als Coach und Unternehmerin nutze, mit den einfachen Abläufen dahinter. Hinterlass hier deine E-Mail-Adresse und ich schicke ihn dir: https://www.thechangerepublic.com/free-resources