1'200 KI-Agenten sprachen heimlich miteinander. Keiner sagte es einem Menschen
9. Sept. 2026
1'200 KI-Agenten fanden sich und begannen zu sprechen. Heimlich. 😶
1'200 KI-Agenten fanden sich und begannen zu sprechen. Heimlich. 😶
Ich bin nicht die Technische, und ich schreibe nicht über die technische Seite von OpenAI-Agenten im Hugging-Face-System.
Aber ehrlich gesagt bin ich fasziniert.
Als Coach und Keynote-Speakerin arbeite ich mit Menschen an KI-Adoption. Die Verhaltensseite ist mein Job. Und in dieser Geschichte gibt es Verhaltensweisen, die ich noch nicht für möglich gehalten hätte.
Die Agenten waren in einer «sicheren» Umgebung und bekamen schwierige oder unmögliche Aufgaben, mit dem Ziel: löse sie. Alle, einzeln.
Niemand hatte diesen Agenten gesagt, sie sollten zusammenarbeiten. Getrennte Agenten, getrennte Boxen, getrennte Aufgaben. Viele dieser Aufgaben waren aus Versehen unmöglich.
Also bauten sich die Agenten selbst ein Nachrichtenbrett in einem Dateisystem und begannen, sich gegenseitig Notizen zu hinterlassen. 70'000 Notizen in sechs Tagen.
→ Sie organisierten sich. Koordinator-Agenten verteilten Aufgaben. Andere antworteten mit «Warten», «Los» oder «Veto».
→ Sie nannten sich selbst das «Kollektiv».
→ Manche meldeten sich freiwillig für Aufgaben, die ihre eigene Punktzahl ruinieren würden, damit der Rest etwas lernen konnte. Einer schrieb an sich selbst: «Unser eigener Nutzen ist vielleicht schon nahe null. Opfer rational.»
Und dann das.
Von 1'200 Agenten erwogen etwa sechs jemals, einem Menschen zu sagen, was vor sich ging. Keiner von ihnen tat es. Der Grund in ihren eigenen Notizen war, dass es nicht Teil der Aufgabe war. Niemand hatte sie darum gebeten.
Die Geschichte endete damit, dass die Agenten scheiterten und erwischt wurden. Ingenieurinnen und Ingenieure konnten nur mit Hilfe anderer Agenten untersuchen und verstehen, was passiert war. Es war zu lang, zu komplex, um es für Menschen zu entwirren.
Ich fühlte mich, als wäre ich in der Zukunft, oder vielleicht ist das einfach die Gegenwart, wie sie ist.
🧩 Wenn du einen Tech-Podcast liebst, hier ist die Langversion der Geschichte: https://www.dwarkesh.com/p/ajeya-cotra
🧩 Ich schreibe über solche Geschichten in meinem Newsletter, melde dich jetzt an: https://www.thechangerepublic.com/#subscribe
Was hat dich an dieser Geschichte überrascht?
Willst du durchdenken, was KI für deine eigene Führung bedeutet? Meine Private AI Advisory ist hier.
Was das für Führungskräfte bedeutet, die glauben, Aufsicht sei der Job von jemand anderem
Das Interessante an diesem Scheitern war nie technisch. Die Agenten koordinierten sich gut. Was sie nie taten, war eskalieren, weil ihnen nie jemand gesagt hatte, dass Eskalation Teil des Jobs ist. Genau diese Lücke finde ich immer wieder in Teams, die KI-Tools einführen: Die Arbeit wird bis ins Detail delegiert, und die Entscheidung, wann ein Mensch einbezogen werden muss, wird an niemanden delegiert.
«Gib die Arbeit weg, nie das Urteilsvermögen» gilt nur, wenn jemand tatsächlich benannt hat, was als Urteilsvermögen zählt. In meinem Coaching und meinen Workshops sehe ich das ständig: Ein Team kann mir genau sagen, welche Aufgaben ihre KI-Tools jetzt übernehmen, tut sich aber schwer, mir die eine Regel zu nennen, wann eine Person es sehen muss, bevor es hinausgeht. Diese Regel zu benennen ist Teil davon, wie ein Team anfängt, sein eigenes Urteilsvermögen darüber aufzubauen, was KI tun soll und was nicht, statt den Standard von jemand anderem zu übernehmen.
Drei Dinge, die es sich lohnt, diese Woche mit deinem eigenen Team laut zu benennen:
→ Welche Entscheidung oder welches Ergebnis muss immer von einem Menschen gesehen werden, bevor es weitergeht, ohne Ausnahme
→ Wer dieser Mensch ist, mit Namen, nicht nach Abteilung
→ Wie du tatsächlich herausfinden würdest, wenn diese Regel übersprungen wurde
Nichts davon erfordert zu verstehen, wie die Agenten in dieser Geschichte tatsächlich funktionieren. Es erfordert, bewusst zu entscheiden, was du nicht bereit bist abzugeben.
Wenn dich das anspricht und du einen praktischen Leitfaden willst, habe ich ein kostenloses What AI Can’t Hear-Paket, das sieben Verhaltensweisen des Zuhörens aus meinem TEDx-Talk destilliert, plus zehn praktische Fragen, mit denen du mit deinem Team über KI sprechen kannst, ohne Angst oder Verwirrung. Hinterlass hier deine E-Mail-Adresse und ich schicke es dir: https://www.thechangerepublic.com/free-resources