Vier fehlende Bolzen. Was ein Flugzeugunglück über KI-Agenten lehrt

Der Journalist und Unternehmer Detlef Korus hinterfragt exklusiv für die BERLINboxx jede Woche den Umgang mit KI im Unternehmensalltag.

von Detlef Korus

KI-Agenten erledigen inzwischen Arbeit, für die Sie früher einen Fachmann gebraucht hätten. Das ist die gute Nachricht dieser Woche. Die schlechte steckt in einem Flugzeugrumpf aus dem Jahr 2024.

Boeing-Türstopfen: der Fehler, den keiner aufgeschrieben hat

Am 5. Januar 2024 reißt über Portland in Oregon, in rund 4.900 Metern Höhe, ein Stück aus der Kabinenwand einer Boeing 737 Max 9 von Alaska Airlines. Es ist ein sogenannter Türstopfen, eine Abdeckung, die einen nicht benötigten Notausgang verschließt. Die Maschine landet sicher, einige Passagiere werden leicht verletzt.

Die US-Unfallbehörde NTSB hat den Fall 2025 abschließend untersucht. Im Werk war der Stopfen für eine Nacharbeit herausgenommen worden. Beim Wiedereinsetzen fehlten danach die vier Bolzen, die ihn halten. Weil niemand den Ausbau dokumentiert hatte, prüfte auch niemand den Einbau. Die Bolzen wurden nie gefunden.

Gearbeitet hatten alle. Aufgeschrieben hatte es keiner.

KI-Agent: Programmieren müssen Sie nicht

Warum erzähle ich Ihnen das in einer KI-Kolumne? Weil gerade sehr viele Menschen anfangen, Arbeit an Maschinen abzugeben. Ein KI-Agent ist ein Programm, das selbst handelt: Er öffnet Webseiten, liest Ihre Dateien, schreibt Mails. ChatGPT, Claude und Gemini haben solche Funktionen inzwischen eingebaut. Programmierkenntnisse brauchen Sie dafür keine. Sie fangen mit einer Frage an, geben Fotos, Dokumente und Hintergrund dazu und lassen den Agenten machen.

Felix Rieseberg, Entwickler beim KI-Anbieter Anthropic, wollte vor dem Umzug wissen, ob seine Möbel ins neue Haus passen. Der Grundriss vom Makler hatte keine Maße. Der Agent fand in der Baugenehmigung die Maße der Garage, rechnete daraus den Maßstab hoch und baute ein 3D-Modell, durch das man gehen und in dem man Möbel verschieben kann. Die Möbelmaße holte er sich aus alten Bestellbestätigungen im Postfach.

Der Softwareentwickler Manthan Mallikarjun ließ seinen Agenten einen VW Golf R kaufen. Der Agent suchte Autohäuser in Kalifornien, fand selbst heraus, wer dort den Verkauf leitet, und schrieb rund 20 Mails. Am Ende lag der Preis über 2.000 Dollar unter dem Listenpreis.

Nach demselben Muster lesen Sie mit einem Diagnosestecker für wenige Dutzend Euro den Fehlerspeicher Ihres Autos aus und lassen sich den Code erklären, bevor Sie in die Werkstatt fahren. Oder Sie lassen sich einen Arztbefund in verständliche Sprache übersetzen, damit Sie im nächsten Gespräch die richtigen Fragen stellen.

Menschliche Aufsicht: wo die Bolzen fehlen

Jetzt das Kleingedruckte. Mallikarjun schreibt selbst, er habe die Mails seines Agenten vor dem Versand nicht wirklich gelesen. Die meisten Händler lehnten ab. Den Erfolg nennt er Glück mit dem richtigen Zeitpunkt. Rieseberg sagt, der Ansatz tauge für mühsame Aufgaben, deren Ergebnis man leicht prüfen kann. Das Urteil, ob die Richtung stimmt, behielt er bei sich.

Der Forscher Johannes C. Zeller rät diese Woche im US-Magazin Skeptic, Agenten bei unumkehrbaren Schritten nie freie Hand zu lassen. Eine zweite KI, die der ersten zustimmt, ist für ihn keine unabhängige Bestätigung.

Das ist die Lehre aus dem Türstopfen. Der Agent arbeitet schnell. Ob er etwas ausgebaut hat, das wieder hinein muss, sehen Sie nur, wenn er es aufschreibt und Sie es lesen.

KI-Agent ausprobieren: Ihre Aufgabe fürs Wochenende

Probieren Sie es aus, und zwar so:

1. Wählen Sie eine Aufgabe, die Sie seit Wochen vor sich herschieben und deren Ergebnis Sie selbst prüfen können. Ein Angebotsvergleich, die Nebenkostenabrechnung, die Einrichtung des Arbeitszimmers.
2. Geben Sie dem Agenten alles, was ein neuer Mitarbeiter am ersten Tag bräuchte: Fotos, Unterlagen, Ihr Ziel in zwei Sätzen.
3. Verlangen Sie ein Protokoll. Was hast du getan, woher stammt jede Zahl, was ist offen?
4. Was Ihr Haus verlässt, geben Sie selbst frei. Jede Mail, jede Bestellung, jede Zahlung.

Schreiben Sie mir, welche Aufgabe Sie abgegeben haben und was der Agent dabei übersehen hat, an Bitte Javascript aktivieren!oder auf LinkedIn. Die lehrreichsten Fälle greife ich in einer der nächsten Kolumnen auf, ohne Namen.

Meine Frage an Sie für diese Woche: Wer zählt in Ihrem Betrieb die Bolzen, wenn die Maschine die Arbeit macht?

Ich wünsche Ihnen maximal produktive Denkzeit, dank oder trotz KI, wie immer Sie sich entscheiden.