Wie gefährlich sind Autopiloten?

Sönke Paulsen, Berlin

Über achtzig Prozent der Flugunfälle sollen auf menschlichem Versagen beruhen. Man möchte es glauben, wenn man die blöden Fehler anschaut, die Piloten im Cockpit immer wieder unterlaufen. Allerdings gibt es einen  Wettkampf zwischen elektronischen Systemen und den Piloten, um die Oberherrschaft im Cockpit! Sehen wir eine solche Entwicklung auch bald in unseren Autos?

Als mir bei meinem Sportflugzeug die elektrische Trimmung kurz nach dem Start, unkontrollierbar, in die maximal kopflastige Position lief und sich nicht zurückstellen ließ, war es beinahe um mich geschehen.

Der Flieger rüttelte gegen die Position des Höhenruders an und wollte unbedingt nach unten. Die Geschwindigkeit nahm bedenklich zu und ich sah den Wald unter mir immer differenzierter. Am Ende sah ich einzelne Bäume auf mich zukommen.

Für das Rettungssystem war ich vermutlich schon zu niedrig und ich könnte diesen Absatz wohl jetzt nicht schreiben, wenn mir nicht der Einfall gekommen wäre, die defekte Trimmung auf den Co-Piloten-Sitz umzustellen und am neben mir liegenden Steuerknüppel zu normalisieren.

Das ist jetzt schon viele Jahre her. Ähnlich gefährliche Situationen habe ich aber öfter erlebt. So, als wir beim Start in eine Wirbelschleppe gerieten und der Flieger rechts abkippte. Mein Fluglehrer tat genau das, was er mir eingeschärft hatte, niemals zu tun, wenn das Flugzeug über einen Flügel abkippt. Er hielt mit Querruder dagegen und nicht mit dem Seitenruder. Nun, es ist gut gegangen.

Gut gegangen ist auch eine Begegnung mit einer „blinden Cessna“ bei Echo, mit der ich kurz Flügel an Flügel flog und gerade noch abdrehen konnte. Nicht zu vergessen natürlich meine Flugprüfung, in der mich der Prüfer bei Fallschirmsprung-Betrieb über den Platz zur Ziellandung schickte. In 2500 Fuß sah ich einen Springer direkt vor unserem Propeller herunterkommen.

Der Mensch ist ein gefährliches Tier, insbesondere, wenn er ein Flugzeug steuert. Aber rechtfertigt das eine immer komplexere Technik, die inzwischen auch bei Privatfliegern Einzug hält und die General Aviation seit Jahrzehnten dominiert?

Sicher haben wir „Kaffeeflieger“ vor allem ein Problem. Den Trainingsmangel! Der lässt sich auch mit den besten elektronischen Helfern nicht ausgleichen. Auch nicht mit Autopiloten, für die die Regel gelten sollte, dass man sie nicht nur richtig verstehen und bedienen können muss, sondern auch, dass man alle Flugmanöver des AP als Pilot besser können sollte. Der Autopilot kann einen nicht retten, höchstens ins Verderben schicken.

Ein Beispiel aus der Verkehrsfliegerei, als in den späten Siebzigern die chinesische Crew eines Jumbos nicht verstanden hat, dass der Autopilot nur die Querruder ansteuert und beim Abkippen des Flugzeuges, in diesem Fall verursacht durch einen Triebwerksausfall in großer Höhe, der Pilot selbst mit dem Seitenruder gegenhalten muss. So einfach und banal und trotzdem hat der Flugkapitän es nicht getan. Die 747 trudelte fast bis zum Aufschlag in den Pazifik, ehe die Crew sie, schwer beschädigt, unter Kontrolle bekam.

Die Arbeitsteilung zwischen Mensch und komplexer Technik funktioniert gerade in Krisensituationen äußerst schlecht. Nicht selten löst die Technik die Krise erst aus. Manchmal behält sie dann die Oberhand und bringt die Menschen um.

Doppelte Verunsicherung durch zwei Systeme?

Doppelt angelegte Systeme sind auf den ersten Blick sicher, aber nur auf den ersten Blick. Wenn ein Geschwindigkeitsmesser falsch läuft und der zweite noch richtig funktioniert, welchem soll man glauben? Im Falle des Birgenair-Absturzes einer Boeing 757-200 hatte der Pilot sogar die richtige Entscheidung getroffen und letztlich eine zu niedrige Geschwindigkeit im Steigflug korrigiert. Was aber, wenn der Autopilot in dem Augenblick eingreift und den Anstellwinkel des Flugzeuges, über die Trimmung, erhöht? Es kam zum Strömungsabriss am linken Triebwerk. Das Flugzeug kippte ab und stürzte ins Meer. Der Autopilot hatte gesiegt und alle 189 Insassen umgebracht. Komischerweise kam das nicht so richtig in die Medien und man hatte damals den Eindruck eines Pilotenfehlers. Hätte er doch nur den Autopiloten deaktiviert. Aber ging das so einfach? Im Unfallbericht liegt nahe, dass der Autopilot erneut eingegriffen hatte. War das, mit dem Erkenntnisstand der Piloten zu diesem Zeitpunkt, zu verhindern?

Sowohl der Abschlussbericht, als auch eine filmische Dokumentation zählen die Fehler des Kapitäns auf und vergessen dabei eines. Nicht der Kapitän, sondern der Autopilot hatte infolge eines verstopften Geschwindigkeitsmessers verrückt gespielt. Es war ein Kampf mit der Technik, die das Flugzeug in den überzogenen Flugzustand zwingen wollte, während der Pilot bereits festgestellt hatte, dass die überhöhte Geschwindigkeit auf dem defekten Messgerät nicht stimmen konnte („das ist unwichtig“ war die Reaktion des Kapitäns auf die Warnung vor überhöhter Geschwindigkeit, eine korrekte Einschätzung). Aber der Autopilot gab nicht auf und hat sich erst abgeschaltet, als das Flugzeug in einen instabilen Flugzustand geraten war. Da war es bereits zu spät.

Der Abschlussbericht wurde damals kritisiert, weil er viele Fehler und Verwechselungen enthielt. Aber ein Faktum kam in der Kritik nicht richtig vor. Die amerikanische Luftsicherheitsbehörde hatte sich in die Untersuchungen eingeschaltet und ihre eigene Version vom Unfall durchgesetzt. Zum damaligen Zeitpunkt befand sich die  B-757 in der Phase der Markteinführung. Hatte das Einfluss auf Einschätzung der NTSB? Das wäre der Crew gegenüber sehr unfair gewesen.

Noch gemeiner sind die jüngsten Boeing-Abstürze mit der 737 Max 8. Ein System das in den Anstellwinkel des Flugzeuges eingreift, um ein bauartbedingtes Überziehen zu verhindern, wurde zwei Maschinen zum Verhängnis. Die Fehlfunktion einer Messsonde wurde von dem System nicht erkannt und die Nase des Flugzeuges nach unten gedrückt. Bis zum Absturz! Die Piloten waren machtlos, denn die Existenz dieses MCAS-Systems wurde von Boeing verschwiegen, um entsprechende Nachtrainings für die Piloten der betroffenen Airlines nicht durchführen zu müssen. Auch hier war die Technik das böse Tier, das allerdings von ebenso bösen Menschen auf ahnungslose Piloten losgelassen wurde. Ein texanisches Gericht behauptete in einem  Urteil im Oktober 2022, „dass es ohne eine kriminelle Verschwörung bei Boeing nicht zu den Abstürzen gekommen wäre.“

Man fragt sich also, ob die automatisierte Technik bei Untersuchungen von Flugunfällen die bessere Lobby hat, als die Piloten. Wie kommt es zu der Einschätzung, dass menschliches Versagen die Absturzursache war, wie die Untersuchung des Birgenair-Absturzes nahelegt. Es kann nur so interpretiert werden, dass die Technik als gesetzt gilt und der Mensch sich daran unter jeden Umständen anpassen muss. Es kann auch schlimmer interpretiert werden, dass die Technik keine Verantwortung trägt, sondern der Mensch. Dann ist jeder Absturz Folge eines menschlichen Versagens!

Auch der Mensch ist ein automatisiertes System, das zu Fehlfunktionen neigt

Man kann darüber klagen, dass die Automatisierung uns in immer größere Nöte bringt und Piloten können oft die Komplexität ihrer Flugzeuge nicht mehr erfassen. Allerdings sind wir selbst sehr komplexe und fehleranfällige Systeme, was, ich auch in diesem kleinen Diskurs nicht aussparen möchte. Ein Punkt ist, dass das Gehirn sich gerne Pausen nimmt und manchmal zu unpassender Zeit. Man kann das auch als kurze Konzentrationseinbrüche bezeichnen, wo die Aufmerksamkeit für Sekunden ganz weg sein kann. Das ist ein Problem.

Ich habe so etwas in meinem UL zweimal gehabt. Einmal im Steigflug, wo ich während eines kurzen Aufmerksamkeitseinbruches das Gas rausgenommen habe, um es dann fünf Sekunden später wieder reinzudrücken. Länger hätte ich auch nicht warten dürfen. Ein anderes Mal habe ich mir beim Landen die Geschwindigkeit weggezogen und wäre wohl zu Boden geplatscht, wenn mein Fluglehrer nicht eingegriffen hätte.

Solche schwarzen Löcher in der Aufmerksamkeit scheint es auch bei professionellen Piloten zu geben. Der Airfrance-Flug 447 ist letztlich deshalb abgestürzt, weil der Copilot des Airbus während mehrerer Minuten das Höhenruder maximal gezogen hielt und es nicht bemerkte. Bei den Fly-By Wire Sticks von Airbus reicht schon eine kleine Bewegung aus, um das Höhenruder in Maximalposition zu bringen.

„Your time is up“

Wer Berichte von Flugunfällen intensiver verfolgt, was ich schon seit Langem tue, bekommt einen beunruhigenden Eindruck von der Automatisierung im Cockpit. Immer wieder erkennt man Piloten die einen entspannten Routineflug, dank Autopilot, erwarten und ihre Reaktionsbereitschaft entsprechend herunterfahren. Dann plötzlich werden sie mit Warnanzeigen konfrontiert, die sehr schnell eskalieren, weil alle Systeme im Cockpit inzwischen mit Warnfunktionen und automatisierten Gegenmaßnahmen daherkommen. Wo vorher gemütliche Entspannung herrschte, steigt der „Workload“, die Arbeitsbelastung der Piloten, innerhalb von Sekunden exponentiell an. Das überfordert jedes Gehirn. Die kurzen Zeiträume die zur Verfügung stehen um solche Probleme zu analysieren und die richtigen Entscheidungen zu treffen, führen zu extremem Stress und einer typischen Reaktion des Gehirns. Den kognitiven Tunnelblick, eine krampfhafte Fokussierung auf ein Problem, wo eigentlich Aufmerksamkeitsteilung und Überblick gefragt sind. Dann heißt es in manchen Fällen für die Piloten „your time is up“ (deine Zeit ist um) und es folgt der Unfall.

Nach fast jedem größeren Absturz gibt es neue Erkenntnisse darüber, was im Zusammenspiel von Mensch und Technik nicht funktioniert hat. Dann wird in aller Regel mit neuen Automatisierungsversuchen darauf reagiert. Manchmal werden auch nur die Handbücher verändert oder die Piloten werden auf die jeweilige Gefahrensituation trainiert. Dafür gibt es zum Glück Flugsimulatoren. Allerdings bleibt das Fliegen eine Routinesituation und die angelernten Verhaltensstrategien sind oft nur oberflächlich im Gehirn verankert.

Was macht man in großer Höhe, wenn der Autopilot auf „Alternate Law“ umschaltet und dem Piloten die Steuerung übergibt, weil man durch ein Gewitter fliegt? Der Unfall der Airfrance 447 hat gezeigt, dass die Piloten solche Situation nicht trainiert hatten.

Bei Airbus wirken die Steuersticks ohnehin wie ein Alibi, das dem Piloten ein Gefühl von Kontrolle über die Maschine vermittelt. Ein Gefühl für den Flugzustand des Flugzeuges vermitteln diese Sticks ganz sicher nicht. Im Falle von Airfrance 447 wird im Unfallbericht vermutet, dass echte Steuerhörner, die miteinander verbunden sind, ein solches unbewusstes Überziehen des Höhenruders wahrscheinlich verhindert hätten. Für Airbus steht so etwas aber nicht zur Diskussion. Airbus will möglichst voll automatisiert fliegen. Man hat den Eindruck, dass der Konzern dafür auch menschliche Opfer in Kauf nimmt. Piloten und Besatzung, aber auch die Fluggäste werden so schnell zu Versuchskaninchen.

Ganz ähnliche Probleme mit Autopiloten bei Tesla

Im Straßenverkehr sollen Autopiloten ebenfalls ihren Siegeszug noch vor sich haben. Tesla hat den Anfang gemacht und die Luxushersteller ziehen nach. Nur, die Unfallstatistik von Tesla ist gruselig. Auch hier gibt es Beispiele, wie die Kommunikation von Mensch und Technik überhaupt nicht funktioniert. Hauptproblem: Die Autopiloten erkennen nicht, wenn sie sich irren. Sie machen so weiter, wie sie programmiert sind. Der Fahrer muss eingreifen.

So hielt der Autopilot eines Teslas kürzlich einen LKW, der quer über die Straße fuhr, für ein hochhängendes Verkehrsschild. Der Autopilot bremste nicht und krachte voll hinein. Der Fahrer griff nicht ein. Ähnliche Unfälle ereigneten sich mit unklaren Spurbegrenzungen in Baustellen und Betonhindernissen, die nicht erkannt wurden. Teslafahrer verlassen sich auf ihre Autopiloten und reduzieren ihre Aufmerksamkeit im Verkehr. Außerdem kennen sie häufig nicht die Grenzen, dieser angeblichen künstlichen Intelligenz. Dann gibt es ähnliche Probleme, wie in der Luftfahrt.

Die Antwort ist denkbar einfach, auf diese anfällige Technik zu verzichten. Am längeren Hebel aber sitzt letztlich die Autoindustrie. Wenn diese sich so verhält, wie die Luftfahrtindustrie, werden wir über kurz oder lang unsere eigenen Autos nicht mehr sicher fahren können.