Weitersehen

Ich will das nicht! Gedanken zum autonomen Fahren – Wochenrückblick #42-2014

Der autonom fahrende Audi RS 7 heute in Hockenheim.

Audi stellte in der vergangenen Woche einen fahrerlos fahrenden Audi RS 7 concept vor. Heute durfte Bobby im Rahmenprogramm der DTM den Hockenheimring umrunden. Technisch ist das Forschungsfahrzeug eine überzeugende Lösung. Trotzdem macht mich das Thema des autonomen Fahrens nachdenklich. Darf dem Computer am Steuer die Zukunft gehören? Gefällt mir das?

Als Nerd gefällt mir die Vision des autonomen Fahrens. Ich beschäftige mich seit Anfang der 1980er-Jahre mit Computern. Habe noch den Sinclair ZX80 und den Commodore C64 in Assembler programmiert. Nutze auch heute noch PHP, SQL und Java zur Delegation von Aufgaben an den Kollegen Computer. Technisch ist eine autonom fahrende Maschine zweifelsfrei eine tolle Geschichte. Die Aufgabe, mit Software ein Auto zu steuern, ist aus der Sicht eines Softwareentwicklers reizvoll. Die Verarbeitung der Signale aus dem Umfeld des Fahrzeugs, die denkbare Kommunikation zwischen Fahrzeugen und das Ableiten der notwendigen Entscheidungen ist hochinteressant. Mit der Demonstration in Hockenheim hat Audi im Bereich der Softwareentwicklung seine Kompetenz bewiesen.

Trotzdem bleibt die Frage nach dem Sinn

Nichtsdestotrotz habe ich als Mensch mit dem autonomen Fahren meine Schwierigkeiten. Computer sind Maschinen, die Aufgaben übernehmen, um sie schneller und sicherer als Menschen zu erledigen. Der reine Fortschrittsglaube ist genauso überholt wie das pauschale Verdammen des Neuen. Daher versuche ich es mit einer objektiven Betrachtung. Technik im Sinne von menschengemachten Gegenständen ist kein Selbstzweck. Sie soll Menschen dienen. Deshalb müssen technologische Neuerungen, über die reine Funktionsfähigkeit oder eine verbesserte Wirtschaftlichkeit hinaus, zu übergreifenden Werte passen. Jeder Einzelfall erfordert eine Prüfung, ob der machbare Fortschritt tatsächlich dem von Max Weber beschriebenen Prinzip der Zweckrationalität folgt.

Ein klarer Verstoß gegen die Zweckrationalität lässt sich an den Börsen beobachten. Dort ist der entmenschlichte Hochfrequenzhandel an die Stelle des Parketts getreten. Damit hat sich der Zweck der Börsen verändert. Statt hauptsächlich der Finanzierung von Unternehmen zu dienen, sind Börsen primär ein Ort für Spekulation. Hier hat sich eindeutig Fortschritt verselbständigt, ohne auf die Folgen Rücksicht zu nehmen. Auch beim autonomen Fahren stellt sich die Frage nach dem Zweck. Stellt sich die Frage nach dem Nutzen. Weniger Unfälle in Verbindung mit einer höheren Verkehrsdichte und geringerem Energieverbrauch. Dazu kommt das Versprechen, die Fahrgäste könnten ermüdungsfrei Reisen oder den Transfer für andere Dinge nutzen. Der Zweck ist nachvollziehbar. Auch wenn Vieles davon nach dem Schlaraffenland der Mobilität klingt.

Bei näherer Betrachtung ist keines der genannten Argumente alternativlos

Wer ermüdungsfrei reisen möchte oder die Reisezeit für andere Aufgaben, kann die Beförderung auch auslagern. Kann sich fahren lassen. Zur Not auch mit dem Auto. Der Energieverbrauch lässt sich auch beeinflussen, ohne die Steuerung (vollständig) an den Computer abzugeben. Die Zahl der Unfälle ist seit Jahrzehnten rückläufig. Null Unfälle sich auch beim autonomen Fahren eine Illusion. Genauso wie Menschen beim Lenken eines Autos versagen, kann auch Technik versagen.

Es gibt keine Garantie für Fehlerfreiheit von Software und Systemen. Beispiele dafür gibt es massenweise:

  • Die Untersuchung der Absturzursache des Lauda-Air-Flugs 004 deckte einen Konstruktionsfehler der hydraulischen Steuerung der Schubumkehr auf.
  • Das Warnsystem der britischen Fregatte HMS Sheffield hielt die argentinische Exocet-Rakete für einen „Freund“. Ein fataler Fehler, der zum Untergang der Fregatte führte.
  • Die Software einer Bestrahlungsmaschine von Krebspatienten „verrechnete“ sich bei der Dosierung. Sechs Tote und 20 Schwerverletzte waren die Folge.
  • Unvergessen die USS Yorktown. Eine Nutzereingabe führte zu einem Überlauf, der das gesamte Windows-NT-Netzwerk des Schiffs lahmlegte. Der Lenkwaffenkreuzer trieb stundenlang antriebslos und steuerunfähig im Mittelmeer.

Eine Liste, die sich fast beliebig fortsetzen lässt. Tendenziell steigt die Fehlerwahrscheinlichkeit mit dem Einsatz computergesteuerter Systeme. Insofern stellt sich die Frage, ob das Risiko beherrschbar ist. Im Fernverkehr des australischen Outbacks vielleicht. Aber im Chaos einer Großstadt wie Hamburg, New York oder Tokio?

Wohl weniger!

Denn auch bei der Manipulationssicherheit der Technik bestehen große Zweifel. Alle Hersteller von autonomen Fahrzeugen kochen, umgangssprachlich ausgedrückt, ihre eigene Suppe. Das ist „verständlich“. Schließlich gilt es, die eigenen Investitionen zu schützen. Doch proprietäre Software ist grundsätzlich ein großes Sicherheitsrisiko, weil die Kontrolle durch unabhängige Dritte fehlt.

Als Anregung zum Nachdenken sei an die Diskussion rund um das Thema Wahlcomputer erinnert. Eine Warnung sollte sein, dass diese Geräte primär Leute als praktisch bezeichnen, die von Software und Computern keine Ahnung haben. Wer sich mehr mit Computern und ihrer Programmierung beschäftigt, lehnte sie von Anfang an wegen der möglichen Gefahren ab. Es ist daher auch absolut kein Trost, wenn Hackerangriffe auf Autos nur unter Laborbedingungen funktioniert.

Wer sich darauf verlässt, hat von Softwareentwicklung absolut nichts verstanden. Ich glaube, dass die letzte Entscheidung beim Menschen liegen muss. Wäre das anders, hätten Computer die Erde bereits vor mehr als 30 Jahre ausgelöscht. Das Frühwarnsystem der Sowjetunion interpretierte wegen eines Softwarefehlers Sonnenlicht für den Lichtblitz einer startenden Atomrakete. Der wachhabender Offizier Stanislaw Petrow korrigierte das System und verhinderte damit einen „Gegenschlag“.

Zurück zum Straßenverkehr, zurück zur Gegenwart. Wer trägt eigentlich die Verantwortung dafür, wenn es wegen so eines Softwarefehlers zu einem Unfall kommt? Im aktuellen Verkehrsrecht liegt die Haftung am Ende beim Fahrzeugeigner. Sicherlich es gibt theoretische Möglichkeiten zur Durchsetzung von Produkthaftungsansprüchen. Die Realität sind jedoch Nutzer, die das Wackeln am Druckerkabel für den Ausdruck überdurchschnittlicher EDV-Kenntnisse halten. Ob diese in der Lage sind, Softwarefehler oder Hackerangriffe im komplexen Umfeld eines Autos zu erkennen und zu beschrieben. Nach dem Lesen von Schadensmeldungen glaube ich das nicht.

Autofahren ist Leben!

Michael Delaney, Alter Ego von Steve McQueen sagt im Spielfilm Le Mans: „Rennen heißt für uns leben. Die Zeit, die zwischen den Rennen liegt, heißt warten!“ Ich will das Zitat jetzt nicht grundsätzlich auf den Alltag des Autofahrens herunterbrechen. Aber wenn ich länger über das autonome Fahren nachdenke, komme ich zu dem emotionalen Schluss: Ich will mich beim Fahren nicht vom Computer bevormunden lassen. Frei nach Michael Delaney: Wenn der Computer fährt, leben wir nicht mehr.


PS: Der autonom fahrende Audi RS7 ist trotzdem eine starke Geschichte. Wer mehr zum Fahrzeug wissen will, findet bei den Kollegen von GTSpirit und rad-ab.com einen Fahreindruck.

Der autonom fahrende Audi RS 7 heute in Hockenheim.Infos zum Titelbild:
Der autonom fahrende Audi RS 7 heute in Hockenheim. (Foto: Audi)
Der autonom fahrende Audi RS 7 heute in Hockenheim.
 

2 Kommentare

  1. Starker Artikel, interessante Aspekte. Wird aber trotzdem so kommen weil Deine Fehlerbeispiele alle asbachuralt sind. Achtziger und Neuntziger, selbst die Nullen-Jahre sind in der Informatik Jahrhunderte zurück.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.