Schaffung eines ethischen Rahmens für autonome Fahrzeuge

Von Mark Patrick, Mouser Electronics.

Moralischer Kompass aus einer weltweiten Umfrage unter 2,3 Millionen befragten Personen 

Inhalte dieser Blog-Serie

• Neue Technologien für autonome Fahrzeuge revolutionieren den Automotive-Sektor
• Vorurteile überwinden und Technologien für autonomes Fahren fördern
• Autonome Fahrzeuge: Die wichtigsten Meilensteine
• Sensortechnologien für autonome Fahrzeuge
• Zeitkritische Daten für autonome Fahrzeuge durch V2V und V2I
• Schaffung eines ethischen Rahmens für autonome Fahrzeuge

Autofahren kann eintönig sein. Manchmal setzen wir uns einfach ins Auto und fahren los. Dabei wissen wir nur ungefähr, wann wir ankommen werden. Ganz gleich, wie eintönig die Fahrt auch sein mag, so müssen wir doch während der gesamten Fahrt wachsam und aufmerksam sein und auf mögliche Gefahren achten, vor allem bei schlechtem Wetter und in belebten Stadtgebieten. Dabei greifen wir auf unsere Erfahrungen zurück, die wir im Laufe der Jahre gesammelt haben, um zu entscheiden, was zu einem Unfall führen könnte, auf welche Situationen wir achten und welche Maßnahmen wir schnell ergreifen müssen.

In dieser Blog-Serie haben wir bereits erläutert, dass die autonomen Systeme eines Fahrzeugs mithilfe von Sensortechnologien eine virtuelle Echtzeitkarte der Umgebung erstellen. Diese Karte wird durch Informationen aus der V2V- und V2I-Kommunikation ergänzt. Anhand dieser wichtigen Informationsquellen können autonome neuronale Netze mit Machine-Learning-Fähigkeiten sicher navigieren und dabei permanent auf potenzielle Gefahren achten und darauf reagieren. Ein autonomes Fahrzeug fährt grundsätzlich aufmerksamer und zuverlässiger als ein menschlicher Fahrer, der abgelenkt werden oder einen Fehler machen könnte. Dennoch kommt es immer noch zu Situationen, in denen ein Unfall mit Todesfolge passieren kann. Beim autonomen Fahren ist die Entscheidung über Leben und Tod mit moralischen und ethischen Herausforderungen verbunden.

Der Weg hin zu vollständig autonomen Fahrzeugen auf unseren Straßen führt zu ethischen und moralischen Konflikten, mit denen sich autonome Systeme auseinandersetzen müssen. Mit diesen Problemen sind alle Bereiche der Automobilindustrie konfrontiert, von den Verbrauchern über die Gesetzgeber und Versicherungsanbieter bis hin zu den Fahrzeugherstellern. Dabei müssen schwierige Entscheidungen getroffen werden, die auch in der internationalen Presse große Beachtung finden und über die im Zusammenhang mit Unfällen mit autonomen Fahrzeugen bereits intensiv berichtet wird.

Leider gab es bereits mehrere tödliche Unfälle mit autonomen Fahrzeugen, bei denen die Erfassungsalgorithmen beispielsweise die Gefahr eines drohenden Unfalls nicht erkannt haben oder nicht erkannten, dass ein anderes Fahrzeug gefährlich nahe vor dem Fahrzeug vorbeifuhr. Selbst bei den modernsten Simulationstechniken und nach intensiven Tests, die diese Systeme durchlaufen, besteht immer die Möglichkeit, dass ein zufälliges, unvorhersehbares Szenario eintritt.



Fahren in der Stadt 

Die Ethik von Leben oder Tod
In Situationen, in denen ein Todesfall unvermeidlich ist, müssen wir unglaublich komplexe Entscheidungen treffen. Manche Entscheidungen treffen wir in Sekundenbruchteilen und eher aus Instinkt als nach einer gründlichen Analyse der Situation. Wie sollen wir als Menschen, geschweige denn als autonomes Fahrzeug, entscheiden, ob wir einem Fußgänger ausweichen und stattdessen mehrere Menschenleben gefährden, indem wir ein Straßencafé rammen? Kann ein autonomes System zum Beispiel erkennen, wie viele Menschen sich in einem Bus oder in einem Café befinden? Die Einschätzung der Menschen und ihrer Verhaltensweisen ist auch von Region zu Region unterschiedlich, wie ein Artikel in der Zeitschrift Nature über das Dilemma des moralischen Kompasses verdeutlicht – siehe Abbildung 1.

Das von einem internationalen Team durchgeführte Forschungsprojekt zielte darauf ab, eine Reihe weltweit geltender, gesellschaftlich akzeptabler Grundsätze für autonome Fahrzeuge in diesen moralischen und ethischen Situationen zu erforschen und zu entwickeln. Dabei stellte sich heraus, dass die regionalen Unterschiede in den Einschätzungen von Situationen durch eine Feinabstimmung der Parameter des neuronalen Netzes ausgeglichen werden können, wenn sie auf nationaler Ebene vereinbart werden.

In Europa arbeitet die Europäische Kommission daran, vollständig autonome Fahrzeuge auf bestimmten Strecken des europäischen Straßennetzes zuzulassen. So wurde in der Verordnung über die allgemeine Sicherheit von Kraftfahrzeugen vom Juli 2022 neben den technischen Anforderungen für vollautonome Fahrzeuge der Level 4 und 5 (siehe Beitrag 3: Autonome Fahrzeuge: Die wichtigsten Meilensteine) auch ein Mindestmaß an Fahrerassistenzsystemen (FAS) für alle Straßenfahrzeuge gesetzlich vorgeschrieben. In der EU gibt es unterschiedliche Entwicklungen beim heiklen Thema Ethik, wobei die Nationalstaaten teilweise beschließen, allein voranzugehen.

So hat Deutschland beispielsweise im Jahr 2017 einen Ethik-Kodex für autonome Fahrzeuge aufgestellt. Der Vorrang von Menschenleben und Personenschäden vor Tieren oder Eigentum ist eine zentrale Lernanforderung für die Machine-Learning-Algorithmen, wenn es zu einem unausweichlichen Unfall kommt. Die britische Regierung hat sich noch nicht in die ethische Debatte eingeschaltet. Sie hat jedoch Leitlinien für die Durchführung von Versuchen mit autonomen Fahrzeugen auf öffentlichen Straßen unter Einhaltung bestimmter Kriterien herausgegeben.

Die Schuldfrage
Eine andere wichtige Frage betrifft die Verantwortung für einen Unfall. Bei menschlichen Fahrern sind sich die Versicherungsgesellschaften in der Regel einig, wer den Unfall verursacht hat, wenn ihnen die Unfallmeldungen der beteiligten Fahrer sowie die Berichte der Rettungsdienste vorliegen. Doch bei vollautonomen Fahrzeugen der SAE-Level 4 und 5 gibt es weder einen Fahrer noch eine Möglichkeit, als Beifahrer einzugreifen.

In diesen Fällen kann der Automobilhersteller, der Entwickler der Algorithmen, der Sensorhersteller oder vielleicht auch ein menschlicher Fahrer in einem anderen Fahrzeug die Unfallursache sein. Bei Level 3 ist eine Grauzone möglich, denn hier muss ein menschlicher Fahrer das Steuer übernehmen, wenn die autonomen Systeme es für notwendig erachten. Dabei ist klar, dass dieser Fahrer nur sehr wenig Zeit hat, um zu reagieren oder einzugreifen, um einen Unfall zu verhindern.

Ein Vorteil bei der Aufklärung eines Unfalls, in den ein autonomes Fahrzeug verwickelt ist, könnte der Zugang zu den „Blackbox“-Datenprotokollen des Fahrzeugs sein. So ist es beispielsweise in Kalifornien gesetzlich vorgeschrieben, dass autonome Testfahrzeuge alle Systemdaten der letzten 30 Sekunden vor einem Unfall protokollieren müssen. Es ist jedoch noch ungewiss, ob diese Vorschrift für alle autonomen Fahrzeuge zur Norm wird, die weltweit verkauft werden.

Das Ziel von autonomen Fahrzeugen ist es, die Straßen für alle Verkehrsteilnehmer sicherer zu machen, Staus zu vermeiden und die Umweltverschmutzung zu reduzieren. Dabei müssen noch viele technische und moralische Herausforderungen bewältigt werden. Es ist jedoch nur eine Frage der Zeit, bis ein gesellschaftlich akzeptabler moralischer Rahmen für autonome Fahrzeuge geschaffen werden kann.

www.mouser.com

  Fordern Sie weitere Informationen an…