11. April 2019

„Automatisierte Systeme trinken nicht“

Ex-Verfassungsrichter Udo Di Fabio beantwortet die wichtigsten Fragen zum automatisierten Fahren.

5 Minuten

Das renommierte Fraunhofer Institut schätzt, dass wir 2030 einen Großteil unserer Fahrten automatisiert zurücklegen. Das heißt, das Auto übernimmt das Fahren, wir relaxen dabei. Doch wer hat dann die Verantwortung, wer haftet, und wollen wir das überhaupt? Professor Dr. Dr. Udo Di Fabio, zwölf Jahre lang Richter am Bundesverfassungsgericht, beantwortet die wichtigsten Fragen zum automatisierten und vernetzten Fahren. Als Vorsitzender der 14-köpfigen Ethik-Kommission „Automatisiertes und vernetztes Fahren“ des Bundesverkehrsministers hat der Jurist die Formulierung ethischer Regeln für den Fahrzeugverkehr der Zukunft maßgeblich mitgestaltet und vorangetrieben.

Ethik-Kommission zum automatisierten Fahren

Am 30. September 2016 konstituierte sich die vom Bundesminister für Verkehr und digitale Infrastruktur eingesetzte Ethik-Kommission Automatisiertes und Vernetztes Fahren – eine interdisziplinär ausgerichtete, plural besetzte und unabhängige Expertenkommission unter der Leitung des früheren Bundesverfassungsrichters und jetzigen Bonner Universitätsprofessors Dr. Dr. Udo Di Fabio. Der Auftrag der Kommission lautete, „die notwendigen ethischen Leitlinien für das automatisierte und vernetzte Fahren zu erarbeiten“. Den Bericht der Ethik-Kommission finden Sie hier zum Download

Herr Professor Di Fabio, 91 Prozent aller erfassten Unfallursachen beruhen auf Fehlern der Verkehrsteilnehmer. Menschliches Versagen ist also der Hauptgrund für Verkehrsunfälle und menschliches Leid. Glauben Sie, dass automatisiertes Fahren Verkehrstote und Verletzte komplett verhindern kann?

Kein Mensch ist fehlerfrei, aber auch keine Maschine. Dennoch machen Assistenzsysteme bereits heute das Fahren sicherer. Hoch- und vollautomatisierte und erst recht fahrerlose Fahrzeuge werden nur in den Straßenverkehr gelangen dürfen, wenn sie eindeutig sicherer sind als menschliche Fahrer.

Niemand erwartet in Zukunft einen komplett unfallfreien Verkehr, aber doch eine deutliche Verminderung der im Straßenverkehr Getöteten und Verletzten.

Was genau macht automatisierte Fahrzeuge sicherer als von Menschen gelenkte Autos?

Automatisierte Systeme trinken nicht, halten sich strikt an Verkehrsregeln, sie werden nicht müde und selbst wenn sie SMS lesen, lenkt sie das nicht vom Fahrgeschehen ab.

In vielen Punkten ist die nüchterne Technik den Menschen überlegen, aber Fahrerinnen und Fahrer verfügen auch über assoziative und intuitive Fähigkeiten, die von Algorithmen nicht so einfach kopiert werden können. Auf längere Sicht werden lernende Systeme aber wohl die Oberhand bekommen.

Automatisierte Systeme trinken nicht, halten sich strikt an Verkehrsregeln, sie werden nicht müde und selbst wenn sie SMS lesen, lenkt sie das nicht vom Fahrgeschehen ab.

Wie werden automatisierte Fahrzeuge für potenzielle Gefahrensituationen programmiert? Wie soll ein Auto zum Beispiel reagieren, wenn ein Kind auf die Straße läuft und nur die Alternative besteht, das Kind zu überfahren oder auszuweichen und dabei in eine Gruppe (älterer) Menschen zu steuern?

Jede Technik ist ausgelegt, Schäden zu vermeiden. Wenn sich Unfallsituationen dennoch ergeben, steht der Schutz von Menschen ganz oben, rechtfertigt also auch Regelübertretungen und die Inkaufnahme von Sachschäden. Wenn sich Personenschäden nicht vermeiden lassen, darf nicht nach einer für die Technik erkennbaren persönlichen Qualität wie Alter, Geschlecht, Hautfarbe unterschieden werden.

Eine Programmierung beispielsweise von Fahrtrichtungsänderungen in Richtung eines betagten Menschen, um ein Kind zu retten, das in der ursprünglichen Fahrrichtung steht, ist ethisch untersagt. Eine Aufrechnung von Opfern ebenfalls. Eine Programmierung bei unausweichlichen Kollisionslagen auf eine geringere Zahl von verletzten Menschen kann aber vertretbar sein.

Künstliche Intelligenz ist zentraler Bestandteil des automatisierten Fahrens. Wie funktioniert so ein selbstlernendes System?

Herkömmlich braucht man Daten und eine feststehende Programmierung, um mit Wahrscheinlichkeitsrechnungen probate Modelle der Wirklichkeit zu generieren. Das Besondere an neuen Formen Künstlicher Intelligenz liegt darin, dass ein System nicht mehr eins-zu-eins programmiert, sondern trainiert wird. Das System wird mit Trainingsdaten gefüttert, kann dabei auch menschliches Fahrverhalten „beobachten“ und dann selbst im Umgebungskontakt reagieren.

Die sogenannte neuronale Struktur führt dazu, dass Programmierer zwar Eingabemuster vorgeben und Ergebnisse kontrollieren können, aber nicht mehr wissen, was exakt an Datenbeständen wie genau verarbeitet wird. Die Ethik-Kommission „Automatisiertes und vernetztes Fahren“ hat deshalb die Notwendigkeit einer unabhängigen Überwachungsstelle hervorgehoben, die etwa mit Szenarienkatalogen laufend evaluieren und Änderungen verfolgen kann.

Wenn ein automatisiert fahrendes Fahrzeug einen Unfall baut, wer trägt die Verantwortung?

Verantwortung trägt immer derjenige, der Entscheidungsfreiheit und Handlungsherrschaft besitzt. Wer handelt, haftet. Solange Assistenzsysteme menschliche Fahrer nur unterstützten, haftet der Hersteller zwar für das Funktionieren des Fahrzeugs, ansonsten bleibt es bei Fahrer- und Halterhaftung.

Das vor einiger Zeit veränderte Straßenverkehrsgesetz erlaubt es, dass sich der Fahrzeugführer bei hoch- oder vollautomatisierten Fahrfunktionen von der Fahrzeugsteuerung abwenden darf. Dann haftet der Fahrer oder die Fahrerin nur noch im Rahmen der Pflicht zur Wahrnehmungsbereitschaft. Ansonsten geht die Haftung und auch strafrechtliche Verantwortung dann konsequent auf Hersteller oder Betreiber über.

Vorschläge, das Fahrzeug selbst wegen seiner Fahrkünste zum Rechtssubjekt zu erheben, halte ich für einen rechtspolitischen Irrweg.

Handy, Computer – alles Digitale lässt sich hacken. Welche Gefahren sehen Sie für die Systeme automatisierter Fahrzeuge? Und welche Konsequenzen folgen daraus?

Wenn in Zukunft Fahrzeuge massenhaft vollautomatisiert oder fahrerlos unterwegs sind, wird das nur durch Vernetzung zu den erhofften Sicherheits- und Mobilitätsgewinnen führen. Das aber schafft eine Risikolage von gesamtgesellschaftlicher Dimension, wenn wir nicht nur an private Hacker, sondern auch an neue Methoden zwischenstaatlicher Angriffe bis hin zu methodischer Kriegsführung denken.

Beim Ausbau der Atomenergie hat man sehr leidenschaftlich darüber diskutiert, ob eine solche Technik auch bei Einhaltung strenger Sicherheitsstandards ethisch und politisch verantwortbar ist. Vielleicht stehen wir hier vor ähnlichen Fragen. Jedenfalls wird die Sicherheitsproblematik eine zentrale Herausforderung sein.

Was glauben Sie, wem vertrauen wir in zehn oder zwanzig Jahren mehr: menschlichen Fahrern oder automatisierten Systemen?

Ich vermute, dass die Technik den Menschen vom Steuer allmählich verdrängen wird. Aber nichts ist unausweichliches Schicksal. Wir sollten uns nicht Hals über Kopf der Automatisierung verschreiben, sondern auch technische Entwicklungspfade offenhalten und auf Wahlfreiheit setzen. Das analoge Navigieren sollte nicht verlernt werden.

Wie wird sich die Gesellschaft durch automatisiertes Fahren verändern?

Das automatisierte Fahren ist nur ein Teilbereich jener gesellschaftlichen Umwälzung, die mit dem Internet begann und jetzt durch die Digitalisierung und Robotisierung unseres Lebensalltags am Horizont bereits sehr deutlich sichtbar wird. Manch einer meint, unsere gesamte Gesellschaftsordnung würde umgestürzt, weil der Mensch als Arbeitskraft auch intellektuell entbehrlich wird. Nicht nur der Berufskraftfahrer, auch Rechtsanwältinnen und Ärzte wären durch Künstliche Intelligenz bedroht.

Hier rate ich dennoch zur Gelassenheit. Bisher haben technische Veränderungen zwar die Arbeitswelt nie ausgespart, aber ist uns wirklich die Arbeit ausgegangen? Die eigentliche Herausforderung liegt in unseren Köpfen, ob wir uns bedingungslos der smarten Technik anvertrauen und die Simulation menschlicher Intelligenz irgendwann höher schätzen als unvollkommene echte Menschen.

Automatisiertes Fahren, autonomes Fahren – wo ist da der Unterschied?

Experten teilen den Weg zum autonomen Fahrzeug in fünf Stufen ein:

  1.  1.
    Assistiertes Fahren: Einzelne Systeme unterstützen den Fahrer bei bestimmten Aufgaben. Beispiel: Tempomat. Der Fahrer beherrscht ständig sein Fahrzeug und haftet für Verkehrsverstöße und Schäden.
  2.  2.
    Teilautomatisiertes Fahren: Unter bestimmten Bedingungen hält das Fahrzeug die Spur, bremst oder beschleunigt selbständig. Auch hier hat der Fahrer jederzeit die Kontrolle über sein Fahrzeug und haftet für Verkehrsverstöße und Schäden.
  3.  3.
    Hochautomatisiertes Fahren: Das Fahrzeug übernimmt für einen begrenzten Zeitraum einzelne Fahraufgaben. Der Fahrer darf sich vom Verkehrsgeschehen abwenden, muss aber auf Aufforderung durch das System die Kontrolle übernehmen. Tut er dies nicht, haftet er.
  4.  4.
    Vollautomatisiertes Fahren: Die Elektronik des Fahrzeugs übernimmt alle Fahraufgaben, der Fahrer wird zum Passagier. Erkennt das System eine Situation, die es nicht bewältigen kann, informiert es den Fahrer. Reagiert der nicht, bringt das System das Fahrzeug sicher zum Stillstand. Der Fahrer kann aber jederzeit die Steuerung übernehmen. Die rechtlichen Aspekte sind hier noch nicht geklärt.
  5.  5.
    Fahrerloses (autonomes) Fahren: Das Fahrzeug kann auch ohne Fahrer oder Insassen fahren. Es bewältigt alle Verkehrssituationen. Auch hier sind die rechtlichen Fragen noch nicht geklärt.