Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) in Kaiserslautern gehört zu den renommiertesten Instituten dieser Art weltweit. Die Automobilwoche sprach mit dem Geschäftsführenden Direktor Andreas Dengel mit Blick auf das autonomen Fahren.
Herr Dengel, viele Unternehmen entwickeln Technologien zum autonomen Fahren. Viele Menschen aber wollen nicht von Computern chauffiert werden. Bei einer Umfrage des World Economic Forum in 27 Ländern gaben 41 Prozent der 20.000 Befragten an, sie seien beunruhigt über den Einsatz Künstlicher Intelligenz. Zu Recht?
Die Künstliche Intelligenz hat eine Menge Aspekte, die Risiken bergen und Angst schüren können. Das hat mit dem Begriff Intelligenz zu tun. Wenn wir an Intelligenz denken, denken wir an unsere eigenen Fähigkeiten und projizieren diese auf eine Maschine. Das führt in die Irre. Denn Maschinen handeln nicht ähnlich unberechenbar wie wir Menschen. Eine KI ein Computer kann nur verarbeiten, was messbar ist. Und lernbar. Daten enthalten Muster, und diese Muster beinhalten Merkmale, die sich messen lassen. Das mündet in eine Art Verhalten. Das hat aber nichts mit menschlichem Verhalten, mit menschlicher Intelligenz zu tun.
Die meisten Menschen verstehen nicht mehr, was genau in einem modernen Fahrzeug passiert. Das verunsichert offenbar.
Ich sehe das auch kritisch. Hier offenbart sich ein Problem mit der KI im Automobil. Ein Kfz-Mechaniker etwa versteht, was er anfasst. Er versteht das physische Zusammenspiel der Komponenten. Die automatische Auswertung von Daten in Millisekunden aber, die Wirkung von Software, das sieht er nicht. Das kann selbst ein Experte nicht mehr im Detail nachvollziehen. Hier entsteht eine Abhängigkeit von Technologie, die wir auch aus anderen Bereichen kennen. Warum genau Google uns bestimmte Informationen mit welcher Gewichtung gibt, das verstehen die meisten auch nicht. Wir übertragen mehr und mehr Verantwortung an Maschinen und vertrauen darauf, dass diese in unserem Sinne operieren.
Wir sind Maschinen ausgeliefert, die wir nicht mehr verstehen?
Richtig. Die Nachvollziehbarkeit von Prozessen in hochkomplexen Datensystemen ist daher die größte Herausforderung beim Entwickeln künstlich intelligenter Systeme. Es gibt das Beispiel des KI-Computers, der alleine das Brettspiel "Go" erlernte. Das System machte Spielzüge, die selbst die besten Go-Spieler nicht verstanden, obwohl sie als Spielzüge sichtbar waren. Am Ende gewann der Computer. Das ist bei komplexen Datenströmen in einem autonom fahrenden Auto noch schwieriger. Da ergeben sich ständig neue Muster, die die Maschine verarbeitet, der Mensch aber nicht mehr durchdringen kann. Das sehe ich als ein Problem. Hier arbeiten Maschinen mit Daten, die wir ausgewählt haben, und fällen Entscheidungen, die wir nicht mehr nachvollziehen können.
Trotzdem sollen wir im autonomen Fahrzeug Platz nehmen?
Es kommt auf das Einsatzgebiet an und darauf, in welchem Maße wir uns den Maschinen anvertrauen. Beispiel Navigationsgerät. Erst haben es viele nur mitgenutzt. Heute hat keiner mehr eine physische Landkarte im Auto, man vertraut dem System total. Das geht soweit, dass bereits Autos im Hafenbecken gelandet sind, weil der Fahrer dem Navi mehr traute als dem Blick aus dem Fenster.
Künftig sind nicht nur Autos intelligent und vernetzt, sondern auch die Infrastruktur. Das erinnert an den Film "Matrix", in dem die Maschinen das Sagen haben.
Von einem umfassenden Netzwerk sind wir weit entfernt. Es gibt ja nicht den einen Knopf, den man drückt und dann fahren alle Autos plötzlich autonom und sind vernetzt. Und selbst dann würde der Mensch sicher nicht von einer Computer-Matrix beherrscht werden. Das Fahren aber wäre deutlich sicherer. In der Realität wird es eine lange Phase geben, in der einzelne Autos autonom fahren in einer Masse von solchen, die von Menschen gesteuert werden. Flächendeckendes autonomes Fahren ist Zukunftsmusik. Das hängt vor allem mit der Komplexität zusammen, die ein solches intelligentes Netzwerk aus mehreren Systemen haben muss.
Es gibt doch schon viele Projekte im Live-Einsatz…
Natürlich gibt es heute schon solche Einzelsysteme, die im Rahmen einer Forschung, einer Fördermaßnahme und auf Basis einer Kooperation verschiedener Unternehmen in sehr begrenztem Umfang umgesetzt werden. Das sind aber Pilotprojekte mit einem sehr klar formulierten Ziel und keinesfalls der Beginn einer flächendeckenden Anwendung.
Also ist autonomes Fahren – noch – Science Fiction?
Zum Teil, ja. Denn sie müssen ja in einem System, in dem autonomes Fahren möglich ist, alle Eventualitäten abgesichert haben. Alle Objekte, die Teil des Verkehrsgeschehens sind oder werden können, müssen in den künstlich intelligenten Systemen antrainiert werden. Verkehrsschilder aber zum Beispiel können, wenn bestimmte Folien aufgebracht werden oder sie schlicht verschmutzt sind oder Lichter eines anderen Autos reflektieren, falsch ausgelegt werden. Niemand aber will, dass ein autonomes System ein Stopp-Schild als ein Vorfahrtsschild interpretiert. Wir sind noch lange nicht soweit, solche Systeme nahezu hundertprozentig sicher und vor allem breitenwirksam einzuführen.
Fast jedes Assistenzsystem im Auto arbeitet schon mit künstlich intelligenter Software. Wo sehen Sie heute die Grenzen der KI im Automobil?
Im urbanen Umfeld sehe ich auf längere Zeit noch nicht, dass sich autonome, von KI getriebene Systeme durchsetzen. In komplexen innerstädtischen Verkehrssituationen sind die Fähigkeiten des Menschen unerlässlich. Ein Beispiel: Kurz vor Beginn der Corona-Pandemie war ich mit einer Forschungsdelegation in Japan. Der Taxifahrer sollte uns zu einem großen, bekannten Institut fahren. Wir landeten dort, wo sein Navi uns hinführte: in einer kleinen Seitengasse. Man konnte das Institut so gerade hinter den Dächern erahnen. Wir mussten dem Taxifahrer nun beibringen, dass das nicht die richtige Adresse ist. Das war schon nicht ganz leicht, er glaubte zunächst seinem Navi. Wir konnten ihn dann aber überzeugen, noch einmal um die Ecke zu biegen. Das können Sie mit einem KI-System nicht machen. Mit einer Maschine kann man nicht verhandeln. Da heißt es: Ziel erreicht. Und Schluss.
Sie gehören zu den führenden Forschern weltweit in Sachen KI. Wann sind Sie das erste Mal in einem autonom fahrenden Auto unterwegs gewesen?
Ganz kurze Antwort: Noch nie.
Warum nicht? Reizt es Sie denn nicht, künstlich intelligente Systeme in einem Auto in Aktion zu erleben?
Nein, es reizt mich nicht, aus zwei Gründen. Zum einen ist Autofahren für mich, von Geschäftsreisen einmal abgesehen, immer auch ein Stück Erlebnis. Emotionaler Fahrspaß. Ich fahre gerne Auto, und dabei lenke ich am liebsten selbst. Das ist schon heute mit neuen Automodellen ja nur noch bedingt möglich. Steigt man aber in ein etwas älteres Modell, so ist das Autofahren noch ein ganz echtes, emotionales Erlebnis mit Fahrspaß. Nun könnte mich die Technologie natürlich als Wissenschaftler, der sich täglich mit Künstlicher Intelligenz beschäftigt, besonders interessieren. Hier muss ich aber sagen: Das Erlebnis, auf einer Teststrecke oder einem Autobahnabschnitt, der zu einem Pilotprojekt für autonomes Fahren gehört, mal ein paar Kilometer ohne die Hände am Lenkrad zu haben zu fahren, bringt mir keine neue wissenschaftliche Erkenntnis. Das ist schlicht langweilig.
Wenn Sie nun ein Hersteller, etwa nach Lektüre dieses Interviews, zu einer Testfahrt einladen würde?
Für mich wird das Thema erst dann wirklich interessant, wenn es mir einen spürbaren Mehrwert bringt. Natürlich verschaffen Assistenzsysteme uns mehr Sicherheit, ich habe auch nichts gegen einen Tempomaten oder Totwinkelassistenten im Auto. Ein komplett autonom fahrendes Auto aber wird für mich erst spannend, wenn ich auf dem Weg zwischen A und B etwas anderes tun kann, mich also auf einen Vortrag vorbereiten könnte oder in Ruhe ein Interview wie dieses führen könnte. Wenn ich aber in Hab-Acht-Position verharren müsste und derweil nur das sich autonom bewegende Lenkrad bestaunen dürfte: Nein, da hält sich mein Interesse in Grenzen.
Das Interview führte Jürgen Pander.
Lesen Sie auch:
Daimler und Bosch: Projekt zu vollautomatisiertem Parken am Stuttgarter Flughafen
Drei alternative Ansätze: Neue Gerüchte um das Apple iCar
Rückzieher bei Technik-Hoffungsträger: BMW iNext fährt doch nicht autonom
Aus dem Datencenter:
Umfrage zur Einstellung gegenüber Investitionen in das autonome Fahren
