BORIS und das Trolley-Problem autonomer Autos

Robert Underling, leitender Ingenieur beim britischen Robotikunternehmen TrustUs Laboratories, berichtet exklusiv von der Front der autonomen Technik.

Autonome Autos werfen grundlegende ethische Fragen auf. Etwa diese: Wer trägt die Verantwortung, wenn ein selbstfahrendes Auto einen Unfall verursacht? Wem gehören die Daten, die solche Fahrzeuge erzeugen? Und wenn ein Unternehmen unablässig behauptet, sein selbstfahrendes Auto werde nächstes Jahr auf die Straße kommen, dies aber niemals geschieht – verdient es dann weiterhin die Aufmerksamkeit der Öffentlichkeit?

Noch bevor unser selbstfahrendes Auto nächstes Jahr auf die Straße kommt, stellen wir uns bei TrustUs Laboratories diesen großen ethischen Konflikten unmittelbar. Ganz oben auf unserer Liste steht das Entscheiden in Notfällen – das sogenannte Trolley-Problem. Falls ein Unfall nicht mehr zu vermeiden ist: Wie soll ein autonomes Auto etwa zwischen dem Zusammenstoß mit einem Schulbus und einem Wagen voller Pensionisten wählen? Doch was wäre, wenn Baby Hitler diesen Schulbus lenken würde?

BORIS und das ethische Trolley-Problem

Dank der KI-Fähigkeiten von BORIS – unserem rollenden autonomen Versuchsträger auf Basis eines Ford Mondeo – können wir solche Dilemmata in Echtzeit untersuchen.

In unserer hochmodernen Testanlage, die zugleich der Parkplatz für unsere Mitarbeitenden ist, konfrontieren wir BORIS mit einer ethischen Zwickmühle. Während er zügig unterwegs ist, wird er unvermittelt vor die unausweichliche Wahl gestellt, entweder ein Auto voller Pensionisten oder einen Schulbus zu rammen. Letzterer wird allerdings nicht von Baby Hitler gefahren, da unsere Bioresearch-Abteilung „ethische Bedenken“ hatte.

Zu meiner Verwunderung entscheidet sich BORIS für keine der beiden Möglichkeiten. Stattdessen legt er mit unerwarteter Wendigkeit einen sauberen J-Turn hin und jagt wütend über den Parkplatz hinter dem her, den er später als „den bösen Mann“ bezeichnet. Der böse Mann bin ich.

Zuflucht vor dem alten Ford

Sollten Sie jemals von einem blutrünstigen alten Ford über einen Parkplatz verfolgt werden, kann ich bestätigen, dass ein außen stehender Toilettenblock ein idealer Zufluchtsort ist: wegen seiner robusten Bauweise und des unkomplizierten Zugangs zu notwendigen Einrichtungen. Während BORIS sich wiederholt und mit mörderischer Absicht gegen die Außenwand schleudert, bin ich froh, dass wir kein schnelleres Testauto ausgewählt haben – und ebenso, dass die Toilettenpapierrollen erst kürzlich aufgefüllt wurden.

Nachdem es mir schließlich gelungen ist, BORIS zu beruhigen, werten wir die Protokolle aus. Da BORIS darauf programmiert ist, menschlichen Schaden möglichst gering zu halten, scheint er beschlossen zu haben: Wenn ein einzelner Wissenschaftler ihm befiehlt, zwischen der Schädigung eines Schulbusses voller Kinder und eines Autos voller Pensionisten zu wählen, dann besteht die logische Entscheidung darin, den einzelnen Wissenschaftler auszuschalten, der diesen Test angeordnet hat.

Ich bewundere diese Logik, wenn auch nicht ihre Auswirkungen auf meinen Verdauungstrakt. Nun, da wir BORIS’ Programmierung angepasst haben, bin ich sicher, dass dies das Ende der ethischen Komplikationen sein wird!