Vor vielen, vielen Jahren trat ich einmal bei einer Jahresauftaktveranstaltung für die Führungskräfte eines Finanzunternehmens auf. Vor mir sprach der Chef des Ladens zu seinen Angestellten und er sagte etwas, das ich bis heute nicht vergessen habe. Es ging um Vertrauen und sinngemäß sagte er: »Sie vertrauen im Alltag fremden Menschen oft mehr als Ihren eigenen Mitarbeitenden. Einem völlig unbekannten Taxifahrer vertrauen Sie sogar Ihr Leben an und glauben einfach, dass er fahren kann. Oder haben Sie vor Fahrtbeginn jemals nach dem Führerschein gefragt? Eine Ausgabe von 50 Euro muss im Unternehmen jedoch genehmigt werden. Warum? Viele Mitarbeitende treffen privat täglich finanzielle Entscheidungen. Wer Miete, Wocheneinkauf und Kredite verantwortungsvoll managt, kann auch im Unternehmen vernünftige Entscheidungen treffen. Also: Weniger Kontrolle. Mehr Vertrauen.«

Der Vergleich ist genial, auch wenn er heute mit Robotaxis ein wenig hinkt. Denn wer in ein Waymo-Taxi ohne Fahrer einsteigt, wie das in den USA mittlerweile üblich ist, der vertraut keinem Menschen sein Leben an, sondern einer Technik. Einer Technik, die in 170 Millionen autonom gefahrenen Kilometern deutlich weniger schwere Unfälle verursacht hat, als Menschen. Eines der Sicherheitssysteme von Waymo sorgt dafür, dass keine Personen überfahren werden. Steht jemand vor dem Auto, fährt es nicht. Klingt logisch. Meistens.

Im Januar dieses Jahres bestieg Doug Fulop in San Francisco mit zwei Freunden ein Waymo-Robotaxi. Die Türen wurden geschlossen und das Fahrzeug verriegelte sie – fuhr aber nicht los. Denn plötzlich tauchte ein Angreifer auf und funktionierte die Fenster des Wagens zu einem Percussion-Instrument um. Der verwirrte Unbekannte hämmerte gegen die Scheiben und versuchte, sie einzuschlagen. Zudem bedrohte er die Insassen laut schreiend mit dem Tode. Vermutlich hätte jeder Fahrer jetzt Gas gegeben und wäre abgehauen – Führerschein hin oder her. Nicht so das Waymo-Taxi. Fulop rief gleichzeitig die Notrufnummer und den Waymo-Support an, der ihm mitteilte, dass das Auto nicht ferngesteuert bewegt werden könne, solange sich eine Person in der Nähe befinde. Die Sensoren können halt nicht zwischen schützenswertem Kleinkind am Zebrastreifen und lebensbedrohendem Psychopathen mit Baseballschläger unterscheiden. Egal, wer da vor dem Auto steht, die Person gilt als »schützenswertes Hindernis«. Kurzum: Das Auto überließ die eingesperrten Fahrgäste einem sechsminütigen Terror mit Todesangst.

Autonome Fahrzeuge fahren zwar statistisch besser als Menschen, sie scheitern aber noch immer spektakulär an den Momenten, in denen Leute irrational, böswillig oder einfach chaotisch sind. Willkommen im echten Leben, das nun mal keine Teststrecke ist. Wir brauchen eine Notfallfunktion. Keine freie Herrschaft über die Maschine, sondern einen eng definierten Escape-Mode bei autonomen Systemen. Denn Sicherheit ist nicht nur die Abwesenheit von Kollisionen, sondern auch die Fähigkeit, einer akuten Bedrohung entkommen zu können. Das stärkt auch das Vertrauen in die Systeme.

Der Spruch des Managers über das unterschiedliche Vertrauen in Taxifahrer und Angestellte blieb bei mir jedenfalls hängen. Ich wollte auch ein solcher Vorgesetzter werden. Nur … weil ich als Solo-Selbstständiger nun mal keine Angestellten habe, denen ich vertrauen könnte, kontrolliere ich seitdem jedes Mal den Führerschein, wenn ich in ein Taxi steige. Besser als nichts.