Was tun, wenn die KI vor der Mülltonne kapituliert?

Die National Highway Traffic Safety Administration (NHTSA) hat ein klares Muster identifiziert: Autonome Fahrzeuge fahren in aktive Einsatzstellen, blockieren Rettungswege und ignorieren Blaulicht. In einem Schreiben an alle Entwickler fordert die Behörde nun bis Ende des Monats Lösungen – und macht deutlich, dass es sich hier nicht um seltene Ausnahmen handelt. „Emergency scenes are not rare or extreme 'edge cases'“, schreibt Administrator Jonathan Morrison. „Let me be clear: the inability to detect and appropriately respond to such situations represents a functional insufficiency.“

Kernzahlen:

• Waymo hat in mehreren Fällen Rückrufe durchgeführt, unter anderem nachdem Fahrzeuge in abgeschleppte Fahrzeuge gefahren waren oder bei Überschwemmungen versagten.
• Die NHTSA identifizierte ein Muster von Vorfällen, bei denen fahrerlose Fahrzeuge in aktive Einsatzstellen fuhren oder Rettungswege blockierten.
• Momenta erzielte 2025 einen Umsatz von schätzungsweise 2,4 Milliarden CNY, bleibt aber weiterhin defizitär.
• Apollo Go lieferte im Q1 2026 rund 3,2 Millionen vollständig fahrerlose Fahrten – ein deutliches Plus zum Vorjahr.

Die Lücke zwischen Marketing und Realität

Während chinesische Firmen wie Baidu und XPENG mit Rekordzahlen und Genehmigungen prahlen, zeigen US-Behörden, dass selbst der Marktführer Waymo grundlegende Probleme mit Feuerwehr, Überschwemmungen und Schulbussen hat. Die Kluft zwischen Marketing und Realität ist riesig. Waymo hat bereits mehrere Rückrufe durchgeführt: im Februar 2024, nachdem zwei Robotaxis in Phoenix in dasselbe abgeschleppte Fahrzeug gefahren waren, und später wegen Unfällen mit Parktoren und Telefonmasten. Nun kommt das Hochwasser-Problem hinzu. Die NHTSA-Dokumente zeigen, dass Waymo noch „developing the final remedy for this recall“ ist.

Wenn die Autonomie an ihre Grenzen stößt

Das Problem ist nicht auf US-Firmen beschränkt. Forterra, ein US-amerikanischer Hersteller autonomer Fahrzeuge, hat über 100 selbstfahrende ATVs in der Ukraine im Einsatz. In neun Monaten legten sie 2.500 Meilen auf 1.100 Missionen zurück und evakuierten 88 Verwundete. Aber die Fahrzeuge werden meist ferngesteuert, weil die Autonomie für echte Gefechtssituationen nicht reicht. „We actually need to be able to respond to the enemy threats, live, while it’s in front of the enemy, which the autonomy doesn’t know how to do yet“, sagte ein ukrainischer Soldat, der mit den Fahrzeugen arbeitet und dessen Identität aus Sicherheitsgründen nicht genannt wird. Scott Sanders, Chief Growth Officer bei Forterra, bringt es auf den Punkt: „I believe this to be true of every defense technology that’s ever been created — until you hit the realities of combat, you’re just not going to know.“

Einsatzstatistik von Forterra-ATVs in der Ukraine über neun Monate

Chinas Expansion: Erfolge und offene Fragen

Baidus Apollo Go hat in der Schweiz eine Level-4-Genehmigung für den öffentlichen Nahverkehr erhalten – noch vor Waymo oder Tesla in Europa. Aber die Fahrzeuge fahren vorerst noch mit Sicherheitsfahrer. „The FEDRO permit provides the framework — with clear requirements, defined responsibilities, and the objective of learning from operations for the next steps“, sagte Jürg Röthlisberger, Direktor des Bundesamts für Strassen (FEDRO). Die Schweizer Behörde betont, dass es sich um einen schrittweisen Prozess handelt. XPENG hat im Mai 2026 das erste massenproduzierte Robotaxi in China vorgestellt, das mit vier selbstentwickelten Turing-AI-Chips (3.000 TOPS) und einem reinen Kamerasystem ohne Lidar auskommt.

Momenta, ein chinesischer NOA-Anbieter, hat bei seinem Börsengang in Hongkong 2,9 Milliarden HKD von Investoren wie GIC, Fidelity und BlackRock eingesammelt – und verzichtete auf eine Preisspanne, was extremes Vertrauen signalisiert. Das Unternehmen hält einen Marktanteil von 65 Prozent am chinesischen Markt für urbane NOA-Lösungen von Drittanbietern.

Marktanteil von Drittanbietern an urbanen NOA-Lösungen in China

Das Dilemma der Sicherheitsnachweise

Christian Mandel, Senior Researcher am Deutschen Forschungszentrum für Künstliche Intelligenz, warnt: „Autonomous navigation is solvable. But what still has to be done — we have to prove that it is safe, that it is failure-safe, such that we can cope with, for example, the medical device regulation.“ Dieses Problem ist auch für Robotaxis relevant. Die fehlenden unabhängigen Sicherheitsdaten sind ein zentrales Manko der Branche. Wie viele Unfälle passieren pro gefahrenem Kilometer? Wie schneiden autonome Systeme im Vergleich zu menschlichen Fahrern ab? Waymo veröffentlichte kürzlich Daten, die zeigen, dass seine Fahrzeuge in Phoenix an rund 70 Prozent weniger Unfällen mit Verletzungen beteiligt sind als der durchschnittliche menschliche Fahrer. Aber diese Daten stammen vom Unternehmen selbst – unabhängige Überprüfungen fehlen.

Wer profitiert, wer verliert?

Uber hat 500 Millionen Dollar in Nuro investiert, obwohl das Unternehmen ursprünglich Lieferroboter baute – und das, nachdem Uber 2018 einen tödlichen Unfall mit einem eigenen AV hatte. Der Partner Avride wird gerade von der NHTSA untersucht. Der chinesische Markt wird von einigen wenigen großen Playern dominiert: Huawei, Baidu, Momenta und XPENG. Für europäische Zulieferer wie Bosch, ZF und Continental bedeutet dieser Trend eine doppelte Herausforderung: Sie müssen entweder mit den chinesischen Giganten kooperieren – oder eigene Lösungen entwickeln, die mit der chinesischen Geschwindigkeit mithalten können. General Motors hat seine Entwicklungszyklen bereits halbiert, um mitzuhalten.

Was wird nicht gesagt?

Die Quellen berichten über Erfolge und Genehmigungen, aber es fehlen unabhängige Sicherheitsdaten, etwa die Anzahl der Unfälle pro gefahrenem Kilometer oder Vergleiche mit menschlichen Fahrern. Zudem wird nicht thematisiert, wie die chinesischen Firmen mit Datenschutz und Cybersicherheit in Europa umgehen. Die USA haben bereits ein Verbot chinesischer und russischer Technologie in autonomen Fahrzeugen vorgeschlagen. Europa diskutiert noch. Die GDPR-Reform könnte die Datenschutzanforderungen für autonome Fahrzeuge verschärfen.

Historische Lehren

Die Geschichte der Technologie ist voll von Beispielen, in denen der Enthusiasmus über neue Möglichkeiten die Realität der Implementierung überholt hat. Die Eisenbahn im 19. Jahrhundert versprach grenzenlose Mobilität – aber die ersten Züge entgleisten, weil die Schienen nicht für die Geschwindigkeit ausgelegt waren. Die Luftfahrt der 1950er Jahre versprach den Massentransport – aber die ersten Düsenflugzeuge stürzten ab, weil die Piloten nicht ausreichend geschult waren. Jetzt stehen wir an einem ähnlichen Punkt mit dem autonomen Fahren: Die Technologie ist da, aber die Infrastruktur, die Regulierung und das Verständnis für die Grenzen der Systeme hinken hinterher. Damals wie heute entscheidet nicht der Erste, der eine Technologie einführt, über den Erfolg – sondern der, der sie sicher und zuverlässig macht.