Juristisch oder rechtlich würde ich das alles auch gar nicht anpacken.

Aber mal rein theoretisch: Eine KI ohne Toleranz gegenüber Fehlern Anderer auf die Straße zu lassen, kann im Extremfall bedeuten, dass so ein Vehikel in seinem Lebenszyklus mal so 5..10 Passanten mitnimmt und trotzdem noch weiter auf der Straße bleiben darf.

Wollen wir das?