Mensch, wie geht es dir?

[AmigoMMS]

Daaaaaas könnte man jetzt auch anders verstehen.
Oder wie hat Teslas Autopilot den Fahrer dabei unterstützt sich aus dem Genpool zu nehmen?

Gar nicht, und genau dort liegt ja auch die Herausforderung: Das System ist (noch) auf den Menschen angewiesen, aber es gibt kein gegenseitiges Verständnis voneinander. Hätte das System erkannt, dass der Fahrer unaufmerksam ist, hätte es seine Aufmerksamkeit wieder auf die Straße lenken oder die Kontrolle wieder an ihn übergeben können.

So ist dem Fahrer zum Verhängnis geworden, dass er die Fähigkeiten der Maschine falsch eingeschätzt hat und gleichzeitig die Maschine den Fahrer nicht einschätzen konnte.

- - - Aktualisiert - - -

Zunächst denkt man bei der Zusammenarbeit von Mensch und Maschine daran, dass der Mensch die Maschine (die mit mehr Kraft und Ausdauer arbeitet) überwacht und in bedenklichen Situationen korrigierend eingreift.

Für genau diese Überwachungsaufgaben ist das Ganze eigentlich prädestiniert. Verantwortung und Überwachung werden auf mittlere Sicht beim Menschen verbleiben (denn Maschinen kann man nicht haftbar machen). Gleichzeitig ist die menschliche Kognition aber nicht sonderlich gut für Überwachungsaufgaben geeignet. Eintönige und passive Aufgaben verursachen Langeweile, Müdigkeit und Ablenkung. Genau diese Faktoren sorgen dann dafür, dass der Mensch kein guter Überwacher mehr ist.

Wird dann ein Fluglotse der nach formalen Kriterien erschöpft ist von einer automatischen Überwachung zum Austausch vorgeschlagen, gegen einen der dafür auf der Auswechselbank sitzt?

Gegenfrage: Möchten Sie, dass Ihr Urlaubsflieger von einem übermüdeten Fluglotsen controlled wird? Im Übrigen läuft es ja heute auch schon so ähnlich, wie Sie es schildern, nur dass man sich auf die Selbsteinschätzung der Betroffenen verlässt, die beim Thema Müdigkeit nicht gerade zuverlässig ist (sonst gäbe es nicht so viele Unfälle wegen Sekundenschlaf). Ethische Regelungen zum Schutz müssen natürlich getroffen werden, aber da kann man sich - zumindest in Deutschland - vermutlich voll und ganz auf die Gewerkschaften und Betriebsräte verlassen, die natürlich zunächst mal dagegen Sturm laufen werden ...

mit einem aufgesetztem Lächeln und weit geöffneten Augen oder den entsprechenden Signalen dem Überwachungscomputer die geforderten Parameter zu liefern, um keine schlechte Beurteilung zu bekommen.

Klar, jede neue Technologie hat ihre Horrorszenarien, die auch vor dem Einsatz bedacht werden müssen. Soziologisch kommt man aber nicht drum herum, über die Idee der passiven Maschine als Werkzeug und des bedienenden Menschen als intelligentem Akteur hinaus zu denken. Spätestens mit KI-Blackboxen ist die Maschine ebenfalls zum handelnden Akteur geworden. Die Frage ist, wie geht man damit um? Wie gestaltet man die Interaktion zwischen den nun zwei Akteuren? Wie sorgt man dafür, dass sich beide gegenseitig bei ihren Handlungen berücksichtigen?