Mensch, wie geht es dir?

[Roboternetz-News]

Maschinen übernehmen immer mehr Aufgaben. Idealerweise sollten sie auch in der Lage sein, den Menschen bei Fehlverhalten zu unterstützen. Voraussetzung dafür ist, dass die Maschine versteht, wie es dem Menschen geht, der sie bedient. Fraunhofer-Forscher haben ein Diagnose-Verfahren entwickelt, das Nutzerzustände in Echtzeit erkennt und den Maschinen mitteilt.


Weiterlesen...

Sag deine Meinung zu der Meldung und diskutiere im Roboternetz.

News Quelle: Fraunhofer Forschungsorganisation
Diese Nachricht wurde automatisiert vom Roboternetz-Bot gepostet. Verantwortlich für den Inhalt ist daher allein der Herausgeber, nicht das Roboternetz.de oder deren Verantwortliche.


Bild hier  

[i_make_it]

den Menschen bei Fehlverhalten zu unterstützen

Daaaaaas könnte man jetzt auch anders verstehen.
Oder wie hat Teslas Autopilot den Fahrer dabei unterstützt sich aus dem Genpool zu nehmen?

[Manf]

Das ist dann ja mal wieder ein Fortschritt. Zunächst denkt man bei der Zusammenarbeit von Mensch und Maschine daran, dass der Mensch die Maschine (die mit mehr Kraft und Ausdauer arbeitet) überwacht und in bedenklichen Situationen korrigierend eingreift.

Was läßt sich alles erdenken wenn der Mensch die komplexeren verbliebenen Aufgaben selbst durchführt und dabei von Maschinen überwacht und beurteilt wird.
Wird dann ein Fluglotse der nach formalen Kriterien erschöpft ist von einer automatischen Überwachung zum Austausch vorgeschlagen, gegen einen der dafür auf der Auswechselbank sitzt? Gilt das dann auch für andere Tätigkeitsfelder wie Fahrer, Monteure, Calldienstmitarbeiter, Kassierer, was kann man sich da alles vorstellen, Forscher oder Entwickler werden wohl eher nicht so schnell zu den Überwachten gehören.

Technisch kann eine Überwachung ein Vorteil sein, für die Betroffenen wird es etwas demotivierend werden mit einem aufgesetztem Lächeln und weit geöffneten Augen oder den entsprechenden Signalen dem Überwachungscomputer die geforderten Parameter zu liefern, um keine schlechte Beurteilung zu bekommen.

[AmigoMMS]

Daaaaaas könnte man jetzt auch anders verstehen.
Oder wie hat Teslas Autopilot den Fahrer dabei unterstützt sich aus dem Genpool zu nehmen?

Gar nicht, und genau dort liegt ja auch die Herausforderung: Das System ist (noch) auf den Menschen angewiesen, aber es gibt kein gegenseitiges Verständnis voneinander. Hätte das System erkannt, dass der Fahrer unaufmerksam ist, hätte es seine Aufmerksamkeit wieder auf die Straße lenken oder die Kontrolle wieder an ihn übergeben können.

So ist dem Fahrer zum Verhängnis geworden, dass er die Fähigkeiten der Maschine falsch eingeschätzt hat und gleichzeitig die Maschine den Fahrer nicht einschätzen konnte.

- - - Aktualisiert - - -

Zunächst denkt man bei der Zusammenarbeit von Mensch und Maschine daran, dass der Mensch die Maschine (die mit mehr Kraft und Ausdauer arbeitet) überwacht und in bedenklichen Situationen korrigierend eingreift.

Für genau diese Überwachungsaufgaben ist das Ganze eigentlich prädestiniert. Verantwortung und Überwachung werden auf mittlere Sicht beim Menschen verbleiben (denn Maschinen kann man nicht haftbar machen). Gleichzeitig ist die menschliche Kognition aber nicht sonderlich gut für Überwachungsaufgaben geeignet. Eintönige und passive Aufgaben verursachen Langeweile, Müdigkeit und Ablenkung. Genau diese Faktoren sorgen dann dafür, dass der Mensch kein guter Überwacher mehr ist.

Wird dann ein Fluglotse der nach formalen Kriterien erschöpft ist von einer automatischen Überwachung zum Austausch vorgeschlagen, gegen einen der dafür auf der Auswechselbank sitzt?

Gegenfrage: Möchten Sie, dass Ihr Urlaubsflieger von einem übermüdeten Fluglotsen controlled wird? Im Übrigen läuft es ja heute auch schon so ähnlich, wie Sie es schildern, nur dass man sich auf die Selbsteinschätzung der Betroffenen verlässt, die beim Thema Müdigkeit nicht gerade zuverlässig ist (sonst gäbe es nicht so viele Unfälle wegen Sekundenschlaf). Ethische Regelungen zum Schutz müssen natürlich getroffen werden, aber da kann man sich - zumindest in Deutschland - vermutlich voll und ganz auf die Gewerkschaften und Betriebsräte verlassen, die natürlich zunächst mal dagegen Sturm laufen werden ...

mit einem aufgesetztem Lächeln und weit geöffneten Augen oder den entsprechenden Signalen dem Überwachungscomputer die geforderten Parameter zu liefern, um keine schlechte Beurteilung zu bekommen.

Klar, jede neue Technologie hat ihre Horrorszenarien, die auch vor dem Einsatz bedacht werden müssen. Soziologisch kommt man aber nicht drum herum, über die Idee der passiven Maschine als Werkzeug und des bedienenden Menschen als intelligentem Akteur hinaus zu denken. Spätestens mit KI-Blackboxen ist die Maschine ebenfalls zum handelnden Akteur geworden. Die Frage ist, wie geht man damit um? Wie gestaltet man die Interaktion zwischen den nun zwei Akteuren? Wie sorgt man dafür, dass sich beide gegenseitig bei ihren Handlungen berücksichtigen?