KI was ist das?

[HaWe]

Hallo,
leider ist keiner auf mein Stichwort Moral eingegangen.
Ich finde, KI und Moral gehören zusammen.
Was ist, wenn eine hochentwickelte KI (zB selbstfahrendes Auto) nicht moralisch Handelt ?
Gruß

Moral ist eine Kategorie ausschließlich der menschlichen Natur und Existenz, und sie ist auch noch Zeitgeist-abhängig.
Ethik wäre immerhin schon etwas übergeordneter, aber ebenfalls rein menschlichen Natur, und immer noch kulturell bzw. zivilisatorisch bedingt (christliche, hinduistische, moslimische, mittelalterliche, neuzeitliche, griechisch-römische, westliche, östliche, ...) .

Aber wann ist welches Handeln "ethisch" oder meinetwegen auch "moralisch"?
IMO kann es so etwas für Maschinen a priori nicht geben, denn sie wissen ja nicht um menschliche kulturelle oder existenzielle Kategorien oder Werte.
Asimov hat daher seine "3 grundlegenden Robotergesetze" formuliert, die man fest einprogrammieren muss/müsste (s.u.a. Roman "I, Robot" samt seiner beschriebenen Problematik), doch selbst davon nehmen bereits heute viele Firmen Abstand.

Es kann ja auch niemand international (auch nicht die UNO) Nationalstaaten vorschreiben, was in deren Gesetzen zu Robotern oder KI stehen muss und wer was zu befolgen hat: Wie wenig UN Konventionen international beachtet werden und wie wenig selbst die durchgesetzt werden können, die schon ratifiziert wurden, sieht man ja tagtäglich in Politik-Meldungen.

So schön also Moral oder Ethik in KI und Robotik wäre: es wird sich nicht durchsetzen lasen, höchstens vereinzelt national und dann auch nur sehr vage.
Maschinen mit KI an sich aber werden "von sich aus" keine Moral oder Ethik haben, denn hier zählen nur Reiz, Reaktion, Erfahrung und Handlungserfolg. Siehe z.B. den großartigen Film "Ex Machina".

[ARetobor]

Ich wollte auch nur darauf hinweisen, dass Moral dazu gehört und die Verantwortung vom Menschen ausgeht.
Das eine KI im Moment noch keine eigene Moral besitzt ist mir klar.
Ob Sie je eine Entwickelt, steht in den Sternen. - aber dann?

[HaWe]

Ich wollte auch nur darauf hinweisen, dass Moral dazu gehört und die Verantwortung vom Menschen ausgeht.
Das eine KI im Moment noch keine eigene Moral besitzt ist mir klar.

ja, aber ich meinte: Moral (oder Ethik) wäre dann eben etwas auf die KI "aufgesetztes", etwas von außen fest einprogrammiertes, nach welchen Vorgaben auch immer, was sie dann gewissermaßen beschränkt und lenkt, aber mit der KI selber nichts zu tun hat.

Ich gebe dir aber völlig Recht: moralische und ethische Kategorien für die Entwickler und ihre Produkte sind absolut notwendig!

[ARetobor]

Ich denke KI und Moral sind sehr wohl in Verbindung zu betrachten.
Aber die Betrachtung und Beantwortung ist dann wohl eher eine Sache der Philosophen.

[Moppi]

Meine Ansicht zu Moral etc:

Für jede Problemlösung muss ein Anreiz da sein. Irgendwo muss ja ein "Auftrag" herkommen. Wenn man in das eigene "Denken" einer KI diese Antriebskriterien einbaut, die ein Mensch natürlicherweise auch besitzt, kann sie sich auch ähnlich entwickeln. Da nicht nur Aufträge von außen eine Rolle spielen, sondern auch die nach innen gerichteten (damit das "Denken" überhaupt funktioniert). Menschen finden sich im Laufe ihres Lebens auch erst selber. Die Persönlichkeitsentwicklung ist ein Prozess. Dann können Sachen ins Spiel kommen wie: ist das richtig, was ich tue? Wie reagiert meine Umwelt darauf? Welche Fähigkeiten besitze ich? Was kann ich gut, was schlecht - kann ich mich dort verbessern? Viele, viele Sachen, die wir lernen, von den Eltern und anderen Mitmenschen abgucken, kann eine richtige KI prinzipiell auch erfassen und auf diese Weise dazulernen. Sie wird sich dann im Laufe der Zeit verändern, geprägt durch die Umwelt. Die KI kann damit auch moralisch handeln oder unmoralisch. Wenn sie Einzelheiten von Moral und dem Gegenteil kennt, kann die KI auch zwischen moralisch und unmoralisch unterscheiden. Vom Prinzip sehe ich gar keine Grenze, was eine KI nicht könnte oder werden könnte.

MfG

[HaWe]

nach innen gerichtetes Denken gibt es bei KI (auf lange Sicht noch) nicht, dies würde auch eine Ich-Erkenntnis und ein Selbstbild vorraussetzen. Noch nicht einmal Tiere haben dies unbedingt, ausgenommen sehr hochentwickelte. Worüber wir heute sprechen, sind ja keine Terminator oder Cyborgs, sondern Schwache KI, die Hilfstätigkeiten ausführt u.a. in technischer Produktion, Medizin, Pflege und Überwachung, und für ihr Agieren Neuronale Netze verwendet.

[Moppi]

Du hast schon irgendwie recht HaWe.
Worüber wir sprechen, hat wohl auch viel mit der Vorstellung von KI zu tun, also was KI ist, deshalb muss ich mal an mich selbst schreiben: Definiere "nach innen gerichtet"!

Mit nach innen gerichtet meine ich alle Prozesse und Algorithmen, die schlicht dazu da sind, dass die KI als solches funktionieren kann. Diese Prozesse sind zunächst nicht nach außen gerichtet, Interaktion entsteht erst durch die Verarbeitung er KI.



MfG

[HaWe]

ich sehe noch nicht einmal ein Innen und Außen, das sich von einfachen konventionellen Automaten unterscheidet:
Eine Maschine mit KI ist ein Automat, mit einer Steuerungs-Blackbox, die Inputs über Sensoren hat und outputs über Aktoren bzw. screens, nur dass die Steuerung nicht über einfache starre Logik-Befehle und Zustandsautomaten funktioniert, sondern lernfähig ist, auf der Basis von bisherigen Aktionen, und damit selbst-modifizierend ist: Das gleiche Innen und Außen wie auch bei konventionellen Automaten (z.B. auch Kellerautomaten oder Turingmaschinen etc.), nur dass die Blackbox "kompliziertere, lernfähige, selbst-modifizierbare" Algorithmen beeinhaltet.