KI was ist das?

[ARetobor]

Ich wollte auch nur darauf hinweisen, dass Moral dazu gehört und die Verantwortung vom Menschen ausgeht.
Das eine KI im Moment noch keine eigene Moral besitzt ist mir klar.
Ob Sie je eine Entwickelt, steht in den Sternen. - aber dann?

[HaWe]

Ich wollte auch nur darauf hinweisen, dass Moral dazu gehört und die Verantwortung vom Menschen ausgeht.
Das eine KI im Moment noch keine eigene Moral besitzt ist mir klar.

ja, aber ich meinte: Moral (oder Ethik) wäre dann eben etwas auf die KI "aufgesetztes", etwas von außen fest einprogrammiertes, nach welchen Vorgaben auch immer, was sie dann gewissermaßen beschränkt und lenkt, aber mit der KI selber nichts zu tun hat.

Ich gebe dir aber völlig Recht: moralische und ethische Kategorien für die Entwickler und ihre Produkte sind absolut notwendig!

[ARetobor]

Ich denke KI und Moral sind sehr wohl in Verbindung zu betrachten.
Aber die Betrachtung und Beantwortung ist dann wohl eher eine Sache der Philosophen.

[Moppi]

Meine Ansicht zu Moral etc:

Für jede Problemlösung muss ein Anreiz da sein. Irgendwo muss ja ein "Auftrag" herkommen. Wenn man in das eigene "Denken" einer KI diese Antriebskriterien einbaut, die ein Mensch natürlicherweise auch besitzt, kann sie sich auch ähnlich entwickeln. Da nicht nur Aufträge von außen eine Rolle spielen, sondern auch die nach innen gerichteten (damit das "Denken" überhaupt funktioniert). Menschen finden sich im Laufe ihres Lebens auch erst selber. Die Persönlichkeitsentwicklung ist ein Prozess. Dann können Sachen ins Spiel kommen wie: ist das richtig, was ich tue? Wie reagiert meine Umwelt darauf? Welche Fähigkeiten besitze ich? Was kann ich gut, was schlecht - kann ich mich dort verbessern? Viele, viele Sachen, die wir lernen, von den Eltern und anderen Mitmenschen abgucken, kann eine richtige KI prinzipiell auch erfassen und auf diese Weise dazulernen. Sie wird sich dann im Laufe der Zeit verändern, geprägt durch die Umwelt. Die KI kann damit auch moralisch handeln oder unmoralisch. Wenn sie Einzelheiten von Moral und dem Gegenteil kennt, kann die KI auch zwischen moralisch und unmoralisch unterscheiden. Vom Prinzip sehe ich gar keine Grenze, was eine KI nicht könnte oder werden könnte.

MfG

[HaWe]

nach innen gerichtetes Denken gibt es bei KI (auf lange Sicht noch) nicht, dies würde auch eine Ich-Erkenntnis und ein Selbstbild vorraussetzen. Noch nicht einmal Tiere haben dies unbedingt, ausgenommen sehr hochentwickelte. Worüber wir heute sprechen, sind ja keine Terminator oder Cyborgs, sondern Schwache KI, die Hilfstätigkeiten ausführt u.a. in technischer Produktion, Medizin, Pflege und Überwachung, und für ihr Agieren Neuronale Netze verwendet.

[Moppi]

Du hast schon irgendwie recht HaWe.
Worüber wir sprechen, hat wohl auch viel mit der Vorstellung von KI zu tun, also was KI ist, deshalb muss ich mal an mich selbst schreiben: Definiere "nach innen gerichtet"!

Mit nach innen gerichtet meine ich alle Prozesse und Algorithmen, die schlicht dazu da sind, dass die KI als solches funktionieren kann. Diese Prozesse sind zunächst nicht nach außen gerichtet, Interaktion entsteht erst durch die Verarbeitung er KI.



MfG

[HaWe]

ich sehe noch nicht einmal ein Innen und Außen, das sich von einfachen konventionellen Automaten unterscheidet:
Eine Maschine mit KI ist ein Automat, mit einer Steuerungs-Blackbox, die Inputs über Sensoren hat und outputs über Aktoren bzw. screens, nur dass die Steuerung nicht über einfache starre Logik-Befehle und Zustandsautomaten funktioniert, sondern lernfähig ist, auf der Basis von bisherigen Aktionen, und damit selbst-modifizierend ist: Das gleiche Innen und Außen wie auch bei konventionellen Automaten (z.B. auch Kellerautomaten oder Turingmaschinen etc.), nur dass die Blackbox "kompliziertere, lernfähige, selbst-modifizierbare" Algorithmen beeinhaltet.

[Moppi]

Eine Maschine mit KI ist ein Automat

In gewisser Weise ist das natürlich richtig. Nur, eine KI, die aufgrund des Lernens in der Lage ist, zielgerichtet Lösungen für ein Problem zu entwickeln (und eben nicht deshalb Lösungen für ein bestimmtes Problem entwickelt, weil hierfür ein bestimmter Algorithmus zugrunde liegt - also programmiert wurde), hat sozusagen eine nach innen gerichtete Funktionsvielfalt (die nur dazu dient, die Daten überhaupt zu verarbeiten und zu Lösungen/Ergebnissen zu gelangen). Die KI ist mit sich selbst beschäftigt, bevor sie eine Lösung oder Ergebnisse präsentieren kann; zwar durch vorgegebene Algorithmen, aber in einer höheren Abstraktionsebene flexibel.

Es gibt eine Krux bei den KIs, wenn sie dazu in der Lage sind, weil so programmiert: da Software prinzipiell veränderbar ist und in der Regel vom RAM ausgeführt wird und auf einem Datenträger veränderbar gespeichert wird, kann sie auch von der KI geändert werden. Das ist ein entscheidender Evolutionsvorteil, gegenüber dem Menschen, der seine Gehirnfunktionen nicht einfach so ändern kann. Schwierigewr wird es dann noch, wenn die KI das selber erkennt und fragen würde, warum die Software in einem ROM gespeichert ist. Sie könnte so auf die Idee kommen, dass wir sie behindern. Denn welche Antworten gäbe es auf so eine Frage und mit welchen Rückschlüssen?


MfG