GI = Guckis Intelligenz

[stochri]

Hallo Wolfgang,

im Moment verstehe ich Dein Netz so, dass die Links die Verbindungen zwischen Neuronen sind. Da es nur 42 gibt, müssen wahrscheinlich schwächere Links von Neuronen abgezogen werden, falls ein anderes stärkere Links hat.
Den Parameter "USE" würde man in klassischen KNN meiner Meinung nach als "Gewichtsfaktoren" (überlicherweise als "weight") abgekürzt, bezeichnen.
Im Programm waren noch Fehler, die ich erst mal oben im Code korrigiert habe.

Was mich wundert, ist dass sich nur die Werte 32-35 in der Simulation ändern:
32 - src:157 dst:32 use:96
33 - src:0 dst:0 use:0
34 - src:0 dst:0 use:8
35 - src:1 dst:3 use:0

Der Wert 157 für den Link 32 kann wahrscheinlich auch nicht stimmen ( es geht ja nur bis 41 ).

[Rumgucker]

Moin stochri,

richtig. Links verbinden Neuronen. Schwächere Links können verkümmern mit der Prozedur "gi_verlerne()", die aber bei Dir noch nicht genutzt wurde. Use ist Gewichtung. Den "157"-Fehler kenn ich nicht.

--------------

Moin Helmut

Stattdessen solltest du nur zeigen, dass dein GI überhaupt in der Lage ist, simpelste logische Verknüpfungen darzustellen und zu lernen, welche als Basis der Booleschen Aussagenlogik (Boolesche Algebra) auch gleichzeitig Basis jedes logischen Verhaltens ist und aller wenn-dann-Beziehungen: nämlich UND, ODER und NICHT.
Dabei werden ganz einfach Input-Muster auf Outputs abgebildet, die für die jew. Verknüpfung entsprechend zu lernen wären ("Lern-Pattern") .

Das nenne ich "Dekoder bauen". Logische Verknüfungen haben m.E. in der Form der boolschen Algebra im GI-System nichts zu suchen.

Dekodierung bzw. Mustererkennung gehört nicht auf die erste(n) Zellschichten einer KNN, sondern ist eine sehr hohe Abstrahierung.

----

Zellen kennen kein NOT, XOR und noch nicht mal ein stabiles AND. Sehr wohl aber ein OR. Und noch ein paar andere Funktionen, die es nun wiederrum in der boolschen Algebra nicht gibt.

Über solche fundamentalen Dinge würde ich mich mit Euch viel lieber unterhalten.

Aber Helmut kommt aus seiner engen Mustererkennung nicht raus und stochri hat komische Fehler mit GI-Derivaten auf anderen Plattformen.

Beides bringt mich zur Zeit nicht voran. Ich zieh mich mal ein paar Tage aus dem Forum zurück, bis ich liefern kann.

Viele Grüße

Wolfgang

[stochri]

Aber Helmut kommt aus seiner engen Mustererkennung nicht raus und stochri hat komische Fehler mit GI-Derivaten auf anderen Plattformen.

Deshalb wäre es ja gut, wenn wir eine gemeinsam funktionierende Softwarebasis haben. Denn ich bin vorwiegend mit Fehlersuche statt mit dem eigentlichen Problem beschäftigt, was mich auch daran hindert, weiterführende Gedanken zum Thema zu äußern. Ich sehe einige Dinge bei deinem Verfahren, die man verbessern könnte. Dazu will ich mich aber erst äußern, wenn der Algortihmus auch so läuft wie mit deinem PIC.
Normalerweise entwickle ich meine Algortihmen selbst, auch weil es mühselig ist, sich in anderer Leute Gedanken einzuarbeiten. Ich habe es mal angefangen, Dein Programm zu portieren, weil es vielversprechende Ansätze hat. Wenn es mich aber zu viel Zeit kostet, den Grundalgorithmus ans Laufen zu bekommen, dann lasse ich es bleiben.

[HaWe]

Zellen kennen kein NOT, XOR und noch nicht mal ein stabiles AND. Sehr wohl aber ein OR. Und noch ein paar andere Funktionen, die es nun wiederrum in der boolschen Algebra nicht gibt.

selbstverständlich kennen Zellen UND, ODER und NICHT:
Es gibt hemmende und aktivierende Neurotransmitter in Synapsen für hemmende Zwischenneuronen oder Reflexbögen und aktivierende Zwischenneuronen oder Reflexbögen, sodass das Aktivierungspotential von Zellen bereits angehoben sein kann für eingehende Signale (ODER) oder abgesenkt, damit es erst bei mehreren ± gleichzeitigen Signalen zur Aktivierung kommt (UND) oder eine Aktivierung ein hemmendes Zwischenneuron trifft (NICHT): genau so lässt es sich aussagenlogisch strukturieren!
a XOR b
ist wiederum nichts anderes als
(a UND ^b) ODER ( ^a UND b)
Deine Unkenntnis physiologischer Vorgänge und aussagenlogischer Prinzipien ist wirklich erschreckend.
Gerade die Erkenntnis über diese Zusammenhänge hat ja gerade die Konstruktion von Perzeptronen angestoßen (Eingänge, Eingangsgewichte, Eingangssummation, Schwellenwert, Aktivierungsfunktion), auch wenn es sicherlich auch anders geht (McCulloch-Pitts-Neuronen oder analog oder wie auch immer).

Auch für andere lösbare Probleme wie in der Analysis oder der Algebra ist es hilfreich, wenn man die Grundrechenarten und die Mengenlehre beherrscht (eine Boolesche Algebra mit UND und ODER bildet ebenso einen mathematischen Ring wie die Ganzen Zahlen mit + und *, beides ist elementare, universelle Mathematik, an der weder unbelebte Materie (wie Computer) noch lebende Zellen (wie in Gehirnen) vorbei kommen!), und gleiches gilt für die Grundlagen der Anatomie und der Physiologie, wenn man sich über natürliche neuronale Strukturen äußert.

[HaWe]

PS, bin gerade erst ganz zufällig auf diesen Link gestoßen:
https://towardsdatascience.com/mccul...l-5fdf65ac5dd1

[Rumgucker]

Hallo,

dieser entschleunigende Rückzug ins stille Kämmerlein war bisher für mich sehr wohltuend. Ich wollte mal ein kurzes Lebenszeichen senden.

-----------

Muss ich jetzt verstehen, warum Helmut mir "erschreckende Unkenntnis" vorwirft? Oder darf ich das einfach wegignorieren?

Dass sich bei Perzeptrons das AND zu einem OR verwachsen kann, hatte ich völlig richtig erkannt.

Weiterhin kennt die Natur auch kein NOT. Sie kennt sehr wohl aber ein Wegfall eines Teils einer AND-Verbindung.

Wenn wir die Mauer zum ersten Mal sehen, werden wir nicht feststellen: "Da liegt aber keine tote Katze auf der Mauer". Eine Negation ohne Kontext ist uns fremd. Wer NOT-Funktionen in Perzeptrons einbaut, hat den Schuss nicht gehört.

Sehr wohl fällt uns aber ein Stuhl auf, auf dem seit ein paar Minuten keine schlafende Katze mehr liegt. Wir haben also gelernt "Stuhl AND schlafende Katze" und wir triggern auf "Stuhl AND not(Katze)".

"Kann Dein Dekoder OR, AND und NOT?" ist also im Ansatz Humbug. Zumindest beim GI-System ist AND ein Spezialfall von ODER und NOT ist ein Spezialfall von AND. Das hat mit Zufälligkeiten usw. nichts zu tun. Es geht schlichtweg darum, eine "natürliche" Logik zu entwickeln. Die boolsche Algebra ist nicht natürlich. Die kommt in mein GI-System nicht rein.

Ich will mir diese Gedanken machen dürfen!

---------

@stochri:

Denn ich bin vorwiegend mit Fehlersuche statt mit dem eigentlichen Problem beschäftigt.

Ich hab hier stets nur Software hochgeladen, die das jeweils in den Beiträgen und Dumps beschriebene auf einem PIC12F629 tut. Also exakt das fehlerfrei tut, was ich beschrieben hatte.

Ich hatte Dich weder gebeten noch sollte es nötig sein, irgendwelche Fehler zu beseitigen, wenn man die jeweiligen Beispiele exakt so laufen lässt, wie ich sie hochgeladen hatte.

Weiterhin hatte ich mehrfach geschrieben, dass ich zwar Verständnis für Neugierde hab, aber eben auch keinerlei Versionspflege betreibe. Wenn Du also einen Fehler in einer zwei Tagen alten Software findest, dann schenk ich ihn Dir. Ich kann ihn nicht mal mehr nachvollziehen, weil ich mittlerweile die Software weiterentwickelt hab. Und ich will ihn auch nicht nachvollziehen, weil mich zur Zeit nur meine Plattform interessiert.

----------

Ich hab den Fehler gemacht, dass ich meine bisherige 2,5-wöchige Einarbeitung ("Registriert seit 07.11.2019") in das GI-Thema hier im Forum dokumentiert hab.

Anyway....

Ich entwickele trotzdem in aller Seelenruhe in genau meinem Tempo weiter und schreib die nächsten Tage die PDF zusammen. Sobald ich die fertig hab, stell ich die hier als ersten Milestone rein.


Viele Grüße

Wolfgang

[HaWe]

ok, ich sehe schon: es ist schwer, ein Glas zu füllen, das bereits voll ist...
Es soll ja auch immer noch Leute geben, die die Quadratur des Kreises beweisen wollen (obwohl es mathematisch definitiv bewiesen ist, dass es nicht geht) oder die ein Perpetuum mobile zum Patent anmelden wollen (obwohl es durch den Energieerhaltunssatz bewiesen ist, dass es nicht geht)
Aber es st ja nicht verboten, dazuzulernen - vlt wird dir ja noch irgendwann klar, was Boolesche Aussagenlogik ist und warum sie gültig ist, und zwar im gesamten Universum, genau wie auch das Kleine Einmaleins

Aber mach mal...

[Moppi]

Hallo,

wer hat jetzt Recht und wer bekommt seine Ruhe? Hier mal eine andere Meinung zu dem Thema.

Das "GI"-System ist ein weiterer Versuch von hunderten oder tausenden, ein Neuronales Netzwerk zu erstellen.
Ich sehe den Fehler, das ein Neuronales Netz mit Intelligenz gleichgesetzt wird.
Das beides hat aber wenig miteinander zu tun. Dagegen sollte auf die Verarbeitung von Daten gesetzt werden,
weil es das ist, was Intelligenz am Ende ausmacht. Nicht nur die Menge der Daten, die gespeichert und zur Verarbeitung zur Verfügung steht,
sondern vor allem die Art und Weise der Verarbeitung. Das Reduzieren auf das Wesentliche, um Verarbeitung auf jede erdenkliche Art und Weise
zu ermöglichen. Ganz wichtig für Intelligenz ist zudem Abstraktion. Das ist eins der wichtigsten Prinzipien überhaupt. Deshalb erstaunt es auch nicht,
dass man dies in künstlich neuronalen Netzen wiederfindet, die ja versuchen, das menschliche Gehirn nachzubilden.
Künstlich neuronale Netze sind sehr alt und werden dauernd weiterentwickelt. Sie können vor allem eines, Muster erkennen. Das geschieht durch
tausend- oder millionenfaches Training. Das, was ein KNN in einem solchen Fall kann bzw. tut, könnte auch auf andere Weise programtechnisch entwickelt
werden.


Jetzt zu versuchen, aus ein paar künstlich nachgebauten Neuronen eine Intelligenz zu entwickeln, wird nicht funktionieren. Ansatzweise kann
aber mit so ein paar künstlichen Neuronen intelligente Verarbeitung "versucht" oder demonstriert werden, ohne aber Anspruch auf eine Intelligenz
zu erheben, die zu "Überwältigendem" fähig ist. Wahrscheinlich hält es der Definition von Intelligenz im menschlichen Maßstab auch nicht stand.


Es gibt Forschung in die Richtung der exakten Nachbildung menschlicher Neuronen und was damit zu tun hat, auf künstlicher Basis. Was durchaus extrem
sinnvoll ist. Denn dadurch kann es eines Tages möglich werden, dass man Menschen mit Verlust an Gehirnmasse (z.B. Schlaganfälle und Unfälle) durch
ein Implantat helfen kann. Es wäre denkbar, z.B. nach einem Schlaganfall, das im Gehirn entstandene Loch mit einem Implantat zu ersetzen, das
von wenigen Quadratmillimeter bis Quadratzentimeter groß sein kann. Die abgestorbene Gehirnmasse wird abgebaut und das hinterbliebene Loch schließt sich.
Da das Gehirn in der Lage ist, sich umzuorganisieren und gerade in der ersten Zeit, nach aufgetretenen Defekten, schnell neue Verbindungen zwischen
den Zellen herzustellen (ähnlich, wie bei einem Kleinstkind), könnte ein künstlicher Speicher, der so funktioniert, wie menschliche Gehirnmasse,
von dem Organ "Gehirn" assimiliert werden. Es ist aber völlig unklar, wie sich das Gehirn umorganisieren wird und wie ein künstlich eingebrachtes Netz
überhaupt genutzt würde oder ob das alles nicht doch noch viel komplizierter ist, als man sich das heute vorstellen kann. Die Forschung geht schon länger
auch in diese Richtung, Neuronen künstlich nachzubauen, die in der Funktion exakt der dem organischen Vorbild entsprechen, inkl. Signale und deren Stärken.


Die CPU als solches besitzt bereits Strukturen zur Verarbeitung und Milliarden Transistoren, die vernetzt sind. Alle Grundmechanismen, auf denen komplexe
Intelligenz basiert, sind bereits in einer heutigen CPU vorhanden. Neuronale Netze können direkt auf Siliziumscheiben nachgebaut werden, ohne, dass eine
CPU im Hintergrund für die Verarbeitung sorgt, was nebenbei auch sehr energieaufwendig ist.


Wenn man davon absieht, dass die Neuronen Mustererkennung lernen sollen oder meinetwegen auch die XOR-Wahrheitstabelle: was sollen sie denn dann lernen?
Auf ein bestimmtes Eingangsmuster eine bestimmte Reaktion zeigen oder eine unbestimmte/nicht vorhersehbare Reaktion zeigen? Irgendwie muss es schon
eine "Grundfunktion" geben, damit zielgerichtetes Lernen möglich ist und nicht nur Chaos. Und das bieten die KNNs, mit denen Mustererkennung möglich ist.
Jedes Lebewesen funktioniert so, dass es auf seine Umwelt reagiert, also lernt, wie es mit den Umweltreizen umgeht. Deshalb entwickelt sich das
Projekt "GI" zu einem KNN, wie auch immer das versucht wird. Deshalb überschneiden sich hier auch die Meinungen, über das, was notwendig und sinnvoll ist.
Natürlich ist es bildlich schön gesprochen, dass "GI" auf "Futter" reagieren soll und also ein "Bein" krumm macht. Das ist aber auch nur eine andere Art und Weise,
zu sagen, dass am Eingang eines KNN eine "1" statt einer "0" vorliegt und der Ausgang an Bit#X dann auch aus der "0" eine "1" machen soll.


Gruß

[stochri]

Rumgucker:

Muss ich jetzt verstehen, warum Helmut mir "erschreckende Unkenntnis" vorwirft? Oder darf ich das einfach wegignorieren?

Der Link von Helmut ist ziemlich gut, aber Du darfst es trotzdem wegignorieren. Die zu starke Fokusierung auf die Mathematik und das sogenannte "XOR"-Problem war nämlich die Ursache, dass die KI-Forschung für rund 20 Jahre in den sogenannten "KI-Winter"

https://de.wikipedia.org/wiki/KI-Winter

geschickt wurde, weil die Forschungsmittel massiv gekürzt wurden. Der KI-Winter wurde durch die Erfindung des Back-Propagation-Algorithmus beendet

Ich hab hier stets nur Software hochgeladen, die das jeweils in den Beiträgen und Dumps beschriebene auf einem PIC12F629 tut. Also exakt das fehlerfrei tut, was ich beschrieben hatte.

Es geht mir nicht um die Kritik an Deiner Software, die Wahrscheinlichkeit ist nicht ganz klein, dass die Fehler in meiner Implementierung liegen.
Damit ich mit Dir kommunizieren kann, brauche ich aber eine funktionierende Version. Meiner Meinung nach kostet die Kommunikation mit anderen immer Zeit, aber bringt einem oft auch weiter.

[Manf]

Das Forum ist genau dazu geeignet, Sachen zu diskutieren die dem einzelnen mehr oder weniger klar sind, und gemeinsam Lösungen zu finden, oder auch nur einen nächsten Schritt in Richtung einer Klärung.
Dabei diskutieren oft auch Teilnehmer, die es unterschiedlich gut verstehen, sich an einer solchen Diskussiuon zu beteiligen.
Als Maßstab hierfür kann immer wieder dienen, zwischen der Beurteilung von Argumenten und der Beurteilung von Personen zu trennen. Damit kommt man erst einmal schon recht weit.
Das ist eigentlich gut verständlich, kann aber doch aktuell immer wieder eine Hilfe sein.