GI = Guckis Intelligenz

[Moppi]

Hallo Rumgucker!

Ich hab eine komische Lernstrategie. Bevor ich mir anhöre, was andere wissen, will ich erstmal rausfinden, was ich selbst weiß.

Dieses Konzept kann ich auch nur empfehlen. Ich pflege es seit Jahrzehnten. Es ist eins der besten Strategien, sich nur mit seinen Dingen und Vorstellungen zu beschäftigen und zielstrebig zu arbeiten. Dazu gehört Fleiß, der nicht abreißen sollte, auch wenn manchmal Pausen gemacht werden müssen. Also Scheuklappen aufsetzen, um, im positiven Sinn, sich konzentrieren zu können und ein Ziel zu erreichen, ist hier angebracht.

Vielleicht ist diese "moderne" Lernstrategie einer der Gründe, warum Deutschland im Bereich der Innovationen mittlerweile so weit abgeschlagen ist?

Da gibt es viele andere Sachen, die manchen nicht so auffallen. Wie z.B. dass sehr erfinderische Menschen, die auf einem Fachgebiet auch praktisch viel können, nicht immer eingestellt werden. Lieber stellt man Menschen ein, die einem scheinbar mehr liegen und von denen man glaubt, sie könnten einen ähnlichen Wissensstand erreichen. So einen Irrtum durfte ich miterleben. Da haben sich dann Leute zusammengefunden, die weder von der Materie das Notwendige, noch von der Durchsetzung, um ans Ziel zu kommen, genug verstanden haben. Ich war dann Jahre Später mal in dieser Firma, um zu sehen, wie weit das Projekt gekommen ist. Das Projekt war gestorben,; das im übrigen darauf beruhte, eine ähnliche Software aufzubauen, wie Amazon sie funktionell, nach außen sichtbar, verwendet. Solche und ähnliche Fälle treten sehr oft und häufig auf, um nicht zu sagen tagtäglich (was dem vermutlich näher kommt). Es wird auch das Potential der nicht offiziell Studierten nicht ausgeschöpft, oft noch nicht mal angezapft.

Ich werde diese PDF mit Absicht nicht in GitHub hochladen. Ich will mir keine Nachahmer züchten.

Diese Entscheidung ist sehr schwer zu treffen, wann es so weit ist, etwas zu veröffentlichen und ob überhaupt. Aber vor dieser Entscheidung steht man irgendwann.
Es ist aber auch der Grund, warum ich am Ende hier meine in Software formulierten Ai-Objekte nicht vorgestellt habe. Zwecks Beispiel wollte ich das tun und hatte es schon fast abgeschickt, dann aber wieder zurückgezogen; eben aus dem Grund, weil diese Objekte in ihrer Entstehung mehrere Jahre Veränderungen durchgemacht haben. Es ist dann einfach, die Quintessenz zu präsentieren, aber auch genau so schwer, die Entscheidung zu treffen, dies zu tun. Weil es natürlich dann einfach von jedermann adaptiert werden kann.




MfG

[Rumgucker]

Hallo Helmut,

weiß ich doch. Ich wollte nur ein Späßchen versuchen.

Die Portierung steht auf der Liste. Nicht Arduino. Aber zumindest Atmel Tiny85. Das geht schon mal in die gewünschte Richtung.

-------------

Hallo Forum,

ich möchte heute das XOR-Problem angehen. Hier im Thread teilen ja mittlerweile schon einige meine Bedenken bzgl. der fehlenden linearen Separierbarkeit.

Viele Grüße

Wolfgang

[HaWe]

soweit nur Standarddatentypen (stdint) und keine spezifischen AVR-Flash- oder Registeroperationen verwendet werden, wäre das evt. ausreichend. Arduino verwendet ja normales C++14, ISO C99 kann da weitgehend als Untermenge durchgehen

[Rumgucker]

Moin Forum,

ich hab mir eben nochmal die letzten Beiträge im Thread durchgelesen.

Helmut scheint den Unterschied zwischen natürlichen Denkprozessen und mathematischen Lösungen unverändert nicht zu erkennen. Er hatte offensichtlich überhaupt nicht begriffen, was ich bzgl. der "Logik der Natur" geschrieben hatte. Und damit natürlich auch nicht das XOR-Problem.

Natürlich kann man es mit "unnatürlichen" Mitteln lösen. Natürlich kann ich mir ein paar Gatter ins Hirn implementieren lassen. Natürlich kann ich hinter mir einen Lehrer aufstellen, der so lange auf mich einprügelt, bis seine "backpropagation" irgendeine Wirkung zeigt.

Aber so funktioniert doch keiner von uns. Boolsche Algebra und backpropagation haben überhaupt nichts mit natürlichem Denken zu tun. Es ist nicht so banal, wie Helmut sich das so ausdenkt. Das Thema geht wesentlich tiefer. Stochri hats richtig erfasst.

Man kann allerdings darüber diskutieren, ob die XOR-Aufgabe "natürlich" ist.

Es gibt mehrere Aufgaben, die "unnatürlich" sind. Die einfache Negation halte ich für unnatürlich. Negation ist nur in Zusammenhang mit einem AND vorstellbar.

"Da lag immer ne Katze auf dem Stuhl. Nun fehlt die Katze.". Aber wenn ich erstmals im Leben diesen leeren Stuhl sehe, dann fällt mir natürlich die fehlende Katze nicht auf. Eine Operation "not(KATZE)" ist also Humbug. Sinnvoll ist aber "STUHL and not(KATZE)".

Wobei man auch dabei noch diskutieren müsste, ob es nicht auf die Delta-Werte ankommt.

Und weiterhin hatte ich ja auch geschrieben, dass ein AND instabil ist. Es kann jederzeit zum OR mutieren, wie uns der pawlowsche Hund vor Augen führt.

---------

Dass Helmut vorgibt, das alles nicht zu verstehen, ist etwas enttäuschend. Ich bin noch nicht mal vier Wochen mit dem Thema befasst und ich hab zunehmend das Gefühl, dass Helmut mir wohl keine große Stütze sein wird.

Stochris Info, dass ich mich um das XOR-Problem nicht wirklich zu kümmern brauch, ist da deutlich hilfreicher. Er impliziert dann aber gleich das backpropagation. Ich hätte also sozusagen die Wahl zwischen Teufel und Belzebub.

Auch nicht zufriedenstellend....

BTW: das XOR-Problem ist natürlich per GI-System "lösbar":

loop = 20; do {
gi(FIRST_NEURON,AKT_0);
gi(FIRST_NEURON + 1,AKT_0);
} while(--loop);
loop = 20; do {
gi(A_notB,FIRST_NEURON);
gi(B_notA,FIRST_NEURON + 1);
} while(--loop);

Ich würde das mal "Handverdrahtung" der boolschen Algebra nennen. Die gewaltsame Einrichtung eines hidden-layers. Ich schreib dem Wesen praktisch vor, mit welchen Zellen es zu denken hat. Lächerlich.

KI hat in meinen Augen was mit "deep thinking" des KI-Entwicklers zu tun. "deep learning" ist Dampframmen-Technik. Man bestraft seinen KI-Schützling, weil man selbst zu doof ist, ihm vernünftiges Lernen beizubringen. Und Boolsche Algebra gibts im Hirn überhaupt nicht.


Ich zieh mich mal wieder ein paar Tage zurück. In einer Woche melde ich mich wieder. Es wird dem Projekt mehr bringen, als wenn ich hier rumlabere und eh kaum verstanden werde.


Viele Grüße

Wolfgang

[HaWe]

ich denke, was du nicht verstehst, ist: dass Boolsche Algebra nur Aussagen beschreibbar macht, in dem es sie auf die Standard-Verknüpfungen zurückführt.
Weder das menschliche Gehirn noch BP-Netze verwenden sie direkt (sie modulieren nur die Muster durch eine Vielzahl von Justierungen), aber das, was sie erkennen können und worauf sie wie reagieren, ist durch die BA als Lernmuster definier- und beschreibbar.
Auch mit der Negation irrst du (wieder mal), in natürlichen Gehirnen gibt es alles das, wovon du behautest, es gäbe es nicht, inkl. OR, AND-, NOR- und NOT-Konstrukten (z.B. über IPSPs neben EPSPs und deren Neuronen-Vernetzung).
Ich frage mich ensthaft, wie jemand, der so wenig von den Grundlagen kennt und versteht, sich zu solchen Äußerungen wie den deinigen hinreißen lassen kann (und dabei noch selber immer wieder betont, davon auch nichts verstehen zu wollen, damit "der Kopf frei" bliebe (vlt frei, aber man könnte vermuten: auch leer )) -
Aber vlt kommst du ja noch mit der Zeit selber dahinter, also mach mal...

[Manf]

Der TO hat vor ein Projekt zu beschreiben das nicht den Vorstellungen von allen anderen entspricht, das ist Sinn eines solchen Forums und kein Anlass zu persönlichen Herabsetzungen.

Vorschläge und sachliche Kritik ist in einem offenen Forum willkommen, persönliche Angriffe sind völlig unangebracht. Es tut mir Leid, dass die Diskussion wieder eine Form erreicht, die so hier nicht weitergführt werden kann.

Ich muss deshalb noch einmal darum bitten, persönliche Auseinandersetzungen zu unterlassen.

[HaWe]

Ich galube, du überspannst jetzt hier den Bogen gewaltig, Manf -
W. hat mich und meine Posts persönlich angesprochen und auch falsch und sinnentstellend zitiert, und es muss mir erlaubt sein, die unsinnigen falschen Behauptungen, die er über mich und meine Posts geschrieben hat, als unsinnig aufzuzeigen, richtig zu stellen und zu widerlegen.
Ich habe mit keinem Wort sein Projekt kritisiert, denn ich verstehe ich es schlichtweg nicht
- und von "Beleidigung" kann ebenso wenig die Rede sein: ein Kopf, der nach eigener Aussage frei von Grundlagen ist, ist nun mal frei davon, also diesbezüglich leer, und das war darüberhinus deutlich erkennbar als rhetorische Überspitzung formuliert.

@Wolfgang:
bitte unterlasse es künftig einfach, auf mich und meine Statements Bezug zu nehmen, dann ersparst du mir die Mühe, darauf zu antworten.

[Moppi]

Ein eigenes Projekt, was im Detail so kompliziert ist, sollte man allein erarbeiten. Es macht aus verschiedenen Gründen (einige tauchen hier bereits auf) keinen Sinn, das mit der Allgemeinheit zu besprechen. Forschungsteams besprechen sich untereinander - ja, aber auch nicht mit beliebigen Außenstehenden. Wenn ich kein Team habe, muss ich das alles alleine durchziehen. Und dann ist es wirklich am besten, nicht links und nicht rechts zu gucken, was andere machen oder für eine Meinung haben. Man wird zu stark abgelenkt und demotiviert. Ein kompliziertes Projekt anzugehen, von dem ich noch nicht weiß, wohin es mich führen wird, aber ein Ziel vor Augen zu haben, wo noch unklar ist, wie ich es erreichen soll, kostet viel Mühe und Durchhaltevermögen. Man muss einfach selbst sehen, dass man sich alleine durchwurschtelt, man muss nur an seine Idee und sein Ziel glauben. Eine andere Möglichkeit ist, sich ein Team zusammen zu suchen, wo man denkt, dass man mit den Menschen zusammenarbeiten kann. Nach meiner Erfahrung macht dies im Privatsektor aber auch nur wenig bzw. bedingt Sinn, schon allein deswegen, weil die Privatteams nicht lang genug durchhalten.


MfG

[Rumgucker]

Moin Forum,

das mit dem XOR ging schnell. Ich hatte mit einer Woche gerechnet. Aber ich werde voraussichtlich noch heute "liefern".

Es wundert mich sehr, dass sich die Altvorderen so lange an dem Detail aufgehalten haben. Und schließlich sogar diese backpropagation-Prügelei entwickelten. Man schlägt sozusagen auf das Kind ein, bis es die Lektion gelernt hat. Übel.



Man muss zwei "natürliche" Dinge berücksichtigen und die Lösung liegt sofort vor einem:

Es gibt kein isoliertes NOT. NOT gibts in der Natur nur als Weglassung, also in Verbindungen. Ich sehe einen Stuhl mit Katze. Und plötzlich ist die Katze weg. DAS fällt mir auf.

Ich muss mit dem GI-System wie mit einem Lebewesen umgehen. Ich muss ihm erst den Normalzustand zeigen. Und dann das, worüber es eigentlich stolpern soll:

Zuerst zeige ich ihm zwei Karten: gi(A_B,AKT_0);
Und dann nehm ich eine Karte weg: gi(A_notB,AKT_0);

Dann zeig ich ihm wieder zwei Karten: gi(A_B,AKT_0);
Und dann nehm ich eine Karte weg: gi(B_notA,AKT_0);

Und das wiederhole ich ein paar Mal. Genauso würde man auch die Aufmerksamkeit eines Kindes fesseln!

--------

Die zweite natürliche Sache betrifft den Schwellwert im Perzeptron.

Wenn man dauernd auf eine Stelle auf dem Arm drückt, merkt man den Druck nur am Anfang. Nach einiger Zeit verschwindet aber das Druckgefühl. Da wird in der Natur also irgendwas an der Aktivierungsfunktion rumgestellt. Wird ja auch im KI-Bereich gemacht.

Meine Idee ist noch einfacher, weil ich asymmetrische Perzeptronen nutze. Ich definiere einfach einen Bereich, in dem das Neuron feuert. Unterhalb und oberhalb dieses Bereiches feuert es nicht.

Also hab ich kurzerhand meine Aktivierungsfunktion umgeschrieben

if(RD_SUM >= FIRE) FIRE_REQ = TRUE; // V0.00
if(RD_SUM == FIRE) FIRE_REQ = TRUE; // V0.01

Und siehe da: das XOR-Problem wird nun gelöst. Mit einem einzigen Neuron!!!

Wie kommt das?

Die Karte A und die Karte B bekommen bei o.a. Lernen automatisch jeweils den Nutzen "7". Die Karte notA und die Karte notB bekommen jeweils den Nutzen "3".

Nach dem Lernen kann man dem System vier Kombinationen zeigen (die Zelle feuert genau bei "10").

A plus B = 14, also kein Feuern
notA plus notB = 6, also kein Feuern
A plus notB = 10, also Feuern
B plus notA = 10, also Feuern

Also XOR gelöst. Einfach, natürlich und elegant und ganz ohne Schläge.

----------

Wir dürfen den Pfad der Tugend nicht verlassen. Wir müssen uns immer wieder zur Disziplin aufrufen.

Wenn ein Problem mit dem GI-System nicht lösbar erscheint, dann kann es einfach daran liegen, dass wir das Problem in einer Weise darstellen, dass das auch kein Kleinkind bewältigen lönnte. In der o.a. Form kann jedoch auch ein Kleinkind das XOR-Problem verstehen.


Erweiterte Doku kommt noch heute, wenn nichts dazwischen kommt.

Bis später

Wolfgang

[Rumgucker]

Hallo,

kurz und schmerzlos anbei die Doku mit XOR-Milestone:

gi.pdf

Ich melde mich, wenns was neues aus meinem stillen Kämmerlein gibt.

Viele Grüße

Wolfgang