GI = Guckis Intelligenz

[oberallgeier]

.. ich nahm irrtümlich an, dass Du Dich über meine unbeholfene Ausdrucksweise lustig machtest ..

Nein - bloß nicht. Im Gegenteil - ich finde Deine Aussagen, schrittweises vorgehen und Folgerungen hoch interessant. Hatte eben nur anmerken wollen(müssen), dass unsere Basisprogrammierung (die das Menschen) weitgehend ohne bewusstem Einfluss erfolgt und "hinterher", nach Eintreten von ordentlichem Schluss-folgern-Können, nur sehr mühevoll umgangen oder gar abgeändert werden kann. Bei mir jedenfalls. Und bei Fichte offenbar auch.

[Rumgucker]

Hallo oberallgeier, hallo Mitlesende,

ich versuch jetzt aber trotzdem mal, das XOR-Problem verständlich rüberzubringen.

Sowohl Helmuts als auch mein System besteht aus Zellen. Diese Zellen haben mehrere Eingänge. Jeder aktivierte Eingang erhöht in der Zelle einen Summenzähler. Sobald dieser Zähler eine Schwelle erreicht hat, feuert die Zelle.

Er und ich haben unseren Eingängen Zahlenwerte zugeordnet. Eine Zelle mit zwei Eingängen A und B kann zum Beispiel für jeden Eingang den Zahlenwert "5" zugeordnet haben. Die Zelle soll beim Summenzähler "10" feuern.

Wenn nur der Eingang A aktiv ist, wird der Summenzähler nur den Wert "5" erreichen und die Zelle feuert nicht. Auch wenn nur der Eingang B aktiv ist, bleibt der Summenzähler der Zelle auf "5". Die Zelle kann nur feuern, wenn Eingang A UND Eingang B aktiv sind, denn dann werden die beiden "5" eines jeden Eingangs zu "10" addiert. Das Neuron bildet also ein UND-Gatter mit zwei Eingängen.

Man kann auch jedem Eingang eine "10" zuordnen. Dann wird der Summenzähler in der Zelle schon dann "10" erreichen, wenn nur ein Eingang aktiv ist. Das Neuron bildet dann ein ODER-Gatter mit zwei Eingängen.

Rund 10 Jahre nach Erfindung dieser Art von Neuronen kamen zwei Forscher auf die Idee, dass man damit aber keine XOR-Funktion hinbekommen kann. XOR feuert dann, wenn die beiden Eingänge ungleich sind. Sie schrieben ein tolles Buch über ihre Entdeckung und demotivierten für viele Jahre reihenweise Forscher und Geldgeber.

Irgendwann kam dann ein weiterer Knisterkopf auf die Idee, dass man ja nur mehrere Zellen in Schichten aufteilen muss, um das XOR-Problem zu lösen. Aber entdeckte dann, dass es auch nicht so einfach geht und es wurde kurzerhand ein weiterer Mechanismus benötigt, um das Problem dann doch noch per Hauruckverfahren zu lösen. KATASTROPHE!

Mit dem Quatschkram haben sich erwachsene Männer fast zwei Jahrzehnte lang gegenseitig die Rüben eingeschlagen, Vorträge gehalten, Bücher geschrieben, Flugreisen gemacht. Forschungsgelder verballert und letztlich nur dummes Zeug geredet.

Meine Idee geht wie folgt:

Meine Eingänge A und B bekommen jeweils eine "7" zugeordnet. Und die invertierten Eingänge von A und B (ich nenne sie notA und notB) bekommen jeweils die Gewichte "3" zugeordnet. Und mein Neuron feuert nicht bei Erreichen von "10" sondern nur dann, wenn die Zellsumme exakt 10 ist.

Rechnen wir mal durch:

notA und notB = 3 + 3 = 6: Zelle feuert nicht. Das ist beim XOR korrekt.

A und B = 7 + 7 = 14: Zelle feuert nicht. Auch das ist korrekt.

A und notB = 7 + 3 = 10: Zelle feuert! Jippieh!

B und notA = 7 + 3 = 10: Zelle feuert! Nochmal Jippieh!

Und genau diese Eingangsgewichtungen entstehen dann, wenn ich in einer Lernschleife dem "Kindlein" zuerst Teddy und Kasperle zeige (sprich A und B). Das Kind freut sich. Seine beiden Freunde sind da.

Und wenn ich mich dann kurz umdreh und ein Spielzeug wegnehme und mich dann wieder zum Kind wende, ist das Kind entsetzt. Da fehlt doch eine Figur. Nun nehm ich das Patschhändchen und zeige ihm den Feuerknopf.

Und diese Lernanweisung wiederhole ich ein paar Mal. Mal lasse ich den Teddy verschwinden. Mal den Kasperle.

Und wie durch Zauberhand entstehen genau die o.a. Zahlen-Zuordnungen auf den Eingängen und das ganze XOR-Problem verpufft vor unseren Augen wie ein böser Traum.

Die Kombination der natürlichen Lernschleife mit der winzigen Änderung des Feuermechanismus führt zum Erfolg.

Puh.... hab ich das halbwegs verständlich rüberbringen können?

Viele Grüße

Wolfgang

[HaWe]

Er und ich haben unseren Eingängen Zahlenwerte zugeordnet. Eine Zelle mit zwei Eingängen A und B kann zum Beispiel für jeden Eingang den Zahlenwert "5" zugeordnet haben. Die Zelle soll beim Summenzähler "10" feuern.

nein, habe ich nicht.

Mit dem Quatschkram haben sich erwachsene Männer fast zwei Jahrzehnte lang gegenseitig die Rüben eingeschlagen, Vorträge gehalten, Bücher geschrieben, Flugreisen gemacht. Forschungsgelder verballert und letztlich nur dummes Zeug geredet.

Und hör doch mal bitte auf, die bestehenden Ansätze immer mit derart abwertenden Attributen zu diskreditieren - sie funktionieren, aber bei dir sehe ich noch keinen funktionierenen Code, der per Überwachtem Lernen beliebig trainiert werden kann.

Puh.... hab ich das halbwegs verständlich rüberbringen können?

nein, da muss ich leider passen. Aber vlt sind ja andere hier klüger und können das nachprogrammieren.

[Rumgucker]

Hallo Helmut,

Du hast doch Deinen Eingängen doch ebenso Zahlenwerte zugeordnet. Bei Dir ist es eben "0.5" oder was auch immer. Nun verwirr die anderen doch nicht sinnlos.

Vielleicht kannst Du das XOR-Problem besser darstellen?

Viele Grüße

Wolfgang

[HaWe]

nein, ich habe überhaupt nichts "zugeordnet". Wie ein Perzeptron funktioniet, muss ich aber wirklch nicht mehr erklären, und auch nicht, wie das XOR Problem nach Papert et al. gelöst werden konnte. Das tut aber auch hier nichts zur Sache, denn ich verwende zwar Perzeptronen und BP-Netze nach Paperts Ansatz, du aber nicht. Verwirrend sind eher deine Vergleiche zwischen den BP-Netzen und deiner Konstruktion, denn die haben wirklich nicht viel gemeinsam - und ob und wie sie funktionieren sollen, kann ich noch nicht erkennen.

[Rumgucker]

Hallo Helmut,

meine Doku hast Du.

Was sollen dieser dauernden Wiederholungen, dass Du meine Software nicht nachvollziehen kannst? Empfindest Du Dich als Ober-Gutachter meines Projektes?

Ich hab mich gerade umentschieden. Tiny85-Code gibts nur auf Anfrage per Mail.

Viele Grüße

Wolfgang

[HaWe]

Es heißt genau das, was ich schreibe, weil du fragst, ob es verständlich sei und ob ich etwas erklären könnte:
ich sehe keinen kompilierbaren Code, den ich verstehen, selber kompilieren und auch varieren und testen kann. Solange sehe ich nur vage Diskussionen um Ideen, aber nichts Verständliches und Substanzielles leider.

- - - Aktualisiert - - -

PS,
@stochri: hast DU kompilierbaren Code für ein lernfähiges Netz zum testen?