-         
Seite 3 von 3 ErsteErste 123
Ergebnis 21 bis 23 von 23

Thema: Neuronen basteln

  1. #21
    Erfahrener Benutzer Roboter Genie
    Registriert seit
    12.06.2005
    Ort
    Südwestdeutschland
    Beiträge
    1.120
    Blog-Einträge
    3
    Anzeige

    Es fehlt mir also eine Mittelung. Die Zelle muss wissen, von wieviel Dendriten sie Signale bekommt.

    Es geht also nicht darum, mit Gewichtungen einen Schwellwert zu überschreiten. Es geht eher darum, mit dem Mittelwert aller Gewichtungen einen Schwellwert zu überschreiten. Dann sollte es keine Verknüpfungsmutationen mehr geben.
    Ich würde anders herum denken: Man braucht keine Mittelung, sondern die Links müssen mit Gewichten versehen werden. Bei 2 Links bekommt jeder 0,5.

  2. #22
    Erfahrener Benutzer Fleißiges Mitglied
    Registriert seit
    07.11.2019
    Ort
    Hamburg
    Beiträge
    117
    Hallo stochri,

    das ist anfänglich bei mir ja auch genauso. Aber je öfter die Links synchron mit der Zelle feuern, desto größer wird ihre Gewichtung. Bis irgendwann aus dem UND ein ODER wird und schon ein Link zum Zünden der Zelle reicht.

    --------

    Meine Idee mit der Mittelung ist aber trotzdem Schrott. Denn damit mache ich ein gewünschtes ODER zu einem UND.

    Also weitergrübeln....

    Viele Grüße

    Wolfgang

    ---------------

    Idee: Ich brauch einen Gap zwischen Feuern und Nichtfeuern, in dem nichts an den Gewichten geändert wird. Das krieg ich gut ohne Suche programmiert.
    Geändert von Rumgucker (19.11.2019 um 15:03 Uhr)

  3. #23
    Erfahrener Benutzer Fleißiges Mitglied
    Registriert seit
    07.11.2019
    Ort
    Hamburg
    Beiträge
    117
    Moin stochri,

    in dem GI-Thread konnte ich das XOR-Problem des einschichtigen Perzeptron-Netzes mit einem einzigen Neuron ohne backpropagtion durch zwei Maßnahmen lösen:

    1. kindgerechtes Lernen

    2. Abänderung der Aktivierungsfunktion

    Der Aktivierungsfunktion hab ich einen Bereich eingeprägt, in dem gefeuert wird. Zell-Summen darunter oder darüber führen zum Schweigen.

    Das erinnert mich stark an Deine pulsierenden Zellen, die ich mir als PWM-Modulatoren vorstelle. Unterhalb einer Schwelle komnt nur ab und an ein kurzer (positiver) Impuls aus der Zelle heraus. Oberhalb einer Schwelle kommt ebenso nur ab und an ein kurzer (negativer) Impuls heraus. Nur dazwischen feuert die Zelle heftig.

    Wenn ich meine GI-Kenntnis mal übertrage, dann geht es also bei den feuernden Neuronen nicht um eine simple Integration. Sondern um eine Integration der Impulse, also Integration der Differentiation.

    Bei diesem Vorgang verschwindet der störende Nullpegel der PWM ganz automatisch. Unter der Strich kommt dann das gleiche heraus, wie beim statischen GI-System.

    Demnach muss es also im Hirn so zugehen, dass unsere Synapsen weniger auf konstante Axon-Erregungen als viel mehr auf Erregungs-Änderungen reagieren. Praktisch kleine Kondensatörchen. Und deren differenzierten Impulse mit unterdrücktem Nullwert werden dann in der Zelle integriert.

    Und schon passt alles harmonisch zusammen.

    Ich fühle mich in der Lage, ein GI-System nicht nur statisch auszugestalten (wie zur Zeit), sondern auch als PWM-Modulator. Es wird sich in beiden Fällen ganz gleich verhalten, wenn man auf dieses Differentiations-Detail achtet. Was natürlich den Charme hätte, dass man ein kleines Stück näher ans natürliche Vorbild heranrückt als ich mit meiner derzeitigen Aktivierungsfunktion.

    Eine diffententielle Abarbeitung hätte zusätzlich den Vorteil des "natürlichen NOT". Das Neuron arbeitet wie gewohnt. Aber das ihr nachgeschaltete Kondensatörchen produziert zwei Impulse. Ein Impuls, wenn die Katze auf den Stuhl springt. Und einen weiteren Impuls, wenn die Katze den Stuhl wieder verlässt.

    Zur Zeit verwende ich im Gi-System ein unnatürliches NOT. Ich muss dem System erst das Bild von Katze und Stuhl zeigen. Und dann dann das Bild vom Stuhl ohne Katze. Das ist stumpf.

    Ich bin also gerade am Scheideweg. Verfolge ich weiter den Weg der statischen Neuronen mit komischer Aktivierungsfunktion. Der allerdings den Vorteil der einfachen Analyse hat.

    Oder stelle ich um auf dynamische Zellimpulse. Selbst auf die Gefahr hin, dass ich das System dadurch erstmal wieder unverständlich mach.

    Die Zukunft liegt jedenfalls ganz klar im dynamischen System. Dahin soll mein Weg führen.

    Viele Grüße

    Wolfgang

Seite 3 von 3 ErsteErste 123

Ähnliche Themen

  1. Basteln
    Von Plemer im Forum Motoren
    Antworten: 8
    Letzter Beitrag: 10.04.2010, 14:52
  2. Mini USV basteln
    Von x2k im Forum Elektronik
    Antworten: 8
    Letzter Beitrag: 13.06.2008, 09:47
  3. 1.8V Spannungsregler basteln
    Von p_mork im Forum Elektronik
    Antworten: 6
    Letzter Beitrag: 19.02.2007, 09:42
  4. microcontroller basteln
    Von wolfshund im Forum Elektronik
    Antworten: 11
    Letzter Beitrag: 25.11.2006, 09:41
  5. Neuronen - Masse oder Klasse?
    Von FuRanKu im Forum Software, Algorithmen und KI
    Antworten: 2
    Letzter Beitrag: 14.01.2005, 19:25

Stichworte

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •