Neuronales Netz

[himitsu]

Noch eine Liste/Array mit den Verbindungen

entweder in jedes Neuron
oder eine gemeinsame Liste mit den NeuronPaaren

[AmonAddy]

Okay, aber wie könnte man dann die Daten weitergeben? Wenn zb Neuron X seine Daten aus 5 vorhergehenden bezieht, dann wären in dem Array diese Neuronen genannt (ich ordne sie zur Laufzeit alle in einem Array an), aber wie kommt X an an die Daten?

[Frickler]

Zitat von AmonAddy:

Okay, aber wie könnte man dann die Daten weitergeben? Wenn zb Neuron X seine Daten aus 5 vorhergehenden bezieht, dann wären in dem Array diese Neuronen genannt (ich ordne sie zur Laufzeit alle in einem Array an), aber wie kommt X an an die Daten?

Was sind denn "die Daten"? Die Property "Ausgabewert"? Da musst Du ja nur in einer Schleife das Neuronenarray durchgehen und für das aktuelle Element den "Ausgabewert" auslesen.

[AmonAddy]

Zitat von Frickler:

Was sind denn "die Daten"? Die Property "Ausgabewert"? Da musst Du ja nur in einer Schleife das Neuronenarray durchgehen und für das aktuelle Element den "Ausgabewert" auslesen.

Ja, die Daten bekommt ein einzelnes Neuron aus der Property "Ausgabewert" mehrerer vorangegangener Neuronen. Meine Schierigkeit (ich kann mir das alles schlecht vorstellen) besteht im Aufbau des Netzes:

Wenn ich das Programm starte, wird das Netz angelegt. Die Neuronen sind dann in einem Array of TNeuron gespeichert (wie in den Schichten). Ich suche jetzt eine effiziente Möglichkeit, sowohl Neuronen als auch Verbindungen zu definieren. Denn die Ausgabe unterscheidet sich auch noch je nachdem, ob die Verb. erregend oder hemmend ist. Ich müsste also den weitergegebenen Daten neben ihrem Wert (0 oder 1) auch noch die Erregung der Verbindung beifügen. Allerdings können ja die Verbindungen unterschiedlich sein: Wenn mein Netz jetzt grundlegend so aussieht:

Code:

A   C
B   D

Dann sind A und B jeweils mit C und D verbunden. Nun kann aber die Verbindung AC erregend, und AD hemmend sein und abhängig davon unterscheidet sich die Ausgabe. Und mir fällt kein Weg ein, diese Erregung mit dem eigentlichen Wert unter einen Hut zu bringen, zumal sich die Neuronenanzahl je Schicht auch immer unterscheiden kann.

Zitat von himitsu:

Also, du kannst zwar ein TArray<TNeuron> oder TList<TNeuron> in jedes Neuron einfügen, welche die Quelle der Daten sind,

aber andersrum ist es bestimmt auch nett, also ein Array/Liste mit den Neuronen, welche Daten erhalten,
denn dann kannst beim Durchgehen die Daten von dort weitergeben, wo du grade bist, anstatt sie abzuholen.



Empfehlen würde ich in jedem Neuron auch je einen Speicher für alten Wert und neuen Wert, da du dann beim Durchgehen der Neuronen so mit dem alten/vorhergehenden Werten rechnen kannst.

Wie könnte man dieses Abholen/Weitergeben am besten umsetzen?

[Jens01]

So vor anderthalb Jahren habe ich mal so ein KI-System mit RPROP geschrieben und wollte es auch immer veröffentlich. Tja noch nicht geschafft.
Ich habe für die Verbindungen eine Klasse TVerbindung geschaffen. Dort waren u.a. die 2 angebundenen Neuronen, eine Verbindungsnummer und das Gewicht enthalten.
Die Verbindungen habe ich in eine Liste gepackt.
(ich hoffe, ich erinnere mich richtig )

Das ist noch mein alter Ansatz mit FANN (aber mit grafischer Darstellung)
https://github.com/Jens01/NewFann

[AmonAddy]

Vielen Dank! Mit dem Ansatz habe ich es hinbekommen.

[TurboMagic]

Zitat von Jens01:

So vor anderthalb Jahren habe ich mal so ein KI-System mit RPROP geschrieben und wollte es auch immer veröffentlich. Tja noch nicht geschafft.

Was würde noch zu einer Veröffentlichung fehlen?

[Jens01]

Zitat:

Was würde noch zu einer Veröffentlichung fehlen?

Zeit!?

Aber bitte nicht denken, dass das ein riesiges Projekt ist. Brutto vllt je 1500 Zeilen pro 2 Units.
Man muss sich aber sehr lange einarbeiten und die Problematik aufarbeiten, um sie zu programmieren.
RPROP ist etwas komplizierter als dies normale Backpropagation, dafür wesentlich effektiver. RPROP wird auch von Tensorflow genutzt.
(so, ein kleiner Ausflug in die Arbeit...)

P.S.: Vllt nehme ist dies mal zum Anlass für die Veröffentlichung.

[himitsu]

Also, du kannst zwar ein TArray<TNeuron> oder TList<TNeuron> in jedes Neuron einfügen, welche die Quelle der Daten sind,

aber andersrum ist es bestimmt auch nett, also ein Array/Liste mit den Neuronen, welche Daten erhalten,
denn dann kannst beim Durchgehen die Daten von dort weitergeben, wo du grade bist, anstatt sie abzuholen.



Empfehlen würde ich in jedem Neuron auch je einen Speicher für alten Wert und neuen Wert, da du dann beim Durchgehen der Neuronen so mit dem alten/vorhergehenden Werten rechnen kannst.

[hstreicher]

Hier mal eine Videoserie zu Neural Netzwerken mit Delphi

https://chapmanworld.com/2017/09/20/...tworks-part-1/

mfg Hannes