Neuronales Netz - Vektoren wie vorstellen?

[Flips]

Hi,

vll ist dies das falsche Forum, allerdings werden durch diesen Thread Fragen beantwortet, die Leute auch noch nach 4 Wochen interessieren könnten, deshalb wollte ich es nicht in K&T-Forum posten.

Also zur Frage:
Man liest bei neuronalen Netzen immer wieder von Vektoren, jetzt frage ich mich:
Wie soll ich mir das vorstellen?
Beispielsweise Gewichtsvektoren. Vektor heißt bei mir "gerichtete Größe". Bei den Gewichten kann man das v.a. bei Kohonennetzen noch verstehen, aber in 1D Netzen? Und wie drücke ich hemmende und erregende Gewichtsvektoren aus, wenn diese doch kein Vorzeichen haben?

Meine Fragen mal zusammengefasst:

• Welche der folgenden Größen sind Vektorgrößen in einem NN? Angelegter Reiz, Input eines Neurons, Aktivität eines Neurons, Gewichte.
• Was bringt es, wenn diese Größen als Vektoren dargestellt werden?
• Wo bringe ich in einem n-Dimensionalen Gewichtsvektor das Vorzeichen an, welches die Art (Hemmend, Erregend) angibt?
• Beim programmieren nutze ich auch nur Skalare und keine Vektoren, muss ich da was ändern?

Mir wäre schon mit der Beantwortung nur einer Frage sehr geholfen.
Danke,
lg Flips

[Flips]

*push*
Keiner ne Idee?

[opfer.der.genauigkeit]

Vielleicht hilft dir ja diese Seite weiter: ai-junkie.

[freak4fun]

Hat sich da was bei dir ergeben?

[3_of_8]

Ein Vektor ist eine gerichtete Größe?

In der Schule vielleicht.

In der Mathematik ist ein Vektor ein Element eines Vektorraums. Das heißt es gibt ein Nullelement, man kann die Dinger addieren und skalieren. Die reellen Zahlen sind zum Beispiel auch Vektoren.

Ich nehme mal an bei den neuronalen Netzen ist mit einem Vektor ein Tupel gemeint.

[jmd anders]

ich bin jetzt kein experte für nns aber im allgemeinen kannst du schonallein den eingang kann als einen eingangsvektor bezeichnen. also wenn du jetzt 10 eingänge hast, dann hast du einen eingangsvektor mit 10 komponenten. das neuronale netzwerk kann ja dann als funktion gesehen werden, die diesen vektor verarbeitet. also genauso wie im 2 dimensionalen nur hat man jetzt statt beispielweise nicht mehr nur noch eine funktion y=f(x) sondern f(x,y,z) (im r^3) und f(x1,x2,x3...xn) im r^n. also du gibst dem neuronalen netzwerk einen Vektor und das nn gibt dir dann einen vektor zurück, vielleicht aber auch nur einen wert(also 1dim vektor). das ist ja eben noch eine besonderheit man kann eine funktio nhaben die einen r^2 (x1,x2) vektor verlangt aber nur einen r^1 vektor (also eine zahl) zurückgibt.


wenn du nun bei einem n dimensionalen vektor das vorzeichen änderst, dann ändert sich ja bei jeder komponente das vorzeichen solange die komponente nicht null ist. was das jetzt insgesamt heißt für das nn müsste man überprüfen (vgl funktion f(x,y,z) vorzeichen drehen von x,y,z führt nicht unbedingt zur invertierung der funktion)

[Flips]

Zitat von 3_of_8:

Ich nehme mal an bei den neuronalen Netzen ist mit einem Vektor ein Tupel gemeint.

Jaein, aber wieso berechne ich dann bei Kohonennetzen den (euklidschen) Abstand von Inputvektor und Gewichtsvektor?
Ein Tupel wäre ja im einfachsten Fall sowas wie ein Array.

[Mr_G]

Zitat von Flips:

...Jaein, aber wieso berechne ich dann bei Kohonennetzen den (euklidschen) Abstand von Inputvektor und Gewichtsvektor?
Ein Tupel wäre ja im einfachsten Fall sowas wie ein Array.

Meines Wissens nach ist ein Vektor mathematisch gesehen auch nur ein geordnetes n-Tupel und daher genau richtig für die Berechnungen im Rahmen Neuronaler Netze. Wenn du willst kannst du es dir auch als Array vorstellen. Keinen Sinn macht afaik eine geometrische Deutung (z.B. als Pfeil - hier kannst du dir auch nochmal die Herleitung der Matrizendarstellung ansehen...).

Was deine Frage mit den Kohonennetzen angeht ist das schon wieder etwas spezieller. Dabei geht es um den Lernalgorithmus, der in Netzen dieser Art angewendet wird. Es handelt sich hierbei um einen besonderen Typ des Lernens, nämlich das unsupervised learning (unbeaufsichtigtes Lernen = ohne Vorgabe von Ausgabemustern). Soweit ich weiß soll im Rahmen des zugehörigen Lernalgorithmus nun ermittelt werden welche Output-Unit am stärksten erregt wurde. Dazu wird dann der Abstand von Inputvektor und Gewichtsvektor (...der Ouputunit) berechnet. Je geringer nun der Abstand desto stärker die Erregung der Unit.

[Flips]

Zitat von Mr_G:

Meines Wissens nach ist ein Vektor mathematisch gesehen auch nur ein geordnetes n-Tupel und daher genau richtig für die Berechnungen im Rahmen Neuronaler Netze. Wenn du willst kannst du es dir auch als Array vorstellen. Keinen Sinn macht afaik eine geometrische Deutung (z.B. als Pfeil - hier kannst du dir auch nochmal die Herleitung der Matrizendarstellung ansehen...).

Was deine Frage mit den Kohonennetzen angeht ist das schon wieder etwas spezieller. Dabei geht es um den Lernalgorithmus, der in Netzen dieser Art angewendet wird. Es handelt sich hierbei um einen besonderen Typ des Lernens, nämlich das unsupervised learning (unbeaufsichtigtes Lernen = ohne Vorgabe von Ausgabemustern). Soweit ich weiß soll im Rahmen des zugehörigen Lernalgorithmus nun ermittelt werden welche Output-Unit am stärksten erregt wurde. Dazu wird dann der Abstand von Inputvektor und Gewichtsvektor (...der Ouputunit) berechnet. Je geringer nun der Abstand desto stärker die Erregung der Unit.

Exakt. Daher verwirrt mich hier diese "Neudefinition" des Gewichtsvektors. Denn der Abstand ist doch etwas geometrisches?!?

Aber danke für den Link, hab die Seite schon so oft durchforstet aber den Teil scheinbar immer übersehn!

[Mr_G]

Zitat von Flips:

Exakt. Daher verwirrt mich hier diese "Neudefinition" des Gewichtsvektors. Denn der Abstand ist doch etwas geometrisches?!?

Ich versteh nicht ganz was du mit "Neudefinition" des Gewichtsvetors meinst... Was den Abstand angeht: Im 2 bzw. 3-dimensionalen kann man ihn geometrisch deuten aber so wie ich das verstanden hab ist das eher ein Sonderfall( ). Prinzipiell gibt er sozusagen die Ähnlichkeit der Vektoren an.