Gaz neural

Gazul neuronale este o rețea neuronală artificială , inspirat carduri de auto-adaptive , și a introdus în 1991 de către Thomas Martinetz și Klaus Schulten . Gazul neuronal este un algoritm simplu pentru găsirea unei reprezentări optime a datelor din vectorii principali . Metoda a fost numită „gaz neural”, deoarece evoluția vectorilor principali în timpul etapei de învățare face să ne gândim la un gaz care ocupă un spațiu în mod uniform.

Acest algoritm este aplicat compresiei datelor sau cuantificării vectoriale , de exemplu în recunoașterea limbajului natural , în procesarea imaginilor sau în recunoașterea tiparului. Ca alternativă robustă și convergentă la algoritmul K-means , poate fi folosit pentru partiționarea datelor .

Algoritm

Este o distribuție de probabilitate P (x) pe vectorul x (date), și un număr terminat de vectori principali w i , i = 1, ..., N .

La fiecare pas de timp t (discret), un vector de intrare x este trasat aleatoriu conform legii P , pentru a fi prezentat algoritmului. Apoi, vectorii principali sunt ordonați de la cel mai apropiat la cel mai îndepărtat de acest vector x: i 0 va fi indicele vectorului principal cel mai apropiat de x, i 1 indicele celui de-al doilea cel mai apropiat etc., iar i N-1 reprezintă indicele vectorului principal cel mai îndepărtat de x . În cele din urmă, fiecare vector principal ( k = 0, ..., N-1 ) este adaptat conform regulii, dependent de k , care este aici:

w _ {{i_ {k}}} ^ {{t + 1}} = w _ {{i_ {k}}} ^ {{t}} + \ varepsilon \ cdot e ^ {{- k / \ lambda} } \ cdot (x-w _ {{i_ {k}}} ^ {{t}})

cu ε rata de adaptare și λ dimensiunea vecinătății. Pentru a asigura convergența, este necesar ca ε și λ să scadă în funcție de t (adică să scadă când t crește). După un număr suficient de pași de adaptare, vectorii principali acoperă (și reprezintă) spațiul de date cu o eroare de reprezentare minimă (sau aproape minimă).

Etapa de adaptare prezentă în algoritmul gazelor neuronale poate fi interpretată ca o coborâre în gradient a unei funcții de cost . Prin adaptarea tuturor vectorilor, și nu doar a celui mai apropiat de vectorii principali , cu o rată de adaptare invers proporțională cu distanța de la vectorul x, algoritmul reușește să obțină o convergență mult mai robustă decât alternativa sa, algoritmul K-medii ( chiar și versiunea sa în timp real).

Se poate observa că modelul gazelor neuronale nu îndepărtează niciodată un nod, dar niciodată nu adaugă unul.

Vezi și tu

Card autoadaptativ
Mașină cu stare lichidă
Retele neuronale artificiale
( fr ) Acest articol este preluat parțial sau în totalitate din articolul Wikipedia în limba engleză intitulat „ Neural_gas ” ( vezi lista autorilor ) .

Lecturi suplimentare

T. Martinetz, S. Berkovich și K. Schulten. Rețeaua „gazelor neuronale” pentru cuantificarea vectorială și aplicarea acesteia la predicția seriei temporale IEEE-Tranzacții pe rețele neuronale, 4 (4): 558-569, 1993.
T. Martinetz și K. Schulten. Topologie reprezentând rețele. Rețele neuronale, 7 (3): 507-522, 1994.

Referințe

Jean-Charles Lamirel, Zied Boulila, Maha Ghribi, Pascal Cuxac, Claire François (2010). „ Un nou algoritm de creștere incrementală a gazelor neuronale bazat pe etichetarea clusterelor prin maximizarea probabilității: aplicarea la gruparea corpurilor mari de date textuale eterogene ”.
Ingrid Falk, Achiziționarea de clase verbale pentru franceză ,2012( citește online ) :
„Al doilea exploatează un algoritm în creștere a gazelor neuronale bazat pe etichetarea clusterelor prin maximizarea probabilității (IGNGF - Gaz neuronal în creștere incrementală cu maximizarea caracteristicilor)”
Thomas Martinetz și Klaus Schulten (1991). „ O rețea„ gaz neural ”învață topologii „ Rețele neuronale artificiale : 397–402 p ..
(2000) „ Metode de învățare competitivă pentru cuantificări vectoriale eficiente într-un mediu de recunoaștere a vorbirii ” MICAI 2000: Progrese în inteligența artificială: Conferința internațională mexicană de inteligență artificială, Acapulco, Mexic, aprilie 2000: proceduri .
(2005) „ Reper automat al formelor medicale 2D folosind rețeaua de gaze neuronale în creștere ” Viziune computerizată pentru aplicații de imagine biomedicală: primul atelier internațional, CVBIA 2005, Beijing, China, 21 octombrie 2005: proceduri ( DOI : 10.1007 / 11569541_22 ).
(2007) „ Modificarea algoritmului gazelor neuronale în creștere pentru analiza clusterelor ” Progres în recunoașterea modelelor, analiza imaginii și aplicații: al 12-lea Congres Iberoamerican de Recunoaștere a Modelelor, CIARP 2007, Viña del Mar-Valparaiso, Chile, 13-16 noiembrie 2007 ; proceduri : 684–693 p. ( DOI : 10.1007 / 978-3-540-76725-1_71 ).

linkuri externe

DemoGNG este un applet Java care ilustrează gazele neuronale, crește algoritmii gazelor neuronale, precum și hărți autoadaptative și alte metode legate de învățarea eficientă.
Algoritmul gazelor neuronale.