Ahogy a neve is mutatja, a hátterjedés egy algoritmus hogy a visszaterjeszti a hibákat a kimeneti csomópontokról a bemeneti csomópontokra. Ezért egyszerűen „a hibák visszafejlődésének” nevezik. Ezt a megközelítést egy emberi agy elemzéséből fejlesztették ki. A beszédfelismerés, a karakterfelismerés, az aláírás-ellenőrzés, az emberi arcfelismerés a neurális hálózatok érdekes alkalmazásai. Az ideghálózatok felügyelt tanuláson mennek keresztül, a hálózaton áthaladó bemeneti vektor kimeneti vektort hoz létre. Ezt a kimeneti vektort ellenőrizzük a kívánt kimenettel. Ha az eredmény nem egyezik a kimeneti vektorral, akkor hibajelentés készül. A hibajelentés alapján a súlyokat a kívánt eredmény elérése érdekében állítják be.
Mi az a mesterséges neurális hálózat?
An Mesterséges ideghálózat felügyelt tanulási szabályokat alkalmaz, hogy hatékonnyá és hatékonnyá váljanak. Az ideghálózatokban található információ két különböző módon áramlik. Elsősorban akkor, amikor a modellt betanítják vagy tanulják, és amikor a modell normálisan működik - akár tesztelésre, akár bármilyen feladat végrehajtására. A különböző formájú információk bemeneti neuronokon keresztül kerülnek be a modellbe, több rejtett neuronréteget kiváltva, és eljutnak a kimeneti idegsejtekhez, amely feedforward hálózatként ismert.
Mivel az összes idegsejt nem váltja ki egyszerre, a balról érkező bemeneteket fogó idegsejtek megsokszorozódnak a súlyokkal, miközben rejtett rétegeken haladnak. Most összeadja az összes neuron összes bemenetét, és amikor az összeg meghaladja egy bizonyos küszöbszintet, a csendben maradt idegsejtek kiváltják és összekapcsolódnak.
A mesterséges idegháló tanulása az, hogy tanul abból, amit rosszul tett és helyesen cselekszik, és ezt visszacsatolásnak nevezik. A mesterséges neurális hálózatok visszacsatolással megtudják, mi a helyes és a rossz.
Mi a Backpropagation?
Meghatározás: A szaporítás elengedhetetlen mechanizmus, amellyel az ideghálózatok kiképzésre kerülnek. Ez egy olyan mechanizmus, amelyet a neurális hálózat súlyának finomhangolására használnak (a cikkben ezt másként modellnek nevezik) az előző iteráció során előállított hibaarány tekintetében. Hasonló egy messengerhez, aki elmondja a modellnek, ha a net hibázott vagy sem, amint azt jósolta.
backpropagation-neurális-hálózat
Az ideghálózatok hátterének terjedése a terjedés információ összekapcsolása a modell által generált hibával, amikor kitalálták. Ez a módszer csökkenti a hibát, amelyet egyébként veszteségfüggvénynek neveznek.
Hogyan működik a szaporítás - egyszerű algoritmus
A mélytanulás hátteresítése a mesterséges ideghálózatok képzésének szokásos megközelítése. Működése az, hogy - Kezdetben, amikor ideghálózatot terveznek, a véletlenszerű értékeket súlyként rendelik hozzá. A felhasználó nem biztos abban, hogy a hozzárendelt súlyértékek helyesek-e vagy megfelelnek-e a modellnek. Ennek eredményeként a modell a tényleges vagy várható kimenettől eltérő értéket ad ki, ami hibaérték.
Ahhoz, hogy a megfelelő kimenetet minimális hibával lehessen elérni, a modellt ki kell képezni egy releváns adatkészletre vagy paraméterekre, és minden előrejelzéskor figyelemmel kell kísérnie annak fejlődését. Az ideghálózat kapcsolatban áll a hibával, így amikor a paraméterek változnak, a hiba is megváltozik. A háttérpropagáció a delta szabály vagy a gradiens süllyedés néven ismert technikát használja a modell paramétereinek megváltoztatására.
A fenti ábra a backpropage működését mutatja be, és annak működését az alábbiakban adjuk meg.
- A bemeneteknél az „X” az előre összekapcsolt útról ér el
- „W”, a valós súlyokat használják a bemenet modellezésére. A W értékeit véletlenszerűen osztjuk ki
- Minden idegsejt kimenetét az előre továbbítás terjedésével - a bemeneti réteg, a rejtett réteg és a kimeneti réteg - számítják ki.
- A hibát a kimeneteknél számoljuk ki a Kimeneti és rejtett rétegeken keresztül visszafelé terjedés egyenlet segítségével, a súlyokat a hiba csökkentése érdekében állítjuk be.
Ismét haladjon előre a kimenet és a hiba kiszámításához. Ha a hibát minimalizálják, ez a folyamat befejeződik, vagy visszalép, és módosítja a súly értékeit.
Ez a folyamat addig ismétlődik, amíg a hiba a minimumra nem csökken, és a kívánt kimenetet nem kapja meg.
Miért van szükségünk szaporításra?
Ez egy olyan mechanizmus, amelyet az adott adatkészlethez kapcsolódó ideghálózat képzésére használnak. Néhány a Backpropagation előnyei vannak
- Egyszerű, gyors és könnyen programozható
- Csak a bemenet számai vannak hangolva, és nem egyéb paraméterek
- Nincs szükség előzetes ismeretekre a hálózattal kapcsolatban
- Rugalmas
- Szokásos megközelítés és hatékonyan működik
- Nem igényli, hogy a felhasználó speciális funkciókat tanuljon meg
A Backpropagation Network típusai
Kétféle hátterjedési hálózat létezik. Az alábbiak szerint osztályozzák:
Statikus hátterjedés
A statikus backpropagation a hálózat egyik típusa, amelynek célja a statikus bemenet feltérképezése a statikus kimenethez. Az ilyen típusú hálózatok képesek megoldani a statikus osztályozási problémákat, például az optikai karakterfelismerést (OCR).
Ismétlődő Backpropation
A visszatérő backpropagation egy másik típusú hálózat, amelyet a fixpontos tanulásban alkalmaznak. Az ismétlődő backpropagation aktivációit előre viszik, amíg el nem éri a rögzített értéket. Ezt követően egy hibát számolnak ki és terjednek visszafelé. A szoftver , A NeuroSolutions képes arra, hogy elvégezze a visszatérő hátteret.
A legfontosabb különbségek: A statikus backpropagation azonnali feltérképezést kínál, míg a visszatérő backpropagation feltérképezése nem azonnali.
A hátterjedés hátrányai
A hátterjedés hátrányai:
- A szaporítás valószínűleg érzékeny a zajos adatokra és a szabálytalanságokra
- Ennek teljesítménye nagymértékben függ a bemeneti adatoktól
- Túl sok időre van szüksége az edzéshez
- Mátrix alapú módszer szükségessége a backpropagation helyett mini-batch helyett
A Backpropagation alkalmazásai
Az alkalmazások
- Az ideghálózat arra van kiképezve, hogy kimondja egy szó és egy mondat minden betűjét
- Területén használják beszédfelismerés
- A karakter- és arcfelismerés területén használják
GYIK
1). Miért van szükségünk szaporításra az ideghálózatokban?
Ez egy olyan mechanizmus, amelyet az adott adatkészlethez kapcsolódó ideghálózat képzésére használnak
2). Mi a backpropagation algoritmus célja?
Ennek az algoritmusnak az a célja, hogy képzési mechanizmust hozzon létre az ideghálózatok számára annak biztosítása érdekében, hogy a hálózat képzett legyen a bemenetek megfelelő kimenetekhez való feltérképezéséhez.
3). Mekkora a tanulási arány a neurális hálózatokban?
A tanulási arányt az ideghálózat veszteségfüggvényének optimalizálása és minimalizálása összefüggésében határozzák meg. Arra a sebességre utal, amellyel egy neurális hálózat megtanulhatja az új adatokat, felülírva a régi adatot.
4). A neurális hálózat algoritmus?
Igen. A neurális hálózatok tanulási algoritmusok vagy szabályok sorozata a minták azonosítására szolgál.
5.) Mi az aktivációs funkció egy neurális hálózatban?
A neurális hálózat aktiválási funkciója a teljes összeg alapján eldönti, hogy az idegsejt aktiválni / indítani kell-e vagy sem.
Ebben a cikkben, a Backpropagation fogalma az ideghálózatok egy részét egyszerű nyelv segítségével magyarázzák, hogy az olvasó megértse. Ebben a módszerben az ideghálózatokat a generált hibákból képzik ki, hogy önellátóvá váljanak és bonyolult helyzeteket kezeljenek. A neurális hálózatok képesek pontosan tanulni egy példával.