Mesterséges neurális hálók hatékony modellillesztése TensorFlow alapokon

OData támogatás
Konzulens:
Barta Gergő
Távközlési és Médiainformatikai Tanszék

A diplomaterv során egy új módszert kutatok gradiens alapú gépi tanuló rendszerek modellillesztésének optimalizálására. Amire azért van szükség, mert a gépi tanuló rendszerek esetenként több millió paramétert használnak egy-egy rendszer modellezésére, amely miatt képesek olyan összefüggéseket megtalálni, amelyek csak az adott adathalmazon érvényesek, azaz az általános összefüggések helyett a tanító adathalmaz sajátosságaira illeszteni. Ez hosszú távon a neurális hálózat teljesítményének és hasznosíthatóságának radikális csökkenéséhez vezet.

Az általam bemutatott stratégia egy lehetséges módszert ad a hibás paraméterek automatizált szűrésére heurisztika segítségével. A modell optimalizációra használt technika automatizált módon képes a neurális hálókban létező rossz összefüggések meghatározására, majd generációs módon a modell szűkítésére, ilyen módon a modellillesztés hatékonyságának növelésére és gyorsítására.

Az általam kutatott módszer lehetőséget ad egy ismeretlen összefüggéshalmaz feltérképezésére azáltal, hogy túlparaméterezett modellt leszűkíti a hibásnak értékelt paraméterek kiszűrésével. A folyamat végeredményeként egy olyan összefüggéshalmazt kapunk, amely ugyan olyan jól illeszkedik az tanulásra szánt adatsorhoz, azonban kevesebb paraméterrel. Ennek megfelelően az új modell túltanulás ellen védett és jobb eredményt ér el a validációs folyamatban.

Letölthető fájlok

A témához tartozó fájlokat csak bejelentkezett felhasználók tölthetik le.