Gépi tanulási módszerek támadhatóságának vizsgálata

OData támogatás
Konzulens:
Lestyán Szilvia
Hálózati Rendszerek és Szolgáltatások Tanszék

A gépi tanulás legdinamikusabban fejlődő ágazata a képfelismerés. Az egyre növekvő számítási kapacitás és az egyre több és jobb minőségű adat lehetővé tette olyan neurális hálózatok megalkotását, amelyek képesek az emberi teljesítőképességgel is versenybe szállni. Ez tette indokolttá, hogy az informatikai rendszerek egyre szélesebb körében alkalmaznak különféle tanuló algoritmusokat. A sikerek ellenére azonban felismerték, hogy ezeknek az algoritmusoknak számos sebezhetőségi pontja van, amelyek kiküszöbölése komoly kihívás. A szakdolgozatom célja bemutatni ezeket a támadási felületeket, illetve saját példákon keresztül bemutatni a white box támadás hatékonyságát. A megvalósításhoz olyan konvolúciós neurális hálózatokat használok, amelyek az MNIST adatbázis kézzel írt szemjegyeinek felismerésére szolgálnak. A támadói mintákat generáló algoritmusok képesek ezeket a számjegyeket úgy módosítani, hogy szabad szemmel alig észlelhető a változás, ugyan akkor a gép tévesen osztályozza azokat. Áttekintem ezeknek az algoritmusoknak a matematikai hátterét, illetve különböző tesztesetek során bemutatom és értékelem azok hatékonyságát.

Letölthető fájlok

A témához tartozó fájlokat csak bejelentkezett felhasználók tölthetik le.