A mély neurális hálók átverhetőségéről
Annak ellenére, hogy sok esetben milyen sikereket érnek el a konvolúciós neurális hálók, azért valahogy a dolog mégsem az igazi, mert ezek a rendszerek könnyen átejthetőek. Persze ez több dolgot is jelenthet. Az egyik, hogy mi emberek teljesen máshogy működünk, és a mostani irány zsákutca, amennyiben a cél az emberi látás működésének leutánozása. A másik, hogy valóban így működik a látásunk, de mindez csak egy része valami komplexebb rendszernek. Talán az agyunk egy kis része ugyanígy azt mondaná a lenti krix-krax-okra, hogy ott egy gitár van, vagy épp egy alma, de más részek amik más attribútumokat vizsgálnak, leszavazzák a látó rendszerünk ezen részét. Mindebből a tudatunkban annyi manifesztálódik, hogy az ott egy krix-krax, és semmiképp nem gitár, vagy alma. Szóval ami a lényeg, hogy ezek a tesztek nem feltétlenül a jelenlegi technológia hibájára utalnak. Lehet, hogy ezek csak hiányosságok, és csupán plusz komponensek hozzáadása szükséges, hogy emberi látáshoz jobban hasonlítsanak.
#blog
http://www.youtube.com/watch?v=M2IebCN9Ht4
Összetettebb okok is lehetnek. Pl az ember tapaszralat alapján tudja, hogy az busz vagy gitár vagy zaj. Azaz a zajra is van tapasztalata. Illetve egy bizonyos komplexitás után eldönti az agyunk, hogy zajt lát és nem keres rendszert benne már. Míg a gép tovább keres.
VálaszTörlésSancho Virág Attila erre szavazok én is :) Szerintem simán ugyanígy működünk mi is csak nekünk még ennél is sokkal-sokkal bonyolúltabb ez a rendszerünk. Valószínűleg olyan ingerek is közbejátszanak egy ilyen kiválasztásnál amire nem is gondolnánk, viszont mivel ezeket a gépi algoritmusokat alapvetően egyfajta ingerrel (képek) tanítják, nem kerülnek szóba. A legkomolyabb képfelismerő neurális hálók, bár impresszívek, még mindig nincsenek egy csecsemő intelligenciájával sem megáldva.
VálaszTörlésApropó, ha van egy szabad 2-3 órátok, javaslom ezt a cikket és a folytatását :) Főleg a folytatása volt érdekes nekem mert az első rész nem sok újdonságot mondott, viszont elég jól össze van szedve és élvezetesen ír az ürge http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Egyébként érdekesek azok a képek. A többségnél olyan érzésem volt mintha Fourier trafót eresztettél volna az eredeti képre és abból is felismerné a neurális háló az eredeti képet. Nem tudom ilyen függvény transzformációk szempontból vizsgálták-e ezt a problémát, bár nálam biztos sokkal okosabbak akik ezzel játszanak :)
VálaszTörlés