Tumačenje neuronskih modela za obradu prirodnoga jezika : završni rad - Benčik, Livio (L. Benčik, 2019)
Sažetak na hrvatskom: Neuronski modeli danas nalaze široku primjenu u obradi prirodnoga jezika te polučuju izvrsne rezultate na nizu zadataka analize teksta. Istovremeno, budući da nemaju eksplicitnih značajki koje bi bile izgrađene na temelju tekstnog ulaza, nedostatak ovih modela jest da su nerijetko teško tumačivi, tj. teško je objasniti klasifikacijsku odluku pojedinačnih primjera. U literaturi je predloženo niz postupaka koji ciljaju povećati tumačivost neuronskih modela, kao što su brisanje reprezentacija ili postupci temeljeni na gradijentu. Tema završnoga rada jesu postupci za tumačenje neuronskih modela u zadatcima obrade prirodnoga jezika. Proučiti postupke za tumačenje odluka neuronskih modela s naglaskom na one primjenjive u obradi prirodnoga jezika. Implementirati odnosno prilagoditi postojeće implementacije neuronskih modela za nekoliko tipičnih zadataka obrade prirodnog jezika, poput analize sentimenta, odgovaranja na pitanja i zaključivanja. Odabrati jedan ili dva standardna postupka za tumačenje odluka neuronskih modela, primjerice brisanje reprezentacije ili analizu gradijenta, te ih primijeniti na ove modele i zadatke. Načiniti usporedbu i sustavnu analizu postupaka za različite modele i zadatke. Radu priložiti izvorni kod razvijenog sustava, označene skupove podataka, naučene modele te citirati korištenu literaturu.