Jezični model temeljen na neuronskoj mreži

Sažetak na hrvatskom: U ovom diplomskom radu razmatraju se četiri različita pristupa izgradnji jezičnih modela. U uvodu se daje kratak osvrt na moguće primjene jezičnih modela općenito. Potom se definiraju modeli bazirani na zaglađenom prebrojavanju n-grama (korištenjem aditivnog zaglađivanja i zagl...

Full description

Permalink: http://skupni.nsk.hr/Record/fer.KOHA-OAI-FER:46281/Details
Glavni autor: Stamenković, Florijan (-)
Ostali autori: Golub, Marin (Thesis advisor)
Vrsta građe: Drugo
Impresum: Zagreb, F. Stamenković, 2015.
Predmet:
LEADER 02964na a2200241 4500
003 HR-ZaFER
005 20160714131100.0
008 160221s2015 ci ||||| m||| 00| 0 hr d
035 |a (HR-ZaFER)ferid2623 
040 |a HR-ZaFER  |b hrv  |c HR-ZaFER  |e ppiak 
100 1 |a Stamenković, Florijan  |9 37563 
245 1 0 |a Jezični model temeljen na neuronskoj mreži :  |b diplomski rad /  |c Florijan Stamenković ; [mentor Marin Golub]. 
246 1 |a Neural language model  |i Naslov na engleskom:  
260 |a Zagreb,  |b F. Stamenković,  |c 2015. 
300 |a 45 str. ;  |c 30 cm +  |e CD-ROM 
502 |b diplomski studij  |c Fakultet elektrotehnike i računarstva u Zagrebu  |g smjer: Računarska znanost, šifra smjera: 56, datum predaje: 2015-06-30, datum završetka: 2015-07-14 
520 3 |a Sažetak na hrvatskom: U ovom diplomskom radu razmatraju se četiri različita pristupa izgradnji jezičnih modela. U uvodu se daje kratak osvrt na moguće primjene jezičnih modela općenito. Potom se definiraju modeli bazirani na zaglađenom prebrojavanju n-grama (korištenjem aditivnog zaglađivanja i zaglađivanja Kneser-Ney metodom), umjetnoj neuronskoj mreži bez skrivenih slojeva, log-bilinearnom modelu i ograničenom Boltzmannovom stroju. Razmatraju se teoretske i implementacijske posebnosti opisanih modela. Potom se modeli vrednuju standardnim mjerama i po uspješnosti na zadatku Microsoft Research Sentence Completion. Dobiveni rezultati se uspoređuju s rezultatima iz sličnih radova. Daje se kratko razmatranje vremenske i memorijske složenosti izrade i korištenja modela, kao i usporedba vremena treniranja korištenjem središnjih i grafičkih procesora. 
520 3 |a Sažetak na engleskom: This master thesis cosiders four approaches to language model implementation. An introduction into language models and their application is presented. Following are the definitions of models based on n-gram counts with additive and Kneser-Ney smoothing, neural networks with no hidden layers, log-bilinear models and Restricted Boltzmann Machines. For each a theoretical description is given, as well implementation details. Models are evaluated using standard metrics and on Microsoft Research Sentence Completion Challenge. Results are compared to those from other papers. A brief comparison of model complexity (in time and memory space) is offered, as well as a comparison of iterative model training speed using central versus graphical processors. 
653 1 |a jezični model  |a obrada prirodnog jezika  |a zaglađivanje \textit{n}-grama  |a Kneser-Ney  |a neuronska mreža  |a log-bilinear  |a Microsoft Research Sentence Completion Challenge  |a raspodjeljene reprezentacije  |a grafički procesor  |a Cuda 
653 1 |a language model  |a natural language processing  |a n-gram smoothing  |a Kneser-Ney  |a neural networks  |a log-bilinear  |a Microsoft Research Sentence Completion Challenge  |a distributed representations  |a Word2Vec  |a GPU  |a Cuda 
700 1 |a Golub, Marin  |4 ths  |9 13721 
942 |c Y  |2 udc 
999 |c 46281  |d 46281