Oblikoskladenjsko označevanje slovenskega jezika z globokimi nevronskimi mrežami

• Main Author: Belej, Primož
• Other Authors: Robnik Šikonja, Marko
• Format: Master Thesis
• Language: Slovenian
• Published: 2018
• Subjects: strojno učenje; oblikoskladenjsko označevanje; globoko učenje; konvolucijske nevronske mreže; rekurentne nevronske mreže; ansambli klasifikatorjev; machine learning; part-of-speech tagging; deep learning; convolutional neural networks; recurrent neural networks; ensemble classifiers; sami
• Online Access: https://repozitorij.uni-lj.si/IzpisGradiva.php?id=105266; https://repozitorij.uni-lj.si/Dokument.php?id=115884&dn=

V magistrskem delu se ukvarjamo z oblikoskladenjskim označevanjem slovenskega jezika. Pri tej nalogi s področja obdelave naravnega jezika povedim priredimo ustrezno zaporedje oznak, ki opisujejo oblikoskladenjske lastnosti besed. Za razliko od tipičnih pristopov, ki vhodne povedi obravnavajo na nivoju besed, naša rešitev obravnava vhodne povedi kot zaporedja znakov. Nalogo označevanja rešujemo s kombinacijo konvolucijskih in rekurentnih nevronskih mrež. Posebnost našega pristopa je tudi v sami naravi označevanja, saj ga ne obravnavamo kot problem večrazredne klasifikacije, temveč kot večznačno klasifikacijo, kjer primerom dodeljujemo oznake. Z namenom izboljšave rezultatov našo rešitev združimo v ansambel treh označevalnikov, skupaj z dvema obstoječima označevalnikoma za slovenski jezik. Ob primerjavi naše rešitve z obstoječimi ugotovimo, da predlagana rešitev dosega najboljše rezultate pri reševanju zadanega problema. The thesis deals with part of speech tagging of Slovene language. Part of speech tagging is a process of matching sentences in natural language with a sequence of suitable tags, which contain information about parts of speech and morphological properties of words. Our solution uses character-level representation of words, which is different from typical solutions, which process input sentences as sequences of words. Our part of speech tagger is implemented using convolutional and recurrent neural networks. Unlike common approaches that address this problem as multi-class classification, our solution proposes a multi-label classification approach. In order to improve our results we implement an ensemble of three part of speech taggers. When comparing our solution with existing ones, we find that the proposed solution achieves the best results.