Artykuł  

Noisy-parallel and comparable corpora filtering methodology for the extraction of bi-lingual equivalent data at sentence level

Link do zdalnego zasobu
Dostęp z terminali w BG AGH
Data publikacji
2015
Data publikacji (copyright)
Data prezentacji
Data obrony
Data nadania stopnia
Autorzy (rel.)
Wołk, Krzysztof
Nr albumu:
Prawa dostępu
Dostęp: otwarty dostęp
Uwagi:
Prawa: CC BY 4.0
Attribution 4.0 International
Uznanie autorstwa 4.0 Międzynarodowe (CC BY 4.0)

Inny tytuł
Typ zasobu:
artykuł
Wersja
wersja wydawnicza
Sygnatura:
Nr normy / patentu
Numer czasopisma (rel.)
Numer czasopisma
Computer Science
2015 - Vol. 16 - No. 2
Szczegóły wydania / pracy
Uczelnia:
Opublikowane w: Computer Science. -:. Vol. 16 No. 2, pp. 169-184
Opis fizyczny:Skala:Zasięg:
ISBN:e-ISBN:
Seria:ISSN: 1508-2806e-ISSN: 2300-7036
Jednostka AGH:
Kierunek:
Forma studiów:
Stopień studiów:
Uzyskany tytuł:
Instytucja sprawcza:
Redaktorzy (rel.)
Promotorzy (rel.)
Recenzenci (rel.)
Projekty badawcze (rel.)
Projekt
Tytuł:
ID:Program:
Instytucja Finansująca
ROR: 
Dane badawcze:
Jednostki organizacyjne (rel.)
Wydarzenia (rel.)
Dyscyplina
Słowa kluczowe
statistical machine translation, NLP, comparable corpora, text filtering
Dyscyplina (2011-2018)
Specjalność
Klasyfikacja MKP
Abstrakt

Text alignment and text quality are critical to the accuracy of Machine Translation (MT) systems, some NLP tools, and any other text processing tasks requiring bilingual data. This research proposes a language-independent bisentence filtering approach based on Polish (not a position-sensitive language) to English experiments. This cleaning approach was developed on the TED Talks corpus and also initially tested on the Wikipedia comparable corpus, but it can be used for any text domain or language pair. The proposed approach implements various heuristics for sentence comparison. Some of the heuristics leverage synonyms as well as semantic and structural analysis of text as additional information. Minimization of data loss has been? ensured. An improvement in MT system scores with text processed using this tool is discussed.

Opis
Zawartość