Grafové neurónové siete pre spracovanie prirodzeného jazyka: Neurónové siete a ich využitie v praxi: prehľad (A Survey)

Pôvodný názov:

Graph Neural Networks for Natural Language Processing: A Survey

Obsah knihy:

Hlboké učenie sa stalo dominantným prístupom pri riešení rôznych úloh v oblasti spracovania prirodzeného jazyka (NLP). Hoci textové vstupy sú zvyčajne reprezentované ako postupnosť tokenov, existuje bohatá škála problémov NLP, ktoré možno najlepšie vyjadriť pomocou grafovej štruktúry. Výsledkom je prudký nárast záujmu o vývoj nových techník hlbokého učenia na grafoch pre veľký počet úloh NLP.

V tejto monografii autori predstavujú komplexný prehľad o grafových neurónových sieťach (GNN) na spracovanie prirodzeného jazyka. Navrhujú novú taxonómiu GNN pre NLP, ktorá systematicky usporadúva existujúci výskum GNN pre NLP podľa troch osí: konštrukcia grafov, učenie reprezentácie grafov a modely kódovania a dekódovania založené na grafoch. Ďalej uvádzajú veľký počet aplikácií NLP, ktoré využívajú silu GNN, a sumarizujú príslušné referenčné súbory údajov, hodnotiace metriky a kódy s otvoreným zdrojovým kódom. Nakoniec diskutujú o rôznych zostávajúcich výzvach na plné využitie GNN pre NLP, ako aj o budúcich smeroch výskumu.

Toto je prvý komplexný prehľad grafických neurónových sietí na spracovanie prirodzeného jazyka. Študentom a výskumníkom poskytuje stručný a prístupný zdroj informácií, ktorý im umožní rýchlo sa oboznámiť s dôležitou oblasťou výskumu strojového učenia.