Subclasă | Modelul statistic |
---|---|
Aspect al | Prelucrare automată a limbajului natural |
În procesarea automată a limbajului , un model de limbaj este un model statistic care modelează distribuția secvențelor de cuvinte, mai general a secvențelor de simboluri discrete (litere, foneme, cuvinte), într-un limbaj natural. Un model de limbaj poate, de exemplu, prezice cuvântul urmând o succesiune de cuvinte.
BERT și GPT-3 sunt modele lingvistice.
Bender și colab. 2021 pune sub semnul întrebării relevanța imenselor modele de limbă pre-instruite.