2021年2月16日

预测单词的语法属性有助于我们更快地阅读

由国家研究大学高等经济学学院

来自HSE中心的心理学家对语言和大脑的发现发现，当阅读时，人们不仅可以预测特定的单词，还可以帮助他们的语法属性，这有助于他们更快地阅读。研究人员还发现，通过使用神经网络，可以成功建模单词和语法特征的可预测性。该研究发表在杂志普罗斯一体。

在过去40年来，许多心理学和神经辨数研究都描述了预测另一个人的演讲或阅读中的下一个词的能力。假设这种能力允许我们更快地处理信息。最近的英语出版物语已经证明了阅读，虽然阅读，人们不仅可以预测特定的话语，还可以预测他们的性质（例如，言语或语义组的一部分）。这种局部预测也有助于我们阅读更快。

为了在一个上下文中访问某个词的可预测性，研究人员通常使用渗透任务，例如“事故的原因是移动电话，这分散了______。”在这句话中，不同的名词是可能的，但驱动程序是最可能的，这也是句子的真实结局。上下文中的“驱动程序”一词的概率计算为正确猜测完成任务的人总数的人数。

其他用于预测语境中概率的方法是使用语言模型，这些模型提供依赖于大语料库的词概率。然而，几乎没有研究会将从电流任务收到的概率与语言模型中的那些进行比较。此外，没有人试图模拟被描述的单词的语法可预测性。本文的作者决定了解母语俄语扬声器是否预测词语的语法属性以及语言模型概率是否可能成为来自泄固任务的可靠替代。

研究人员分析了在144个句子中凝固任务中605名俄语演讲者的回应，发现人们可以在大约18％的情况下精确预测特定的单词。言语和形态学特征的部分预测（性别，名词的性别，数量和案例;动词时的性别，数量，人和性别）的言论和形态学特征的精确度从63％变化到78％。他们发现，在俄罗斯国家语料库上接受培训的神经网络模型预测了具有精确性的特定词语和语法性质，与实验中的人们的答案相当。重要观察是神经网络比人类更好地预测低概率词，并预测比人类更糟糕的高概率词。

该研究的第二步是确定实验和基于语料库的概率如何影响读取速度。为了参考这一点，研究人员分析了96名正在阅读相同144句话的人的眼球运动数据。结果表明，首先，猜测词性部分的概率越高，名词的性别和名词数量以及动词的时态，人们读取了这些特征的人读取了越快。

研究人员称，这证明，对于具有富含形态的语言，例如俄罗斯，预测在很大程度上与猜测语言的语法属性有关。

其次，从神经网络模型获得的语法特征的概率将读取速度正确解释为实验概率。“这意味着对于进一步研究，我们将能够在语言模型中使用基于语料库的概率而不进行新的隐冻任务的实验，”anastasiya lopukhina评论道www.hse.ru/en/staff/lopukhina.，HSE语言和大脑HSE中心研究员的作者。

第三，与基于实验的概率相比，从语言模型接收的特定单词的概率以不同的方式解释了读取速度。作者假设这样的结果可能与基于语料库的不同来源和实验概率有关：基于语料库的方法对于低概率词来说更好，实验结果更好地对高概率。

“在这项工作中，两件事对我们很重要。首先，我们发现阅读与丰富的形态的母语师语积极涉及语法预测，'anastasiya lopukhina说。'第二，学习预测的同事，语言学家和心理学家有机会评估语言的话语概率模型：lm.ll-cl.org/。这将允许他们大大简化研究过程。