[学术前沿]2021年5月arxiv简介论文浅读
2021-05-02 本文已影响0人
be5e948f337b
- 5月2日
- Text-to-Text Multi-view Learning for Passage Re-ranking
- 近期自然语言处理地很多进展都是由在大型语料库上预训练得到的深度语境化表征推动的。通常情况下,针对一些特定的下游任务对预训练模型进行微调是基于单视角的学习。但是这是不够充分的,因为一个句子根据语境观点的不同可以有不同的理解和解释。因此,在本篇论文中,作者提出了一个Text-to-Text的多视角学习框架,将一个额外的视角(即文本生成视角)纳入经典的单视角段落排名模型。从经验上来看,所提出的新方法与单视角学习方法相比,对排名效果有帮助。同时在文中也有关于消灭研究的报告。
tag:pretrained models
,single-view learning
,multi-view learning
,Ablation study