2021年了，有哪些效果明显强于bert和roberta的预训练模型？

January 20, 2026

英文领域： deberta v3：微软开源的模型，在许多任务上超过了bert和roberta，现在kaggle中比较常用此模型打比赛，也侧面反映了deberta v3的效果是最好的。 ernie 2.0：这个百度是只开源了英文版，我试过比roberta略好。