请问 HuggingFace 的 roberta 的 pooler_output 是怎么来的？

March 29, 2026

pooler output是取 [CLS]标记处对应的向量后面接个全连接再接tanh激活后的输出。一般来说可以在这个pooler output后面接个分类层，进行句子级别的分类任务。 roberta由于没有NSP任务也就是句子对分类任务，因此应该他们训练的时候是没有这部分权重的。

https://www.zhihu.com/question/466862920

请问 HuggingFace 的 roberta 的 pooler_output 是怎么来的？ <body> <h1> Array ( [0] => 请问 guggingface 的 roberta 的 pooler_output 是怎么来的？ [1] => 请问 buggingface 的 roberta 的 pooler_output 是怎么来的？ [2] => 请问 nuggingface 的 roberta 的 pooler_output 是怎么来的？ [3] => 请问 juggingface 的 roberta 的 pooler_output 是怎么来的？ [4] => 请问 uuggingface 的 roberta 的 pooler_output 是怎么来的？ [5] => 请问 yuggingface 的 roberta 的 pooler_output 是怎么来的？ [6] => 请问 hyggingface 的 roberta 的 pooler_output 是怎么来的？ [7] => 请问 hhggingface 的 roberta 的 pooler_output 是怎么来的？ [8] => 请问 hjggingface 的 roberta 的 pooler_output 是怎么来的？ [9] => 请问 higgingface 的 roberta 的 pooler_output 是怎么来的？ [10] => 请问 h8ggingface 的 roberta 的 pooler_output 是怎么来的？ [11] => 请问 h7ggingface 的 roberta 的 pooler_output 是怎么来的？ [12] => 请问 hufgingface 的 roberta 的 pooler_output 是怎么来的？ [13] => 请问 huvgingface 的 roberta 的 pooler_output 是怎么来的？ [14] => 请问 hubgingface 的 roberta 的 pooler_output 是怎么来的？ [15] => 请问 huhgingface 的 roberta 的 pooler_output 是怎么来的？ [16] => 请问 huygingface 的 roberta 的 pooler_output 是怎么来的？ [17] => 请问 hutgingface 的 roberta 的 pooler_output 是怎么来的？ [18] => 请问 hugfingface 的 roberta 的 pooler_output 是怎么来的？ [19] => 请问 hugvingface 的 roberta 的 pooler_output 是怎么来的？ [20] => 请问 hugbingface 的 roberta 的 pooler_output 是怎么来的？ [21] => 请问 hughingface 的 roberta 的 pooler_output 是怎么来的？ [22] => 请问 hugyingface 的 roberta 的 pooler_output 是怎么来的？ [23] => 请问 hugtingface 的 roberta 的 pooler_output 是怎么来的？ [24] => 请问 huggungface 的 roberta 的 pooler_output 是怎么来的？ [25] => 请问 huggjngface 的 roberta 的 pooler_output 是怎么来的？ [26] => 请问 huggkngface 的 roberta 的 pooler_output 是怎么来的？ [27] => 请问 huggongface 的 roberta 的 pooler_output 是怎么来的？ [28] => 请问 hugg9ngface 的 roberta 的 pooler_output 是怎么来的？ [29] => 请问 hugg8ngface 的 roberta 的 pooler_output 是怎么来的？ [30] => 请问 huggibgface 的 roberta 的 pooler_output 是怎么来的？ [31] => 请问 huggimgface 的 roberta 的 pooler_output 是怎么来的？ [32] => 请问 huggijgface 的 roberta 的 pooler_output 是怎么来的？ [33] => 请问 huggihgface 的 roberta 的 pooler_output 是怎么来的？ [34] => 请问 hugginfface 的 roberta 的 pooler_output 是怎么来的？ [35] => 请问 hugginvface 的 roberta 的 pooler_output 是怎么来的？ [36] => 请问 hugginbface 的 roberta 的 pooler_output 是怎么来的？ [37] => 请问 hugginhface 的 roberta 的 pooler_output 是怎么来的？ [38] => 请问 hugginyface 的 roberta 的 pooler_output 是怎么来的？ [39] => 请问 huggintface 的 roberta 的 pooler_output 是怎么来的？ [40] => 请问 huggingdace 的 roberta 的 pooler_output 是怎么来的？ [41] => 请问 huggingcace 的 roberta 的 pooler_output 是怎么来的？ [42] => 请问 huggingvace 的 roberta 的 pooler_output 是怎么来的？ [43] => 请问 hugginggace 的 roberta 的 pooler_output 是怎么来的？ [44] => 请问 huggingtace 的 roberta 的 pooler_output 是怎么来的？ [45] => 请问 huggingrace 的 roberta 的 pooler_output 是怎么来的？ [46] => 请问 huggingfzce 的 roberta 的 pooler_output 是怎么来的？ [47] => 请问 huggingfsce 的 roberta 的 pooler_output 是怎么来的？ [48] => 请问 huggingfwce 的 roberta 的 pooler_output 是怎么来的？ [49] => 请问 huggingfqce 的 roberta 的 pooler_output 是怎么来的？ [50] => 请问 huggingfaxe 的 roberta 的 pooler_output 是怎么来的？ [51] => 请问 huggingfave 的 roberta 的 pooler_output 是怎么来的？ [52] => 请问 huggingfafe 的 roberta 的 pooler_output 是怎么来的？ [53] => 请问 huggingfade 的 roberta 的 pooler_output 是怎么来的？ [54] => 请问 huggingfacw 的 roberta 的 pooler_output 是怎么来的？ [55] => 请问 huggingfacs 的 roberta 的 pooler_output 是怎么来的？ [56] => 请问 huggingfacd 的 roberta 的 pooler_output 是怎么来的？ [57] => 请问 huggingfacr 的 roberta 的 pooler_output 是怎么来的？ [58] => 请问 huggingfac4 的 roberta 的 pooler_output 是怎么来的？ [59] => 请问 huggingfac3 的 roberta 的 pooler_output 是怎么来的？ [60] => 请问 huggingface 的 eoberta 的 pooler_output 是怎么来的？ [61] => 请问 huggingface 的 doberta 的 pooler_output 是怎么来的？ [62] => 请问 huggingface 的 foberta 的 pooler_output 是怎么来的？ [63] => 请问 huggingface 的 toberta 的 pooler_output 是怎么来的？ [64] => 请问 huggingface 的 5oberta 的 pooler_output 是怎么来的？ [65] => 请问 huggingface 的 4oberta 的 pooler_output 是怎么来的？ [66] => 请问 huggingface 的 riberta 的 pooler_output 是怎么来的？ [67] => 请问 huggingface 的 rkberta 的 pooler_output 是怎么来的？ [68] => 请问 huggingface 的 rlberta 的 pooler_output 是怎么来的？ [69] => 请问 huggingface 的 rpberta 的 pooler_output 是怎么来的？ [70] => 请问 huggingface 的 r0berta 的 pooler_output 是怎么来的？ [71] => 请问 huggingface 的 r9berta 的 pooler_output 是怎么来的？ [72] => 请问 huggingface 的 roverta 的 pooler_output 是怎么来的？ [73] => 请问 huggingface 的 ronerta 的 pooler_output 是怎么来的？ [74] => 请问 huggingface 的 roherta 的 pooler_output 是怎么来的？ [75] => 请问 huggingface 的 rogerta 的 pooler_output 是怎么来的？ [76] => 请问 huggingface 的 robwrta 的 pooler_output 是怎么来的？ [77] => 请问 huggingface 的 robsrta 的 pooler_output 是怎么来的？ [78] => 请问 huggingface 的 robdrta 的 pooler_output 是怎么来的？ [79] => 请问 huggingface 的 robrrta 的 pooler_output 是怎么来的？ [80] => 请问 huggingface 的 rob4rta 的 pooler_output 是怎么来的？ [81] => 请问 huggingface 的 rob3rta 的 pooler_output 是怎么来的？ [82] => 请问 huggingface 的 robeeta 的 pooler_output 是怎么来的？ [83] => 请问 huggingface 的 robedta 的 pooler_output 是怎么来的？ [84] => 请问 huggingface 的 robefta 的 pooler_output 是怎么来的？ [85] => 请问 huggingface 的 robetta 的 pooler_output 是怎么来的？ [86] => 请问 huggingface 的 robe5ta 的 pooler_output 是怎么来的？ [87] => 请问 huggingface 的 robe4ta 的 pooler_output 是怎么来的？ [88] => 请问 huggingface 的 roberra 的 pooler_output 是怎么来的？ [89] => 请问 huggingface 的 roberfa 的 pooler_output 是怎么来的？ [90] => 请问 huggingface 的 roberga 的 pooler_output 是怎么来的？ [91] => 请问 huggingface 的 roberya 的 pooler_output 是怎么来的？ [92] => 请问 huggingface 的 rober6a 的 pooler_output 是怎么来的？ [93] => 请问 huggingface 的 rober5a 的 pooler_output 是怎么来的？ [94] => 请问 huggingface 的 robertz 的 pooler_output 是怎么来的？ [95] => 请问 huggingface 的 roberts 的 pooler_output 是怎么来的？ [96] => 请问 huggingface 的 robertw 的 pooler_output 是怎么来的？ [97] => 请问 huggingface 的 robertq 的 pooler_output 是怎么来的？ [98] => 请问 huggingface 的 roberta 的 oooler_output 是怎么来的？ [99] => 请问 huggingface 的 roberta 的 looler_output 是怎么来的？ [100] => 请问 huggingface 的 roberta 的 -ooler_output 是怎么来的？ [101] => 请问 huggingface 的 roberta 的 0ooler_output 是怎么来的？ [102] => 请问 huggingface 的 roberta 的 pioler_output 是怎么来的？ [103] => 请问 huggingface 的 roberta 的 pkoler_output 是怎么来的？ [104] => 请问 huggingface 的 roberta 的 ploler_output 是怎么来的？ [105] => 请问 huggingface 的 roberta 的 ppoler_output 是怎么来的？ [106] => 请问 huggingface 的 roberta 的 p0oler_output 是怎么来的？ [107] => 请问 huggingface 的 roberta 的 p9oler_output 是怎么来的？ [108] => 请问 huggingface 的 roberta 的 poiler_output 是怎么来的？ [109] => 请问 huggingface 的 roberta 的 pokler_output 是怎么来的？ [110] => 请问 huggingface 的 roberta 的 poller_output 是怎么来的？ [111] => 请问 huggingface 的 roberta 的 popler_output 是怎么来的？ [112] => 请问 huggingface 的 roberta 的 po0ler_output 是怎么来的？ [113] => 请问 huggingface 的 roberta 的 po9ler_output 是怎么来的？ [114] => 请问 huggingface 的 roberta 的 pooker_output 是怎么来的？ [115] => 请问 huggingface 的 roberta 的 pooper_output 是怎么来的？ [116] => 请问 huggingface 的 roberta 的 poooer_output 是怎么来的？ [117] => 请问 huggingface 的 roberta 的 poolwr_output 是怎么来的？ [118] => 请问 huggingface 的 roberta 的 poolsr_output 是怎么来的？ [119] => 请问 huggingface 的 roberta 的 pooldr_output 是怎么来的？ [120] => 请问 huggingface 的 roberta 的 poolrr_output 是怎么来的？ [121] => 请问 huggingface 的 roberta 的 pool4r_output 是怎么来的？ [122] => 请问 huggingface 的 roberta 的 pool3r_output 是怎么来的？ [123] => 请问 huggingface 的 roberta 的 poolee_output 是怎么来的？ [124] => 请问 huggingface 的 roberta 的 pooled_output 是怎么来的？ [125] => 请问 huggingface 的 roberta 的 poolef_output 是怎么来的？ [126] => 请问 huggingface 的 roberta 的 poolet_output 是怎么来的？ [127] => 请问 huggingface 的 roberta 的 poole5_output 是怎么来的？ [128] => 请问 huggingface 的 roberta 的 poole4_output 是怎么来的？ [129] => 请问 huggingface 的 roberta 的 pooler_iutput 是怎么来的？ [130] => 请问 huggingface 的 roberta 的 pooler_kutput 是怎么来的？ [131] => 请问 huggingface 的 roberta 的 pooler_lutput 是怎么来的？ [132] => 请问 huggingface 的 roberta 的 pooler_putput 是怎么来的？ [133] => 请问 huggingface 的 roberta 的 pooler_0utput 是怎么来的？ [134] => 请问 huggingface 的 roberta 的 pooler_9utput 是怎么来的？ [135] => 请问 huggingface 的 roberta 的 pooler_oytput 是怎么来的？ [136] => 请问 huggingface 的 roberta 的 pooler_ohtput 是怎么来的？ [137] => 请问 huggingface 的 roberta 的 pooler_ojtput 是怎么来的？ [138] => 请问 huggingface 的 roberta 的 pooler_oitput 是怎么来的？ [139] => 请问 huggingface 的 roberta 的 pooler_o8tput 是怎么来的？ [140] => 请问 huggingface 的 roberta 的 pooler_o7tput 是怎么来的？ [141] => 请问 huggingface 的 roberta 的 pooler_ourput 是怎么来的？ [142] => 请问 huggingface 的 roberta 的 pooler_oufput 是怎么来的？ [143] => 请问 huggingface 的 roberta 的 pooler_ougput 是怎么来的？ [144] => 请问 huggingface 的 roberta 的 pooler_ouyput 是怎么来的？ [145] => 请问 huggingface 的 roberta 的 pooler_ou6put 是怎么来的？ [146] => 请问 huggingface 的 roberta 的 pooler_ou5put 是怎么来的？ [147] => 请问 huggingface 的 roberta 的 pooler_outout 是怎么来的？ [148] => 请问 huggingface 的 roberta 的 pooler_outlut 是怎么来的？ [149] => 请问 huggingface 的 roberta 的 pooler_out-ut 是怎么来的？ [150] => 请问 huggingface 的 roberta 的 pooler_out0ut 是怎么来的？ [151] => 请问 huggingface 的 roberta 的 pooler_outpyt 是怎么来的？ [152] => 请问 huggingface 的 roberta 的 pooler_outpht 是怎么来的？ [153] => 请问 huggingface 的 roberta 的 pooler_outpjt 是怎么来的？ [154] => 请问 huggingface 的 roberta 的 pooler_outpit 是怎么来的？ [155] => 请问 huggingface 的 roberta 的 pooler_outp8t 是怎么来的？ [156] => 请问 huggingface 的 roberta 的 pooler_outp7t 是怎么来的？ [157] => 请问 huggingface 的 roberta 的 pooler_outpur 是怎么来的？ [158] => 请问 huggingface 的 roberta 的 pooler_outpuf 是怎么来的？ [159] => 请问 huggingface 的 roberta 的 pooler_outpug 是怎么来的？ [160] => 请问 huggingface 的 roberta 的 pooler_outpuy 是怎么来的？ [161] => 请问 huggingface 的 roberta 的 pooler_outpu6 是怎么来的？ [162] => 请问 huggingface 的 roberta 的 pooler_outpu5 是怎么来的？ ) </h1> </body>