微调 BERT 与 BERT + Spacy 进行文本分类

问题描述 投票:0回答:0

我对微调 BERT 或其他用于文本分类的 LLM 之间的区别/优势感到有点困惑,而不是仅仅将 BERT 嵌入与 Spacy 管道一起使用。

我相信通过使用 Spacy 管道,速度和灵活性(不同的管道,如 POS 标记器等)将是两个优势。但是似乎行业标准只是微调像 BERT 这样的 LLM 直接做分类?以这种方式解决问题的主要好处是什么?

我是用Spacy pipeline加embedding层的,但是看到很多人只是finetune LLMs,我很好奇有什么优势?

python spacy bert-language-model language-model
© www.soinside.com 2019 - 2024. All rights reserved.