查找 HuggingFace 模型的嵌入尺寸

Question

我尝试弄清楚如何使用

faiss

Vectore Store 与

LlamaIndex

。

指令说，我必须提前指示向量维度。这是代码：

    import faiss

    # dimensions of text-ada-embedding-002
    d = 1536
    faiss_index = faiss.IndexFlatL2(d)

因此，

text-ada-embedding-002

模型的尺寸为

1536

。

我想使用

BAAI/bge-small-en-v1.5

模型。

它输出的嵌入向量维度是多少？ 如何找到其他变压器模型的输出向量维度？我需要运行模型并测量结果，还是有更简单的方法？

Answer 1

bge-small-en-v1.5 的维度是 384。 你可以在模型页面找到它https://huggingface.co/BAAI/bge-small-en-v1.5，你会发现一个包含维度、序列长度和分数的表格。

此外，当通过 Transformers.AutoModel 加载模型时，您可以使用 model.eval() 获取有关加载模型的更多详细信息，例如输入尺寸、图层、输出等。