使用 Milvus 和 llama 索引的 RAG 响应

Question

我在本地使用 milvus 创建了一个向量嵌入集合，并尝试生成 RAG 辅助响应。但由于某种原因它给了我错误。我对此很陌生，所以可能会遗漏一些东西。

从 llama_index.core 导入 GPTVectorStoreIndex、StorageContext、VectorStoreIndex 从 llama_index.vector_stores.milvus 导入 MilvusVectorStore 导入openai 从 dotenv 导入 load_dotenv 导入操作系统

load_dotenv() openai.api_key = os.environ["OPENAI_API_KEY"]

def 聊天机器人（input_text）：

vector_store = MilvusVectorStore(
   uri="http://localhost:19530",
   collection_name = "test"
)
index = VectorStoreIndex.
query_engine = index.as_query_engine()
response = query_engine.query(input_text)
return response

input_text = input('输入查询')

打印（聊天机器人（input_text））

错误 RPC 错误：[搜索]， 向量维度不匹配 err %!w() 尝试#2：上下文被取消 )>, 无法搜索集合：测试

Milvus 系列

任何帮助将不胜感激！

我尝试运行上述代码以从 OpenAI 获取 RAG 辅助响应

Answer 1

您的矢量尺寸似乎不匹配，这意味着您的集合的矢量不适合您的模型。您使用什么嵌入模型。例如，text-embedding-3-large 是 512 维，而你的集合的向量 demion 是 768，那么就会发生冲突