在 langchain 中的 HuggingFaceEndpoint/HuggingFaceHub 类中调用 Intel/dynamic_tinybert 模型进行翻译/问答任务时,出现如下持续错误:
错误的请求: 输入错误:值不是有效的字典
即使将提示中的输入作为字典值类型传递,错误也是相同的。
HuggingFaceEndpoint/HuggingFaceHub 类用于 langchain 示例,但 repo_id(之前为 google/flan-t5-x1)已替换为 Intel/dynamic_tinybert,因为前者不再可用。
使用 langchain 时模型的理想输入格式是什么?
参考:https://www.pinecone.io/learn/series/langchain/langchain-intro/
谢谢
我尝试过其他模型,但返回了相同的无效输入错误,即
错误的请求: 输入错误:值不是有效的字典
最终我发现
mistralai/Mistral-7B-Instruct-v0.2
模型可以将字符串作为输入提示,返回有效的响应。