描述: 在用Azure OpenAI实现llama索引进行微调的过程中,出现以下错误:
Retrying llama_index.llms.openai.base.OpenAI._chat in 0.6394267984578837 seconds as it raised NotFoundError: Error code: 404 - {'error': {'code': '404', 'message': 'Resource not found'}}.
代码片段:
# Perform query to retrieve the contexts and answers for the generated questions
self.llm = OpenAI(
api_base=self.azure_openai_endpoint,
api_key=self.azure_openai_api_key,
api_version=self.azure_openai_api_version,
model=self.model,
temperature=self.temperature
)
query_engine = index.as_query_engine(similarity_top_k=2, llm=self.llm)
附加信息: 该错误似乎与代码 404 的
NotFound
错误相关,指示未找到请求的资源。
问题陈述: 尝试使用 Azure OpenAI 执行查询时会出现此问题。错误消息表明未找到正在请求的资源。
所需解决方案: 请提供有关如何解决此问题的指导,因为我不确定如何继续。
有单独的 python 包用于 azure OpenAI 集成。 因此,使用
llm
创建 AzureOpenAI
。
首先,使用以下命令安装集成包。
%pip install llama-index-llms-azure-openai
接下来,创建
llm
。
from llama_index.llms.azure_openai import AzureOpenAI
aoai_api_key = "YOUR_AZURE_OPENAI_API_KEY"
aoai_endpoint = "YOUR_AZURE_OPENAI_ENDPOINT"
aoai_api_version = "2023-05-15"
llm = AzureOpenAI(
model="YOUR_AZURE_OPENAI_COMPLETION_MODEL_NAME",
deployment_name="YOUR_AZURE_OPENAI_COMPLETION_DEPLOYMENT_NAME",
api_key=aoai_api_key,
azure_endpoint=aoai_endpoint,
api_version=aoai_api_version,
)
在获取查询引擎时使用该
llm
。
请参阅以下文档了解更多信息。