错误:NotFoundError - 使用 Azure OpenAI 实现 llama 索引进行微调时未找到资源

问题描述 投票:0回答:1

描述: 在用Azure OpenAI实现llama索引进行微调的过程中,出现以下错误:

Retrying llama_index.llms.openai.base.OpenAI._chat in 0.6394267984578837 seconds as it raised NotFoundError: Error code: 404 - {'error': {'code': '404', 'message': 'Resource not found'}}.

代码片段:

# Perform query to retrieve the contexts and answers for the generated questions

self.llm = OpenAI(
    api_base=self.azure_openai_endpoint,
    api_key=self.azure_openai_api_key,
    api_version=self.azure_openai_api_version,
    model=self.model,
    temperature=self.temperature
)

query_engine = index.as_query_engine(similarity_top_k=2, llm=self.llm)

附加信息: 该错误似乎与代码 404 的

NotFound
错误相关,指示未找到请求的资源。

问题陈述: 尝试使用 Azure OpenAI 执行查询时会出现此问题。错误消息表明未找到正在请求的资源。

所需解决方案: 请提供有关如何解决此问题的指导,因为我不确定如何继续。

python azure azure-openai llama-index fine-tuning
1个回答
0
投票

有单独的 python 包用于 azure OpenAI 集成。 因此,使用

llm
创建
AzureOpenAI

首先,使用以下命令安装集成包。

%pip install llama-index-llms-azure-openai

接下来,创建

llm

from llama_index.llms.azure_openai import AzureOpenAI

aoai_api_key = "YOUR_AZURE_OPENAI_API_KEY"
aoai_endpoint = "YOUR_AZURE_OPENAI_ENDPOINT"
aoai_api_version = "2023-05-15"

llm = AzureOpenAI(
    model="YOUR_AZURE_OPENAI_COMPLETION_MODEL_NAME",
    deployment_name="YOUR_AZURE_OPENAI_COMPLETION_DEPLOYMENT_NAME",
    api_key=aoai_api_key,
    azure_endpoint=aoai_endpoint,
    api_version=aoai_api_version,
)

在获取查询引擎时使用该

llm

请参阅以下文档了解更多信息。

Azure AI 搜索 - LlamaIndex Azure OpenAI - LlamaIndex

© www.soinside.com 2019 - 2024. All rights reserved.