GPT 4 API 延迟/数据类型

问题描述 投票:0回答:0

我进入了 API 测试版,我正在玩一个应用程序。我已经尽可能地让 API 连接工作并在 pycharm 中做我想做的事,但有几个问题:

  1. 我的响应时间很慢,并且也经常达到使用上限(API 帐户资金充足)。我假设随着新产品的稳定,其中一些会有所改善?宁愿不为我的用例切换到早期模型。

  2. 我要求 GPT 给我一个 python 列表格式的项目列表,我可以将其转换为实际列表。如果我将温度设置得太低,我会返回重复的项目,但如果我将温度设置得太高,我就得不到正确的 python 格式。

  3. 我访问了 API 5 或 6 次,这可能会合并为几次,但这取决于始终如一地获得格式正确的 JSON 响应,这似乎比请求 python 列表更可疑。

基本上,这个东西是否足够可预测,你可以要求某种数据格式,并且它会以这种格式可靠地出现,以在其上构建应用程序?

任何建议/讨论表示赞赏。

我尝试了什么: 尝试了各种温度。已要求 OpenAI 提高使用上限。没有尝试过其他型号。

gpt-4
© www.soinside.com 2019 - 2024. All rights reserved.