如何使用矢量搜索对私有数据执行 Azure OpenAI 聊天完成

Question

我正在尝试在 Azure OpenAI 中的私有数据上构建聊天体验。目前，在 OpenAI Studio 中，我可以针对 Azure 认知搜索中存储的私有数据部署 Web 应用程序。我希望该搜索成为矢量嵌入搜索，但看不到任何合理的方法来实现开箱即用。 api 请求上的 DataSources 属性似乎不接受任何执行向量搜索的内容。

我可以通过手动执行嵌入查询来手动构建它，然后手动执行搜索查询，最后提示工程聊天请求。然而，这似乎应该是开箱即用的。这都是相当新的，Azure OpenAI 的文档很少，所以我试图确定这是功能差距还是文档差距。

Answer 1

对于那些对此感到好奇的人，就在昨天（问题发布的前一天），示例应用程序存储库接受了一个 PR，它演示了矢量搜索功能。

Answer 2

启用矢量/语义搜索的步骤：

• 打开认知搜索组件中的语义排名器（左侧菜单）
• 在openai组件中，添加数据时，使用text-embedding-ada-002模型，然后添加矢量搜索。选择嵌入模型（ada），然后选择搜索类型（应该有语义选项）

型号信息：

• 请注意，ADA 支持较小的代币限制 (8,191)。大约是 gpt 的一半
• https://learn.microsoft.com/en-us/azure/ai-services/openai/concepts/models
• https://openai.com/blog/new-and-improved-embedding-model