ChatGPT 或针对 SaaS 的定制 LLM？

Question

在创建大量使用大型语言模型 (LLM) 的 SaaS 应用程序时，更常见的做法是使用官方 ChatGPT 服务或在云服务上安装并运行专用的 LLM 实例？

Answer 1

使用 ChatGPT：

• 这很容易，因为您无需担心管理太多 东西（设置服务器，处理更新，处理技术 问题）。
• 随着您的应用程序的增长，它会变得昂贵，并且您依赖于他们的服务可用，并且您的用户数据正在与 openAI 共享

另一方面，建立或微调自己的法学硕士并不容易，并且需要数据，但是您对用户数据有更多的控制权并且可能会节省金钱。 但设置和管理需要更多工作，并且您需要知道自己在做什么。

因此，这取决于什么对您来说更重要：便利性和可靠性，或者对您的 LLM 和用户数据的控制，以及成本。