我是一名开发人员，使用各种库和矢量存储构建了一些 RAG 聊天机器人。
我们现在正在构建一个更复杂的聊天机器人，它将查询许多数据源并以图表和表格的形式生成报告。这是基于查询的表单，用户会提出问题。
我们的产品团队向我提出了一个问题，我们不是为用户提供基于查询的方法，而是让模型不断分析新数据并通知用户何时应调查新机会和/或就新方法提出建议用户日常任务。如果数据处理已经通过传统方式完成并创建通知，那么这可能会非常简单，但我们希望人工智能生成实时分析。 :)
即。新的销售数据将告诉销售人员他们应该修改方法或方向。
我认为这可能可以通过三种方式来完成，但我认为这可能会占用大量资源，因此想就如何最好地解决这个问题获得一些其他想法。
1：我们可以训练在销售等特定领域训练的监督模型。但模型无法完成所有新的事情。只是销售中使用新数据执行的特定任务？我们向他们发送新数据，他们计算新机会？
2：我们用新数据进行微调/重新训练，我不确定微调是否真的有效，除非它只是一个面向任务的微调LLM？保留似乎是资源密集型的？
3：我们将新数据发送给拥有多个领域知识的法学硕士。 LLM 并不专门研究这些领域，所以也许这也是一个微调工作？
总而言之，这个想法是让实时人工智能分析（不是传统创建的）出现在你的屏幕上，并用最新的信息来增强你的工作。
我还没有尝试过任何东西。
首先也是最重要的，实时数据通常不会在现实世界中用于通知业务，除了关键错误监控和人工智能中不需要的类似东西，除了大型企业中可能需要的一些精心设计的渗透测试启发法。而且这种情况很少发生。
为业务方分析超新数据来影响业务流程或决策是没有任何价值的。既定企业中的新数据与四个小时的旧数据没有什么不同，而四个小时是企业分析系统的典型延迟。既定的业务流程具有价值，但调整它们也需要成本。让它们根据实时数据移动对于人们来说会非常烦人。
通常，营销人员认为利用人工智能的不同方式是可行的：通过根据用户的单独操作实时修改人工智能来增强用户体验。它会在这样做的同时学习。尽管听起来很棒，但用当前的技术来正确设置它非常困难，而且基础设施的成本如此之高，以至于很少有人这样做。而那些这样做的人，规模都非常小。就像有限的多变量测试或类似的事情。
但是，这在很大程度上取决于商业模式，而您在这里根本没有指定商业模式。并非所有企业的运作方式都相似。如果这是一个销售业务，其中有客户的行为和 CRM 数据，并且有一种方法可以将所有销售通信提供给人工智能，那么它可能能够开始识别某些客户群体并为销售人员预测更好的脚本。然而，这看起来是一项有风险的投资。在开始带来任何结果之前，肯定会进行大量昂贵的试验和错误。