在本机打开LLM模型微调

Question

我想使用开源或免费的LLM模型，该模型有助于文本处理和摘要，也能够参与聊天以提取有意义的内容。是否有免费或开源的工具可以帮助我通过提供文档来微调模型？

我正在使用 ollama docker 容器来运行 llama2 和 Mistra。如何使用本地文本数据微调这些模型？我应该使用 API 通过提示来训练它们吗？

Answer 1

在数据上微调任何 llm 模型的最简单方法是使用 Huggingface 的 autotrain 终端应用程序。像这样的事情：

autotrain LLM
--火车
--模型 ${MODEL_NAME}
--项目名称 ${PROJECT_NAME}
--数据路径数据/
--text-列文本
--lr ${LEARNING_RATE} \

....

您可以在这里找到更多信息： https://huggingface.co/docs/autotrain/llm_finetuning