SFT:让大模型学会听话
前言:从"续写机器"到"AI 助手"预训练模型很强大,但有个问题:它只会续写,不会对话。看出区别了吗?预训练模型:把你的问题当成文章开头,继续往下写SFT 模型:理解你在"提问",然后"回答"SFT(Supervised Fine-Tuni…
4 0
2 分钟 阅读全文
共 2 篇文章
前言:从"续写机器"到"AI 助手"预训练模型很强大,但有个问题:它只会续写,不会对话。看出区别了吗?预训练模型:把你的问题当成文章开头,继续往下写SFT 模型:理解你在"提问",然后"回答"SFT(Supervised Fine-Tuni…
前言:同一个 Transformer,两种命运2017 年,Google 发布了 Transformer。2018 年,基于 Transformer,两个重量级模型几乎同时诞生:6 月:OpenAI 发布 GPT-110 月:Google …