标签大模型下的文章 - 乔人尹

搜索

大模型 • 共21篇

RLHF/DPO：让大模型学会"讨好"人类

RLHF/DPO：让大模型学会"讨好"人类

2025年04月12日

64

阅读

RLHF/DPO：让大模型学会"讨好"人类 SFT教会了模型说话的"格式"，但它还不知道什么是"好"回答。RLHF 就是教模型"察言观色"——学会人类喜欢什么、讨厌什么。

DeepSeek 本地部署与训练：穷人的 GPT-4 平替

DeepSeek 本地部署与训练：穷人的 GPT-4 平替

2025年03月29日

61

阅读

DeepSeek 本地部署与训练：穷人的 GPT-4 平替 DeepSeek-V3 在各大榜单吊打一众模型，关键是——开源的。更关键的是——真的能在自己电脑上跑。

SFT：让大模型学会听话

SFT：让大模型学会听话

2025年03月15日

68

阅读

SFT：让大模型学会听话预训练完后，你还需要SFT调教大模型，让它听话。

预训练：如何喂出一个大模型

预训练：如何喂出一个大模型

2025年03月08日

71

阅读

预训练：如何喂出一个大模型预训练一个大模型，需要三样东西：数据、算力、还有钱。我一样都没有，但这不妨碍我讲清楚这件事。

Tokenization：大模型的碎碎念

Tokenization：大模型的碎碎念

2025年03月01日

83

阅读

Tokenization：大模型的碎碎念大模型不认识字，它只认识数字。把文字变成数字的过程，叫做 Tokenization。听起来简单，坑却多得离谱。

🐒Attention变体：注意力的七十二变

🐒Attention变体：注意力的七十二变

2025年02月15日

67

阅读

🐒Attention变体：注意力的七十二变上一篇我们学会了 Self-Attention，这一篇我们来学习如何把它玩坏。