模型微调

LoRA/PEFT：穷人的微调指南

前言：微调的"贫富差距"你想微调一个 LLaMA-7B 模型，让它学会你的业务知识。全量微调需要什么？84GB 显存！ 一张 A100 80GB 都不够用！这就是为什么需要 PEFT（Parameter-Efficient Fine-Tun…