标签 vLLM 下的文章 - 乔人尹

搜索

vLLM • 共2篇

vLLM：大模型推理的速度与激情

vLLM：大模型推理的速度与激情

2025年05月03日

9

阅读

vLLM：大模型推理的速度与激情同样的模型，同样的 GPU，吞吐量差 10 倍。这不是玄学，这是 vLLM。

DeepSeek 本地部署与训练：穷人的 GPT-4 平替

DeepSeek 本地部署与训练：穷人的 GPT-4 平替

2025年03月29日

10

阅读

DeepSeek 本地部署与训练：穷人的 GPT-4 平替 DeepSeek-V3 在各大榜单吊打一众模型，关键是——开源的。更关键的是——真的能在自己电脑上跑。