AI 为什么还这么慢?从 GTC 2026 看推理的下一场竞争
从等待 AI 回复说起,解释延迟、吞吐量和 Agent 多轮调用,再看 GTC 2026 的推理基础设施方向。
从等待 AI 回复说起,解释延迟、吞吐量和 Agent 多轮调用,再看 GTC 2026 的推理基础设施方向。
我们回到 2022 年,看看在还没有 function calling 的年代,人们是怎么用纯文本让模型"思考—行动—观察"的;AutoGPT 为什么火得那么快、凉得也那么快;function calling 和 MCP 又分别解决了什么问题。我们还会用 Go 复刻一个 2022 年风格的 ReAct Agent,亲眼看看"格式全靠模型自觉"有多脆。
💡 前置知识:会 ,知道 Kubernetes 大概是个什么东西(不知道也行,反正看完你也不一定想知道)〇、灵魂拷问:用了 Vercel 为什么还要用 Sealos?如果你和我一样,前端已经愉快地部署在 Vercel 上了——零配置、自动 …
开场:我在源码里找"智能"第一次认真读一个开源 coding agent 的源码,是个周末的晚上。我泡了杯茶,做好了打持久战的准备。在我的想象里,一个能自己改代码、跑测试、修 bug 的东西,里面肯定有一个精妙的"规划器",一个复杂的"记忆…
Claude、Claude Code、ChatGPT、Codex……天天用 AI,却未必分得清这些名字。本篇带你从大模型、Chatbot 和 Agent 的三层关系讲起,理清模型与产品、聊天与执行任务之间的区别,为后续动手构建 Agent 打好基础。
0. 写在前面:当战争成为一种"故障模式"2026 年 3 月 1 日凌晨,一枚来自伊朗的无人机/导弹碎片击中了亚马逊 AWS 位于阿联酋()的数据中心,直接命中可用区。消防部门切断电力,AZ 完全宕机。这不是演习,不是混沌工程的 Game…
用了两年 AI,一直分不清模型和 Agent 的区别?不丢人,厂商自己都没分清。这个系列从"它到底是个啥"讲起,一路讲到亲手写一个能改代码的 Agent。最后你会发现,所谓放弃,是放弃对魔法的幻想。
一、2026 开年回顾:我们已经站在哪里?2026年的前两个月,AI行业完成了两次教科书级的范式转移。OpenAI停用了GPT-4o等全线旧模型,Google全面切换至Gemini 3系列,字节跳动的Seedance 2.0让好莱坞集体破防…
前言:你有没有遇到过这种绝望你站在迪拜的某个ATM机前,想把这个月的工资汇回家。点击"国际汇款",手续费一出来,你的表情从平静变成了——这是打劫吗?但它穿着西装。是的,欢迎来到跨境汇款的世界。一个每年流动超过8000亿美元、却依然能让你等3…
前言:我的朋友圈又炸了2026年2月10日,字节跳动发布了 Seedance 2.0(国内版名称:小云雀)。然后,我又经历了一次信息轰炸:Twitter 上全是 AI 生成的"汤姆·克鲁斯对战布拉德·皮特"B站首页清一色"Seedance实…
〇、写在前面如果你的公司有超过 3 个微服务,并且每次找个 API 文档都要翻遍 Confluence、SharePoint、钉钉群聊和某位离职同事的脑子,那么恭喜你——你可能需要 Backstage。如果你的公司只有一个单体应用,那你可以…
在2026年1月的 AI 浪潮中,有个爆火的项目在短短几周内因为版权问题被迫改了三次名(Clawdbot → Moltbot → OpenClaw)。开发者 Peter Steinberger 用了 Molt(脱壳) 这个词,寓意像龙虾一样…
前言做通用后台系统最大的挑战,不是技术有多难,而是如何在"灵活性"和"标准化"之间找到平衡。时间管理 App 要求极低延迟的用户行为记录;深度检测系统需要处理大量非结构化数据和 AI 模型调用;运营后台要求快速迭代、权限精细、报表丰富。三种…
Skills的概念最近又火了,这货和MCP有啥区别?怎么用?有哪些坑?本文带你一探究竟。一、先搞清楚概念:它们到底是什么?1.1 Skills 是什么Skills(技能) 是 AI Agent 能够调用的能力单元的统称。 它是一个泛概念,不…