Lost in the Middle

Context Window，模型的内存条

把上下文窗口看作模型一次请求的内存，讲清长度与成本、KV cache、prompt caching 和 lost in the middle，并给出 Agent 管理上下文的思路。