共 5 篇文章
LLM 为什么缓存 K 和 V,却通常不缓存 Q?
一篇把 KV Cache 讲透的科普:为什么 Transformer 解码时要缓存 K 和 V,却通常不缓存 Q?核心在于注意力的工作方式——每个新 token 会生成自己的 Q 去查询历史,而历史各位置的 K/V 在生成后就已经固定、可被后续所有 token 复用;Q 是"当前这一刻的查询",用完即弃,没有保留价值。
Karpathy 刚发了一个帖子,怎么判断一个新模型到底行不行?
针对炫酷 Demo 越来越难以反映模型真实水平的痛点,梳理 Karpathy 的开放任务实验:将《指环王》第一段文字交给 Opus 5,以约 100 万 token 预算(约 10 美元)让它用 Three.js 构建三维世界,两小时写出 5500 行代码;考察长程工作、任务拆解、跨领域协调与工作耐力,指出模型自我验证能力落后于生成能力,提出更贴近真实工作的评测思路。
一文读懂 GPT-5.6 Sol:核心能力解读 + 用户实测汇总
解读 GPT-5.6 Sol 旗舰(2026-06-26 预览):分 Sol/Terra/Luna 三档,新增 max 与 ultra 推理档,Terminal-Bench 2.1 达 88.8%(Ultra 91.9%),强于 agentic coding、生物与网安;但访问受限,仅 API 与 Codex 受信任伙伴可用。
GPT-6 这样用更顺手:OpenAI 官方指南已经讲明白了
解读 OpenAI《Using GPT-6 Astra》官方指南:从能力、成本、协作认识模型;涵盖异步工具调用、中途接收新指令、调整推理强度保留缓存、行为偏离监测等新功能,及主动推进、指令遵循、写作风格、子代理分工等行为调整;并给出迁移配置核对要点:模型名 gpt-6-astra、工具调用需 Responses API、移除 temperature/top_p、缓存参数 ttl=30m。
图解 KV Cache——DS V4.1-Flash的制胜秘密
一篇 KV Cache 图解长文,以 DeepSeek V4.1-Flash 为例,拆解"单 token KV 从 V1 的 380KB 压到 890 字节(437 倍)"是怎么做到的。