共 3 篇文章
大模型LLMTransformerGPULLM
详解 大语言模型 的 KV 缓存工程
详解大语言模型KV缓存的工程优化。解释KV缓存为何随序列增长而占用GPU内存且被注意力反复读写，系统介绍12种减少/优化KV缓存的技术：GQA/MQA减KV头、跨层注意力、滑动窗口、MLA、量化、混合循环层、稀疏读取、驱逐、分页、前缀复用、Offloading等，按各技术减少的内容、适用场景与权衡逐一分析，适合推理工程师优化内存占用与吞吐。
2026-09-0812000
大模型LLMTransformer大模型LLM学习路线GPT
大模型学习地铁图：从 Transformer 到今天的主流大模型
一张『大模型学习地铁图』：一条主干线串起前置基础→Transformer→GPT-2→预训练→ChatGPT→LLaMA→MoE→推理模型，直达『能读懂新论文』；另设推理、训练、对齐、架构、应用五条支线按兴趣换乘，逐站给出应学的关键技术，帮初学者建立从0到入门大模型的知识地图。
2026-10-211000
大模型LLMTransformer大模型GPT架构Jev
从 BERT、GPT 到 Jev：一文看懂大模型架构的演进与分化
梳理大模型架构的演进与分化：从BERT（编码器）、GPT（解码器）到Jev，对比预训练范式、注意力机制与参数设计的分野，厘清不同路线的设计动机与适用场景，帮助理解当前主流大模型架构选择背后的逻辑。
2026-10-211000