共 7 篇文章
大模型LLM教程LLM模型推理技术原理开源
LLM 推理是如何工作的
图解LLM推理的两个核心阶段:Prefill计算密集型(TTFT)和Decode内存带宽瓶颈(TPOT),详解KV缓存、连续批处理、PagedAttention等优化技术,附开源学习资源。
2026-09-0152433
智能体智能体多智能体Claude CodeCodex学习方法
志雄:大家口中的“智能体”,到底是什么
白志雄梳理“智能体”演进:从封装 ChatBot 能力包的提示词应用,到更可控的工作流平台(Dify、n8n、扣子),再到自主规划执行智能体(Claude Code),直至用自然语言封装可复用能力的 Skill。产品分构建平台、执行型智能体、常驻 IM 的助理、综合集合体四类,差异在演进链位置不同,主线是 AI 从“会说”走向“能做、稳定做、长期协作做”。
2026-09-0120000
视频生成ClaudeAI视频视频生成Opus技术原理
Claude Opus 5.5 是怎么做出视频的
Claude Opus 5.5 并没有视频能力,那些动画视频其实是它写的程序逐帧画出来再拼成的 MP4。本文拆解五步流程:脚本与分镜规划、用 HTML/SVG/three.js 用代码画画面、用 GSAP/Remotion 把动作固定在时间点上、以配音作为全片时钟、无头浏览器逐帧截拍后交给 FFmpeg 合成;还对比了代码视频与 Seedance、可灵等视频模型的优劣、成本与适用场景。
2026-10-1313000
AIGC内容生成大模型行业洞察技术原理物理人物观点
为什么今天造大模型的人,一半在学物理
五源资本孟醒观察到当今顶尖AI研究者大半有物理背景,从统计物理、热力学、量子力学等角度解析物理思维如何塑造大模型研究范式,附多位物理学家转型AI的案例。
2026-09-019000
训练与推理系统GPU大模型LLM模型推理技术原理
详解大语言模型中的静态、动态与连续批处理
详解大语言模型推理中静态、动态与连续批处理三种策略。先解释批处理为何存在(权重只读一次、吞吐量随批次大小上升),再说明LLM因自回归解码产生的挑战(一次前向传播只出一个token、行依赖自身历史、成本未知)。对比三策略在何时固定批次及其缺陷,重点阐述连续批处理(迭代级调度)如何支撑现代推理吞吐量,以及分块预填充如何缓解卡顿,并附vLLM/SGLang配置示例。
2026-09-109000