共 2 篇文章
AI编程ClaudeAnthropic闪电.skill性能优化棘轮
「闪电.skill」发布!用Anthropic的方法论把你的产品提速3倍!
花叔详解 Anthropic 让 Claude 两周把 claude.ai 提速 3 倍的复盘,整理成开源 skill『闪电.skill』:只要能量出数Claude 就能让它变快——先找与真实体验挂钩的确定性指标(不明则下线),用棘轮锁进 CI,逐 PR 审批、功能开关、逐步放量做护栏;人负责野心、品味、方向。实战给作者 4 个网站提速,公众号排版器打开从 2238ms 降到 209ms。
2026-09-303000
训练与推理系统GPUDeepSeek成本优化模型推理开源
非算法工程师也能看懂,推理框架的来龙去脉
继 DeepSeek 开源 DeepInfer,阿里云云原生科普推理框架:它把模型加载到硬件、接收请求、组织计算,在快、多、省、稳、准五个目标间取舍。文中讲透 Prefill 吃算力、Decode 吃带宽,KV Cache 是最紧的显存资源,连续批处理、前缀缓存、PD 分离如何降本提速;梳理 vLLM、SGLang、llama.cpp 等项目,跟一个请求走完接入、调度、执行、缓存、集群、采样六站。
2026-10-221000