共 11 篇文章
大模型本地部署完整指南:搭建自己的 Agent 工作流,实现Token自由「新手友好」
一篇新手友好的大模型本地部署指南,以124B MoE模型Ling-3.0-flash为例,在DGX Spark上用官方vLLM分支完成下载、部署、启动与性能测试,含MTP投机解码、单路与并发吞吐压测。随后介绍TUI聊天、接入工具调用、DeepSeek Harness及多模型视频工作流,倡导数据可控、省Token的「Token自由」。
再也不要花钱,Minimax H3把 AI 短片流程搬到本地,一个 agent 导演,三条本地管线工人详细教程
作者用一台 RTX 5070 笔记本把艺术史短片的出图、出视频、配音全流程搬到本地,云端只留配乐;以一个 agent 导演调度三条本地管线工人,给出模型选型、安装步骤与避坑要点。
志雄:Codex 桌面端安装与配置DeepSeek教程
面向国内无法订阅官方的用户,讲解 Windows 下安装 Codex 桌面端并用 codex-relay 中间件把 DeepSeek API 接入的步骤:因新版仅支持 Responses 协议需协议转换,含 Python 环境、API Key 获取与启动脚本配置。
万字长文|Hugging Face从入门到精通
本文是面向新手的 Hugging Face 万字实操指南,系统讲解如何在该平台发现、试用并下载开源 AI 资源。从首页五大入口讲起,依次拆解 Spaces 在线应用、Models 模型筛选与模型页要点、Datasets 数据集取样、LoRA 微调与 Collections 收藏。核心方法是先试效果再下模型以降低门槛,并给出本地部署的硬件判断与文件选择建议,适合想自主挑选、下载开源模型与数据的初学者与创作者。
万字长文 | 最强 AI 工作台 Cherry Studio 从入门到精通(含本地模型部署)
万字教程详解开源桌面AI工作台Cherry Studio从入门到精通。覆盖安装、接入GPT/Claude/DeepSeek/Kimi等模型API、多模型对比测试、用分支管理写作、创建Agent处理Word/PDF/网页等任务、搭建知识库(含嵌入模型与重排模型)、配置搜索与MCP,以及通过Ollama/LM Studio接入本地模型部署的完整流程。