HN精选|Qwen3.6本地实测

Qwen27B本地可跑,性能超GPT-4.5,开源AI里程碑

在本地模型领域,失望是常态。但 Qwen 3.6 27B 的横空出世,正在改写这一叙事。波兰开发者 Piotr Migdał 在搭载 M5 Max 芯片、128GB 内存的 MacBook Pro 上实测后直言:这是第一款真正具备通用智能水准的本地模型,其性能足以替代云端 GPT-4.5。

两种架构,一种推荐

Qwen 3.6 提供两个版本:Mixed-of-Experts 架构的 Qwen 3.6 35B A3B(更快但稍弱)和 Dense 架构的 Qwen 3.6 27B(稍慢但更强)。Migdał 明确推荐后者——它在代码生成和创意写作上的表现明显优于 MoE 版本。代价是 GPU 满载时笔记本键盘区域”热到融化”,实测温度甚至需要用热成像仪才能看清。

实战测试:从诗歌到全栈应用

作者进行了一系列实战测试:让模型写一首融合 Zouk 舞蹈与量子物理的 8 行诗,推理过程条理清晰;用 OpenCode 下达”创建六边形扫雷游戏,使用 pnpm 包管理”的单条指令,27B 版本一次性正确完成——生成了完整的 Node.js 项目结构。而 MoE 版本的 35B A3B 忽视了包管理指令,将一切塞进单个 HTML 文件。

硬件门槛与生态思考

128GB MBP 起步价 $6,699,这引发了 HN 社区的热烈讨论。部分开发者指出相同预算可搭建 Linux 工作站获得更强推理性能。但关键信号是:开源模型已经跨过了实用性的临界点。当本地 AI 能以 GPT-4.5 级别的能力运行在消费者级硬件上,整个开发者工具链和隐私格局都将面临重构。

社区反响

HN 上 476 条评论的主流声音:Qwen 3.6 27B 的编码能力令人惊讶,但重度使用场景下散热和内存压力仍是瓶颈。多位用户对比了其在 M5 Max 与 RTX 4090 工作站上的表现,结论是:Apple Silicon 的统一内存架构适合大模型推理,但 Linux 工作站性价比更高。

原文: Qwen 3.6 27B is the sweet spot for local development · HN 讨论

Leave a Reply

Your email address will not be published. Required fields are marked *