Qwen 3.8 是当前本地 AI 模型中的佼佼者,其 27B 版本对显存受限的用户尤为友好。该模型单独运行需 18–21GB 显存,恰好适配基于 AMD Strix Halo 架构的 ROG Flow Z13。

硬件解析:AMD Ryzen AI Max 390 的表现

测试机型搭载 AMD Ryzen AI Max 390 芯片组,配备 12 核 24 线程 CPU 及 Radeon 8050S 集成显卡。作为旗舰 AI Max 395+ 的降频版,8050S 计算单元略少,且系统统一内存被限制在 32GB,这在运行本地 AI 时显得捉襟见肘。

性能方面,8050S 接近 Nvidia RTX 4060 移动版,但平均功耗仅 30 瓦,能效表现优异。得益于 APU 架构,系统可访问全部 32GB 统一内存,相比显存不足的 RTX 4060 移动版具备显著优势。尽管无法媲美桌面级 GPU,但对于已有该设备的用户而言,其对本地 AI 的支持使其成为极具价值的选择。

环境搭建与内存优化

测试基于 Arch Linux 环境,安装 Z13CTL(TDP 和风扇设为最大)及 KDE Plasma 桌面,内核选用 linux-cachyos-bore。关键步骤在于 BIOS 设置:需手动将显存上限锁定为 24GB,剩余 8GB 供系统使用。此前尝试自动分配时,因 Ollama 内存泄漏导致总占用超标并触发交换空间,故固定显存成为必要方案。在此配置下,Qwen 3.8-27B 可轻松载入显存,并进行 -30 降压处理以优化性能。

实战测试:从文本到代码

测试涵盖图像、文本及代码三大场景:

图像生成方面,模型未能直接生成“骑独轮车的青蛙”图片,但在生成 3D 渲染图任务中,输出了虽显杂乱但具备 3D 效果的绿色球体组合。

文本处理方面,在无特殊提示词情况下,Qwen 快速生成了一份结构专业、可直接使用的简历大纲。

代码编写是最具挑战的任务。模型耗时约 15 分钟,成功开发出一个功能完整的 Python 计算器应用(Material You 主题)。尽管后续打包为安装程序的尝试失败,但核心代码生成能力已得到验证。

结论:本地 AI 的未来潜力

Qwen 3.8-27B 在单次会话中显存占用不超过 21GB,峰值功耗低于 50 瓦,是低配机型的理想搭档。若设备配备 128GB 内存,更大规模模型的表现将更出色。

尽管本地推理速度仍落后于云端模型,且构建速度受硬件限制,但能够免费、无限制地访问私有化模型具有独特价值。本地 AI 代表未来方向,虽然普及尚需时日,但在如 Z13 这类设备上已展现出可观的实用性。