苹果正内部测试一款名为 Harbor 的新应用,旨在大幅降低在 Mac 上运行本地 AI 模型的门槛。据爆料,该应用此前以 Claris 品牌进行预览,其核心功能是将用户的 Mac 设备转化为私有的 AI 推理服务器。

Thunderbolt 5 赋能,轻松构建 AI 集群

Mac 凭借硬件优势,本就适合处理本地 AI 推理任务。借助 Thunderbolt 5 的 RDMA(远程直接内存访问)技术,用户可将多台 Mac 连接成集群,从而运行超出单机内存限制的大型语言模型。Harbor 的出现意在进一步简化这一复杂过程。

据介绍,Harbor 能通过 Thunderbolt 5 自动检测设备并组建集群,实现“插上电源、启动即运行”。整个过程仅需几分钟,无需手动配置、命令行操作或具备基础设施专业知识,彻底告别繁琐的设置环节。

本地化管理,强化隐私保护

除了简化部署,Harbor 还允许用户直接浏览、下载并加载开源权重的 AI 模型,由应用统一负责模型管理,显著缩短实验准备时间。由于所有运算均在本地完成,数据无需上传云端,隐私安全成为其另一大核心卖点。

目前,Harbor 仍处于内部预览阶段,苹果尚未公布正式发布日期。在该应用列表页面被外界发现后,苹果已迅速将其从 App Store 内部预览中下架。