英伟达产品副总裁阿德尔·哈拉克(Adel el Hallak)家中常备一台DGX Spark。这台设备会在夜间处理AI任务,若睡前未分配工作,他甚至会感到“愧疚”。“它静音且常年通电,不利用它做点个人层面的事是一种浪费。”哈拉克表示。

这一细节折射出人工智能的未来方向:本地化。当英伟达AI产品战略负责人已将个人AI计算机视为家电而非服务器时,预示着普通消费者迈向本地AI时代已为期不远。

摆脱云端依赖

目前,主流AI交互依赖云端,用户数据需传输至数据中心,不仅产生订阅成本,更涉及隐私风险。哈拉克指出,本地AI改变了这一局面:“在我拥有的硬件上运行模型,数据永不离家,且无需每月支付订阅费。”

算一笔经济账:DGX Spark零售价4,699美元,虽不菲,但相比ChatGPT Plus每年240美元的订阅费,五年仅订阅支出即达1,200美元,且用户并未获得任何资产。相比之下,Spark提供无限制查询,无令牌计费、无使用上限,亦无需联网。

尽管GPT-6等云端模型能力更强,但对于文档总结、邮件起草、本地文件搜索及编程辅助等日常任务,拥有128GB内存并接入英伟达完整CUDA堆栈的本地模型已绰绰有余。

从极客专属走向大众

DGX Spark于去年十月发布,号称“全球最小AI超级计算机”,初期主要面向开发者与研究人员。该设备运行Linux系统,重2.6磅,体积媲美Mac Mini。

如今,其生态系统正加速向消费级靠拢。例如,Perplexity推出的Portable Computer将本地模型、代理工具及应用连接器打包,在DGX Spark上运行。任务默认本地执行,仅在遇到无法处理的情况并经用户许可后,才将步骤发送至云端,确保文件始终留存本地。

哈拉克认为,软件层提供商正大幅简化设置流程,摒弃命令行安装,回归图形用户界面(GUI)体验。这正如网络附加存储(NAS)从极客爱好演变为百思买货架上的消费品,硬件普及的关键在于软件的易用性。

RTX Spark笔记本即将破局

DGX台式机仅是概念验证,真正的消费级爆发点在于即将上市的RTX Spark笔记本电脑。预计今年秋季,戴尔、惠普、联想、华硕、微星、宏碁等厂商将出货搭载GB10芯片的笔记本,微软亦将推出基于该芯片的Surface Laptop Ultra。

这些设备运行Windows 11,兼顾游戏与传统办公负载,更拥有128GB统一内存,足以运行令当前消费级GPU崩溃的大型语言模型。这是哈拉克桌上设备的笔记本版本,且打破了仅限Linux的限制。

“本地运行的模型配合易安装的运行时,将真正开启本地AI时代。”哈拉克称。

核心议题:所有权而非性能

哈拉克引用企业界案例指出,用户曾以模型排名和令牌用量为荣,直到IT部门收到账单,大家才开始关注成本优化。随着AI代理深入个人日历、邮件及财务数据,数据处理地点已从理论问题变为现实关切。

“本地AI带来更多令牌,令牌即智能。当智能与安全运行时配对,你就能高效做事。”哈拉克将其通俗地定义为:“家里的数据中心。”

【星途科讯 图文丨Patrick 首发于ZAKER科技,转载请注明出处】