与Netflix、Spotify或Apple Music等“支付月费即可无限使用”的订阅服务不同,AI订阅的逻辑截然不同。即便每月支付20美元甚至100美元,用户仍可能收到“您已达到使用上限”的提示。讽刺的是,AI或许是最昂贵的订阅服务之一,却是少数付费后仍可能被拒之门外的产品。这也成为作者逐渐不再将ChatGPT、Claude和Gemini用于处理琐碎任务的主要原因。

为避免浪费有限的额度执行仅触及工具能力边缘的任务,作者开始将这些工作交由运行在本地设备上的大型语言模型(LLM)处理。

反思对云端AI的过度依赖

曾几何时,搜索信息是一种本能。如今,AI聊天机器人正缓慢取代搜索引擎的地位。相比输入问题并浏览搜索结果,直接向ChatGPT、Claude或Gemini提问更为便捷。这种依赖已深入日常,甚至有人让AI评判穿搭。

问题在于,无论请求复杂与否,每次调用均消耗额度。除额度限制带来的挫败感外,云端AI的环境影响亦不容忽视。运行强大模型需要巨大算力,数据中心不仅消耗大量电力,还需用水冷却。随着需求增长,基础设施不断扩张。虽然无需完全停止使用云端AI,但值得反思:是否每件琐事都需发送至半个地球之外的大型数据中心?

审视场景:积少成多的替代方案

对于非文字工作者,AI写作辅助已成常态。人们求助于AI的任务大致分两类:一类是需要网络调研、事实核查及构建结构的完整文章创作,此类任务确能体现云端模型优势;另一类则简单得多,如改写拗口句子、修正语法、提升邮件专业度或精简段落。

后者无需深入调研或复杂推理。事实上,作者已用本地LLM替代Grammarly数月。在学生场景中,除了利用NotebookLM等工具深度学习,基础定义查询、术语解释或寻求示例等任务,较小的本地LLM往往足以胜任,无需动用云端模型的高阶推理能力。

在自动化任务方面,作者曾通过Claude技能实现截图自动重命名,现已被替换为在Mac上本地运行的Gemma 4脚本。效果相同,且不再依赖云端模型或消耗额度。

本地AI部署并不复杂

尽管希望用本地LLM处理更复杂任务,但受限于8GB内存的MacBook,作者目前仅将琐事外包给本地模型。经尝试多款适合该硬件的本地LLM后,最终选择Gemma 4。其轻量级变体运行流畅,不拖慢其他程序,且具备处理日常任务的能力。

移动端体验同样出色。作者可在手机上轻松打开Google AI Edge Gallery,在无网络连接的情况下提出问题,既无额度焦虑,也带来了极大便利。