
与Netflix、Spotify或Apple Music等“支付月费即可无限使用”的订阅服务不同,AI订阅的逻辑截然不同。即便每月支付20美元甚至100美元,用户仍可能收到“您已达到使用上限”的提示。讽刺的是,AI或许是最昂贵的订阅服务之一,却是少数付费后仍可能被拒之门外的产品。这也成为作者逐渐不再将ChatGPT、Claude和Gemini用于处理琐碎任务的主要原因。
为避免浪费有限的额度执行仅触及工具能力边缘的任务,作者开始将这些工作交由运行在本地设备上的大型语言模型(LLM)处理。
反思对云端AI的过度依赖
曾几何时,搜索信息是一种本能。如今,AI聊天机器人正缓慢取代搜索引擎的地位。相比输入问题并浏览搜索结果,直接向ChatGPT、Claude或Gemini提问更为便捷。这种依赖已深入日常,甚至有人让AI评判穿搭。
问题在于,无论请求复杂与否,每次调用均消耗额度。除额度限制带来的挫败感外,云端AI的环境影响亦不容忽视。运行强大模型需要巨大算力,数据中心不仅消耗大量电力,还需用水冷却。随着需求增长,基础设施不断扩张。虽然无需完全停止使用云端AI,但值得反思:是否每件琐事都需发送至半个地球之外的大型数据中心?
审视场景:积少成多的替代方案
对于非文字工作者,AI写作辅助已成常态。人们求助于AI的任务大致分两类:一类是需要网络调研、事实核查及构建结构的完整文章创作,此类任务确能体现云端模型优势;另一类则简单得多,如改写拗口句子、修正语法、提升邮件专业度或精简段落。
后者无需深入调研或复杂推理。事实上,作者已用本地LLM替代Grammarly数月。在学生场景中,除了利用NotebookLM等工具深度学习,基础定义查询、术语解释或寻求示例等任务,较小的本地LLM往往足以胜任,无需动用云端模型的高阶推理能力。
在自动化任务方面,作者曾通过Claude技能实现截图自动重命名,现已被替换为在Mac上本地运行的Gemma 4脚本。效果相同,且不再依赖云端模型或消耗额度。
本地AI部署并不复杂
尽管希望用本地LLM处理更复杂任务,但受限于8GB内存的MacBook,作者目前仅将琐事外包给本地模型。经尝试多款适合该硬件的本地LLM后,最终选择Gemma 4。其轻量级变体运行流畅,不拖慢其他程序,且具备处理日常任务的能力。
移动端体验同样出色。作者可在手机上轻松打开Google AI Edge Gallery,在无网络连接的情况下提出问题,既无额度焦虑,也带来了极大便利。