网络安全厂商Norton近日在Norton 360中正式推出Safe AI功能，旨在监控并保护用户设备与AI聊天应用程序的交互过程。此次更新面向Windows和Mac用户，新增三项核心保护措施，以阻断未经授权的操作、限制个人文件访问权限，并标记由AI助手呈现的不安全链接。
这一举措正值生成式AI威胁激增之际。据Gen Threat Labs数据，过去90天内，通过ChatGPT和Claude等AI聊天机器人传播的恶意内容增长了54%。同时，Gen的消费者研究显示，超过三分之二的用户对自主AI助手可能引发的隐私泄露、数据失窃或控制权丧失表示担忧。
三大核心防护工具
Safe AI集成于Norton 360的反诈骗保护模块中，主要包含以下三项功能：
Action Shield：旨在拦截非预期的AI操作，并在执行前阻断潜在的有害提示注入攻击。随着AI系统被赋予更多代表用户执行任务的权限，该功能可防止因系统被操纵而产生的滥用漏洞。目前支持Claude、Cursor、OpenClaw和VS Code。
Safe Zone：允许用户精细化控制AI工具对连接文件和内容的访问权限，设置选项包括完全访问、只读或阻止。该功能帮助用户管理AI系统可处理或个人材料，目前仅在Windows平台上可用。
Safe Links：在用户点击前，自动扫描并通过AI助手分享的链接安全性，防范看似可信但指向恶意目的地的URL。目前支持ChatGPT和Claude的浏览器版本。
应对AI代理新风险
Safe AI的推出反映了网络安全领域的范式转变：AI助手正从单纯的信息问答转向在设备和连接服务上执行实际操作。这种演变带来了新的风险类别，不仅涉及恶意内容，更关乎AI获得文件、应用或工作流访问权后可能执行的指令。
安全研究人员日益关注“提示注入”攻击，即攻击者在AI处理的内容中嵌入隐藏或恶意指令，诱导系统泄露信息或执行未授权操作。Norton的策略并非依赖AI提供商检测滥用，而是在交互层建立控制机制，包括监视设备操作、设定文件边界及筛选对话链接。
Norton总经理Dagim Girma指出，基本安全控制措施难以跟上消费者快速采用AI助手的步伐。“如今大多数AI工具本应附带警告标签，说明其缺乏原生安全保障。这些工具的设计初衷是完成任务，而非确保安全。”他表示，Norton致力于弥合AI采用速度与普通用户风险评估能力之间的差距，让用户无需成为专家即可安全享受AI便利。
此次发布也凸显了传统消费者网络安全品牌的转型趋势：供应商正将针对恶意软件、诈骗和身份盗窃的防护能力，延伸至由AI代理和聊天界面主导的新市场，将特定的AI控制功能深度整合进全方位的安全套件中。