
若人工智能做出错误的财务决策,后果需由用户自行承担。近期,多家主要银行向客户发出明确警告。
据媒体审查的电子邮件及应用通知显示,银行方面实质上将能够访问财务信息的AI代理视为用户的“延伸”,而非外部入侵者。这意味着,账户持有人需对AI的行为负全责。
美国Ally银行在本月早些时候的客户邮件中指出:“使用AI服务时,您需为AI采取的任何行动负责。”该行强调,AI可能会犯错、产生幻觉、误解指令或以非预期方式执行,从而导致重大损失。
花旗银行(Citi)也在其网站和移动应用中添加横幅,引导用户查看警告页面,明确提示“AI助手可能会出错,用户需为其错误承担责任”。
AI代理崛起引发合规新挑战
随着新型AI代理开始具备自主购物能力,此类风险警示密集出现。与此前仅通过文本回答问题的ChatGPT或Claude不同,Meta的Muse、Instinct AI及OpenAI的Dots等在线代理已能代替客户完成预订航班、餐厅座位甚至自动补货等复杂任务。
零售商正通过修改条款应对这一变化。今年3月,塔吉特(Target)修改客户协议,规定AI代理购物“被视为经用户授权的交易”。9月,亚马逊则以安全和可靠性为由,阻止了Muse代理进行购买操作。
银行划清界限:严禁共享凭证
银行试图区分“授权账户连接”与“直接共享登录凭证”的界限。此前有报道指出,各大银行检测到第三方代理在客户账户中运作,部分情况甚至涉及客户主动提供登录凭证。
尽管如此,所有被审查的银行邮件均严厉警告客户,切勿分享用户名、密码或安全代码。富国银行(Wells Fargo)表示,在缺乏强大安全措施、明确授权及资金保护机制的情况下,不应信任任何以客户名义行事的技术。
摩根大通(JPMorgan Chase)首席执行官杰米·戴蒙(Jamie Dimon)在10月财报电话会议上亦发出类似警告。他指出,用户应充分了解使用AI代理的风险,并明确表示摩根大通不会允许任何外部代理进入公司内部,以防对客户及银行造成过大风险。
这场安全意识宣传已延伸至科技巨头。在苹果最新的Mac软件测试版中,当用户尝试授予AI代理或应用系统级访问权限时,系统也会弹出相应的风险警告。