周四,Anthropic以史上最大规模IPO登陆华尔街。在纳斯达克开盘钟声敲响前,公司CEO达里奥·阿莫迪(Dario Amodei)发表讲话,重申负责任开发人工智能的承诺。他誓言,Anthropic不会屈服于商业或政治压力,并将确保AI“始终处于人类控制之下”。

初衷:以AI加速医学突破

阿莫迪手持讲稿,回顾了Anthropic的创立初衷——构建造福人类的强大技术。这一理念源于其父亲因病去世的个人经历,当时该疾病在几年后便有了治愈方法。他指出,尽管人类智慧已让瘟疫、天花和小儿麻痹症成为历史,但在其他疾病领域,因科学家数量不足和时间紧迫,进展依然缓慢。

阿莫迪认为,AI与人类协同工作可进一步推动医学进步。他表示,足够强大的人工智能有望将一个世纪的科学和医学进步压缩至十年内,从而减少因时间差距而错失治愈机会的家庭。

风险:正视隐患,拒绝冒进

尽管强调AI的救命潜力,阿莫迪并未回避风险。他多次警告过快推进技术的后果,包括技术落入不良行为者(个人或国家实体)手中、引发经济动荡以及失去对AI系统的控制。

今年9月,阿莫迪曾提出一项旨在放缓AI发展速度的计划,包括协调行业安全标准及引入第三方评估,虽获OpenAI CEO萨姆·奥特曼、谷歌DeepMind负责人杰米斯·哈萨比斯及xAI所有者埃隆·马斯克的口头认同,但尚未形成实质性承诺。

在今早的演讲中,阿莫迪再次强调,这些风险并非不可避免,而是取决于构建者的选择。他表示,Anthropic将继续致力于AI对齐和测试,开发新方法理解AI行为,并投入更多人才进行多重核查,以确保系统安全。

承诺:掌控节奏,发起“向上竞赛”

“最艰难的安全工作还在后面,”阿莫迪称,“我们将控制AI系统的训练和部署节奏,花费必要的时间以确保它们的安全,绝不屈从于任何商业或政治压力。”

他指出,今天的上市增强了公司的财务实力,这将加强其做正确事的决心。Anthropic希望通过证明“在确保安全的同时也能建立一家极其成功的公司”,来激励行业效仿,从而推动一场由领先者驱动的“向上竞赛”,使整个行业受益。

Anthropic联合创始人丹妮拉·阿莫迪(Daniela Amodei)也在周四接受采访时表达了相似观点。她承认风险真实存在,但强调AI的承诺同样巨大,公司自成立以来在减轻风险方面表现出色,并将继续致力于安全发展。