8月28日,OpenAI启动了一款新内部模型的训练。除挑战纳维-斯托克斯方程这一千禧年大奖难题外,该模型目前已解决数学大多数领域中100多个长期未决的开放性问题。其进展速度令OpenAI内部数学家感到惊讶,也引发了公司关于如何妥善告知社区、以应对这一快速技术迭代的内部讨论。
鉴于数学作为基础科学的地位,新发现可能催生广泛应用,这使得相关AI能力的负责任发展与部署至关重要。针对近期数学家在《数学中AI的严重错位》公开信中表达的担忧——即把解决开放性问题作为AI基准可能带来负面外部性,OpenAI强调与数学界进行深思熟虑互动的必要性。
成立独立咨询委员会
为此,OpenAI正与数学家合作,成立独立的“数学与人工智能咨询委员会”。该小组由高等研究院(IAS)主办,旨在充当通往数学界及公众的桥梁,确保数学家在技术发展过程中拥有发言权。
委员会将就新兴成果的审查与传播提供建议,协助评估其重要性,协调发布策略,并依据学术和专业标准指导工具在数学研究与教育中的应用。其核心目标是将强大工具交付数学家手中,助力其探索关键问题并激发新思想。
该委员会独立于OpenAI运作,成员不由公司支付薪酬,且可根据需要调整构成。它有权主动提供建议、评论OpenAI对数学领域的影响,并公开其观点。值得注意的是,委员会不负责就OpenAI内部技术推进路径提供建议,其价值在于成员能独立行使判断力并挑战公司决策。
此次合作仅是第一步。面对AI如何深化数学理解以及如何让更广泛社区受益等复杂议题,OpenAI希望数学家能处于塑造答案的核心位置。
委员会首批成员名单
- François Charles (ENS-PSL)
- Camillo De Lellis (IAS, GSSI)
- Timothy Gowers (法兰西公学院, 剑桥大学)
- Martin Hairer (洛桑联邦理工学院, 帝国理工学院)
- Nikhil Srivastava (伯克利分校, 西蒙斯研究所)
- Ulrike Tillmann (牛津大学, INI)
- Ravi Vakil (斯坦福大学)
- Edward Witten (IAS)
- Melanie Matchett Wood (哈佛大学)