AI教授们正在 negotiate 学术研究的新现实

本文原载于《算法》，我们的每周AI newsletter。想第一时间阅读此类文章，请订阅。 上周，我前往旧金山以南30英里的加利福尼亚州山景城的一家酒店， joined 一些最有成就、最有前途的AI研究人员。我主持圆桌访谈并在施密特科学AI2050项目的媒体培训上发言——该项目由埃里克和温迪·施密特资助，支持 work involves AI 的学者。研究员名单是AI luminaries 的 who's who，虽然并非所有人都 made it 到湾区， but 每次我转过一个角落，都会看到一位我 previously 采访过或 whose research 我钦佩的科学家。（充分披露：我在2024年获得了施密特科学资助的科学传播奖。） 对于大学AI研究人员来说，这是一个 weird 时期，他们构成了AI2050群体的大部分。在过去的四年里，AI研究围绕大型语言模型重新定向，其前沿已从学术机构转移到私人公司。大学 simply 负担不起训练和运行前沿模型所需的GPU，即使它们能，Anthropic和OpenAI也不会让任何人看到Claude或ChatGPT的内部细节。 在午餐时的对话中，加州大学伯克利分校计算机科学教授尼卡·哈格塔拉布说，如今成为一名AI学者就像在一个私人公司独家控制基因编辑工具CRISPR的世界里当生物学家。前沿实验室之外的专家可以研究ChatGPT和Claude的行为方式，但他们无法对这些工具的设计和训练进行任何详细研究，也无法 steering 那些设计或训练 themselves。 AI2050项目确实为研究员提供了一些可以用来购买GPU的资金，一些我 spoke with 的研究人员表示这是参与该项目的一个主要好处。但资金仍然是一个 pressing 关虑， especially 鉴于美国联邦科学 funding 的减少。即使对于自己不运行本地模型的研究人员来说， rigorously 研究OpenAI、Anthropic和Google模型 repeated querying 的成本也可能 prohibitive。 许多研究员的 focus 不是 advancing 能力，而是 unlikely 被Anthropic或OpenAI解决的问题。"我尽量不 work on 我认为 gonna 被科技公司解决的问题，"约翰霍普斯大学计算机科学教授安佳莉·菲尔德说。公司需要赚钱，利润 promise 不大的研究问题可能不值得投资—— especially 如果它们的答案可能让公司 look bad。例如，最近菲尔德 conducted 了一项研究，发现语言模型对以女性 more commonly 使用的方式表达的提示给出不那么 sophisticated 的回应。很难想象那种研究会从Anthropic或OpenAI出来。 还有一大群AI学者根本不使用大语言模型。他们中的许多人是构建 specialized AI模型来分析数据、做出 useful 预测甚至模拟整个物理系统的科学家。这些研究人员不一定与前沿实验室竞争——谷歌DeepMind的AlphaFold团队（构建了一个预测蛋白质结构的诺贝尔奖获奖模型）上个月被解散了。但他们面临着 plenty of 自己的挑战。在 convening 上，一些人表达了对非大语言模型AI的 widespread 无知如何影响他们工作的担忧。例如，构建 specialized AI工具来帮助应对气候变化的研究人员 sometimes 难以为他们的工作 advocate，当如此多的人认为"AI"意味着" energy-guzzling 大语言模型"时。 所有这些挑战正在改变学术界的格局：几位 prominent 学者最近休假离开大学加入前沿实验室，许多AI2050研究员在学术工作 alongside 担任行业职位。在过去六个月里， yet another 威胁 emerged。OpenAI的模型已经 solved 了一些真实的数学研究问题，一些专家担心人类在纯数学领域可能没有 future。一位我 spoke with 的研究员说她担心数学家同行的心理健康。 但并非全是 doom and gloom。一方面，实证科学 may prove 比数学更难自动化，因为收集数据本质上是一个缓慢的过程。一些研究人员将AI数学家和科学家视为福音 rather than 威胁—— including 卡内基梅隆大学的计算机科学家蒂姆·德特斯默斯，他致力于使AI模型运行更快、更便宜。AI科学家 won't replace 人类，德特斯默斯说。相反，它们 could make 人类科学家效率大大提高， so that 他和他的同行有机会 pursue 所有他们 otherwise 永远不会 around to 的疯狂和 inspired ideas。 科学家是有韧性的一类。阻碍他们训练前沿模型的资源限制 also push 他们发现使模型更小、更高效的新方法，或探索全新的架构。如果下一个重大AI突破不是来自大公司，而是来自一个 scrappy 学术实验室，我不会感到震惊。