全球30名顶尖数学家秘密集会围剿AI，结果如何？

导读： AI威胁论再度升温 | 科学家Nick的真实经历 | 顶尖数学家的秘密会议 | AI的局限与未来挑战

AI威胁论再度升温

近年来，关于人工智能（AI）可能带来的风险和威胁的讨论愈演愈烈。从全球千余名业界大佬公开签名呼吁暂停研发更智能的AI，到有“AI教父”之称的计算机科学家杰弗里·辛顿因对生成式AI感到担忧而从谷歌离职，再到AI毁灭人类论甚嚣尘上，无不折射出不少人对AI发展的深深忧虑。

"我们正在创造一种超越我们的智慧，这可能是人类历史上最伟大的成就，也可能是最后一项发明。" —— 某匿名专家

科学家Nick的真实经历

近日，一位专注于物理领域的科学家 Nick McGreivy 分享了其应用 AI 来做研究的真实经历，主题是“我被 AI for Science 的炒作所愚弄”。他坦言，在尝试使用AI进行复杂计算时，发现模型的表现远不如预期。

Nick 表示：“我以为AI可以帮我解决一些长期悬而未决的问题，但事实证明，它只是重复已知的结果，甚至还会引入新的错误。”他的经历引发了科学界对AI真实能力的重新评估。

顶尖数学家的秘密会议

为了应对这一问题，全球30名顶尖数学家秘密集会，试图找出AI在数学领域中的真正潜力和限制。这次会议由来自ETH Zurich的研究团队牵头，邀请了多位具有奥数评审经验的专家，评估了顶尖模型（如o3-mini、Claude 3.7和Deepseek-R1）的证明过程。

会议的核心议题之一是：LLM是否真的能够理解并完成复杂的数学证明？研究结果显示，尽管AI在某些任务上表现出色，但在涉及深层逻辑推理的任务中，仍然存在明显不足。

AI的局限与未来挑战

一个人类用5分钟轻松解开的谜题，却让最顶尖LLM全线崩盘得分挂零，o3更是从曾经76%暴跌至4%。这表明，尽管AI在某些领域取得了突破性进展，但在实现通用人工智能（AGI）方面，仍有很长的路要走。

与此同时，OpenAI被曝将以30亿美元收购AI编程软件Windsurf，并推出了“最强编程智能体”Codex。在中国，美团宣布将上线AI编程类工具NoCode，成为继字节、阿里与百度之后的新玩家。

尽管如此，许多人依然对AI的未来发展持谨慎态度。正如Keras之父François Chollet所言：“AI的进步并不意味着它可以替代人类的创造力和判断力。”