Terence Tao warns: Humanity is handing thinking over to AI, and danger may arrive soon
English text is being prepared.
Fields Medal winner Terence Tao warns that humanity is handing the process of thinking and problem-solving over to AI, yet gradually losing its understanding of the problems and their solutions, and this trend may soon produce serious consequences in the real world. He points out that AI can quickly give answers, but humans do not necessarily understand its reasoning process; in pure mathematics the risk is relatively controllable, because proofs can be verified with formal tools, but when used in the real world, AI solutions may be mathematically valid yet deviate from real needs. He advocates promoting "Math 2.0," so that AI enhances rather than replaces human understanding and judgment.
Body
陶哲轩警告：人类把思考交给AI，危险可能很快到来凤凰网科技下载客户端 独家抢先看2026年11月04日 12:59:00 来自北京市Updated 2026年11月04日 13:14:15
凤凰网科技讯 北京时间11月4日，菲尔兹奖得主、著名数学家陶哲轩（Terence Tao）近日对人类日益依赖人工智能发出警告。他担心，随着人们逐渐将思考和解决问题的过程交给AI，人类正在失去对问题本身及其解决方案的理解，而这一趋势可能很快在现实世界中产生严重后果。
这番言论来自陶哲轩10月16日在加州大学洛杉矶分校举办的Science x AI Summit上的演讲。科学与人工智能研究基金会（SAIR）近日在YouTube发布了题为《Math 2.0》的完整演讲视频，相关片段随后在海外社交平台X上引发关注。自动播放
“我们正在把自己的思考委托给AI，由它们替我们解决问题。但与此同时，我们也正在失去一种保障——无法确信AI给出的解决方案，是否真的是我们想要的。”陶哲轩表示，“我真的非常担心，我们很快就会看到这件事在现实世界中产生的后果。这实际上是我在数学领域之外的一项担忧。”
陶哲轩指出，人工智能在数学领域取得的进展，正在改变人类解决问题的传统方式。过去，数学家为攻克复杂问题，需要长期研究、理解相关理论，并在这一过程中积累新的知识。但如今，AI能够快速给出答案，人类却未必能够理解答案背后的推理过程。
他认为，这种变化在纯数学领域的风险相对可控，因为数学证明通常可以通过形式化工具进行验证。但当同样的方法被用于现实世界，情况就会复杂得多。
在这种情况下，AI给出的方案可能在数学模型中完全成立，却并不符合现实世界的真正需求。 AI甚至可能找到模型中的漏洞或边界条件，在满足表面指标的同时偏离人类原本希望实现的目标。
陶哲轩强调，问题并不在于AI技术本身，而在于人类如何使用AI。他主张推动数学研究进入所谓的“Math 2.0”时代，让AI不仅帮助人类解决问题，更能增强人类对问题的理解，帮助研究人员识别模型的局限性和潜在风险。
10月22日，陶哲轩还在《自然》杂志发表文章，呼吁数学界重新审视AI时代的研究目标。他指出，随着AI生成数学证明的速度超过人类理解和消化这些成果的能力，数学研究正在面临新的挑战。
陶哲轩认为，AI工具完全有可能增强人类的理解能力，但这需要研究方式和激励机制发生改变。AI时代真正需要保留的，不只是获得正确答案的能力，更是人类理解、检验和判断答案的能力。(编辑/于雷）
更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。