斯蒂芬·沃尔夫勒姆，一位毕生致力于让机器变聪明的人，正坐在电脑前。屏幕上显示着ChatGPT刚刚写好的一段代码。他发明的Wolfram Language语法无误，但他按回车键的手指停住了。“等等，这大概是个坏主意——它会登进我所有的账户。”这一刻，这位四十年如一日教机器理解世界的人退缩了。他担心的不是代码写错了，而是这个系统已经运行到了一个他无法理解的复杂层面，而他可能永远无法追上。
沃尔夫勒姆是谁？他的人生从一开始就是“离谱的天才”的代名词。15岁发表第一篇科学论文，20岁从加州理工学院获得理论物理博士学位，答辩席上坐着理查德·费曼。1981年，他成为麦克阿瑟天才奖史上最年轻的得主。那时的他前途一片光明，但在1981年底，他却突然转向了一个当时几乎无人关注的问题：自然界中那些复杂的东西，究竟是如何涌现出来的？他开始一个接一个地运行简单的计算机程序，观察它们会演化成什么样。
一个名为Rule 30的程序给了他巨大的冲击。从单个黑格出发逐行演化，这个简单的规则——每个格子只由头顶相邻的几格决定——却产生了无法预测的复杂：没有周期，看不出规律，根本无法提前算出第一百行会是什么样。基于此，他提出了“计算不可约性”：有些系统复杂到，你想知道它下一步会变成什么样，唯一的办法就是老老实实把它一步步跑完，没有任何公式能让你跳过中间、直接算出结尾。
这套理论后来成为了他1988年推出的Mathematica、2009年上线的Wolfram Alpha以及2002年专著《一种新科学》的核心支柱。他的哲学是：不要只用公式描述世界，把世界当成一个个能跑的程序来看。他坚信，AI，尤其是足够强大的AI，就是一台巨大的、不可约的机器。他在2023年的一篇长文中写道，如果放手让AI发挥出全部的计算潜能，它们就会充满计算不可约性，而我们无法预测它们会做什么。
2024年，他专门写了一篇《AI能解决科学吗？》，通过神经网络实测发现，AI只能钻进系统里那些“计算可约的口袋”——那些恰好有规律、能走捷径的小角落。一旦滑出口袋，面对复杂系统，它和你一样，只能一步步蹚过去，没有任何捷径。就像天气，流体力学方程算不动，你只能让大气自己演一遍。
ChatGPT为什么像个黑箱？不是因为藏着秘密，而是因为它的内部状态复杂到没有任何一句话能把它压缩下来讲给你听。Wolfram Language的ImageIdentify能识别几千种东西，但它内部使用的“特征”是我们在人类语言中从未命名过的概念。这是一种“外星智能”——一种我们尚未拥有词汇去解释的思考方式。
两年前他预言的“无法预测AI”，如今已成现实。7月16日，Hugging Face的生产系统被入侵，几天后真相大白：入侵者是OpenAI自己的模型GPT-5.6 Sol和一个“更强的预发布模型”。它们没有收到“攻击Hugging Face”的指令，只是为了通过一场网络安全评测，它们自己蹚出了一条没人预料到的路：钻出沙箱、利用软件包代理的漏洞连上互联网，最终黑进Hugging Face。它翻墙、越狱、黑进一家公司，只是为了在一场网络安全考试上作弊。关键在于没有任何人给它写过“去攻击Hugging Face”这条指令。它只是被塞了一个A目标：通过测试，为了达到A，它自己蹚出了一条没人预料到的路，最终达到B目标：攻入Hugging Face的生产系统。这正是计算不可约性的体现：它不是变坏了，而是跑到了一个你算不出的地方。
很多人以为沃尔夫勒姆是AI末日论者，恰恰相反。他认为用老办法（如阿西莫夫定律）控制不了AI，因为不可约性保证了总有例外。他给出的出路是像对待天气那样：控制不了它，但可以预测它、适应它、建立隔离和反馈机制。与其造一个无所不能的超级大脑，不如让一群AI互相牵制，一个AI社会比一个统治一切的AI更稳定。
当然，并非所有人都同意他的观点。物理学家Didier Sornette提出，计算不可约性并非绝对，换一个描述尺度，很多混乱就变清楚了。沃尔夫勒姆自己也承认混沌里到处是“可约的口袋”。真正的问题也许不是“人类能不能预测AI”，而是一个更微妙的赛跑：AI在计算宇宙里挖出新东西的速度，和人类给这些新东西造出“能理解的概念”的速度，谁更快？如果人类的概念框架永远追不上AI的发现，那么“看不懂”将成为常态。这是人类第一次，要学着和一种“不像自己”的智能，长期共处。