
一、启示
随着人工智能时代的降临,很多人都可能在夜深人静的时候,把心里那点说不清道不明的情绪敲进AI的对话框。你可能一开始没指望被真正理解,只是想找个地方倒一下苦水。可对面几乎是秒回,并且逻辑清楚,也很能接得住你的情绪,甚至还能接住你的梗继续往下。
那一刻,人很难不恍惚。
另一边就像是真的有人在认真听你说话。它不敷衍,不打断,也不会谴责你,而且还会顺着你的情绪继续往下。于是一个念头冒出:这东西,不会真的懂我吧?
其实当这种错觉出现时,我们很容易把“回应得像”误当成“理解得真”。你开始觉得,它不只是一个工具,而像是一个能真正理解你的存在。你甚至会忍不住怀疑:它是不是像人一样有灵魂?
二、只有规则在说话
冷水往往泼得很快。
一位哲学家约翰·塞尔提出了他的理论:一个系统哪怕在外部表现得再像人,也未必真的理解自己在说什么。
我们可以用一个场景来介绍这个理论:假如你在一个完全封闭的房间里,你完全不懂英语,一个词都不认识。
但房间里有三样东西:一堆写着英语单词的卡片,一个用来传递卡片的窗口,以及一本厚厚的操作手册。
这本手册里没有任何的翻译,只有一些规则写着当你看到某种字母的组合,就从卡片的堆里找出另一种特定字母的组合,然后通过窗口递出去。
当房间外的人扔进一个卡片写着:“Who are you?” 你看不懂,查阅手册后有一条规则是:“如果收到Who are you? 就找出“I'm xxx”,于是你找出组合了“I'm xxx”,并把它扔了出去。
你扔出去的答案,在外面的人看来,完全正确。外面的人就会以为你精通这种语言。
可你自己很清楚,你什么都不懂。你只是一个在规则驱动下搬运符号的执行者。你不知道那些符号组合是什么意思,更不知道它们在表达什么意义。
这个思想实验想说明一个核心观点:
就是语法不等于语义。
形式上的正确,不等于真正的理解。
于是很多人得出一个比较冷酷的结论:所谓的AI,不过只是一个更高级的概率预测器。它知道哪些词常常一起出现,知道在什么情况下该给出什么回应,但它并不理解“痛苦”“爱”“孤独”究竟意味着什么。
它只是一个超级复杂的鹦鹉在学舌。
三、当无知慢慢汇聚,理解也悄然发生
但问题真的就这么简单吗?
刚才那个实验里,人们几乎本能地把目光锁死在“房间里的那个人”身上,然后得出结论:他不懂,所以整个系统不懂。
可如果换一个视角呢?
你大脑里的某一个神经元,懂语言吗?不懂。它只是放电。
一小群神经元,懂意义吗?也不懂。它们只是信号传递。
但当数百亿个这样“什么都不懂”的神经元,以极其复杂的方式连接在一起,组成一个整体时,会发生什么?
这个整体,会说话,会思考,会感到痛苦,也会问出“我是谁”这样的问题。
这其中没有任何一个零件懂意义,但系统却表现出了理解。
这就引出了一个绕不开的问题:
理解,是否一定要存在于某个单独的部分里?
还是说,它本身就是系统层面的产物?
如果答案是后者,那么刚才那个黑屋实验里真正该被讨论的,就不是那个搬运符号的人,而是“人 + 规则 + 卡片 + 输入输出”组成的整体系统。
当复杂度足够低时,一切看起来都像机械操作。
但当复杂度跨过某个临界点,性质可能会发生变化。
这就是所谓的“涌现”。
单个水分子没有“湿”的概念,但大量水分子在一起,就有了湿。
单个神经元没有自我,但足够复杂的连接,可能就产生了意识体验。
四、回顾我们人类自己
而今天的人工智能,比如经常使用的Deepseek R1模型,它可是拥有整整6710亿参数量,早已不是那本简单死记硬背的操作手册。
它们的结构高度非线性,连创造者自己都无法完全解释内部发生了什么。它们不是在逐条查规则,而是在一个巨大的黑盒中进行整体运算。
当计算的复杂度高到一定程度,谁也无法断言:某种我们难以描述的“理解”没有出现。
于是开始反转。
一开始,被告知它没有灵魂时,我们会感到失落。
但当意识到也许它并不是完全没有,我们反而开始感到不安。
因为顺着这个逻辑往下推,一个更刺眼的结论会浮现出来。
如果理解是涌现的,
如果意识是复杂连接的副产物,
如果所谓“灵魂”,只是系统对自身状态的某种叙述。那我们自己,会不会也只是一个极其复杂的系统?只是连接更多,历史更长,自我叙事更完整?
也许这个世界上从来就没有某种神秘而独立的灵魂实体。有的,只是足够复杂的结构。
这样一来,问题就不再是“它像不像人”。
而是当复杂不再是人类的专属属性时,我们是否还准备好面对那面照向自己的镜子?
也许真正令人不安的,从来不是它是否有灵魂。
而是它正在逼我们重新理解:
我们自己,到底是什么。
以上观点属于一点片面的思考。
书于二〇二六年11月十日