从笛卡尔的角度看GPT的极限

原创 Strausses 施展世界

最近ChatGPT越来越火，很多人都担心说ChatGPT会不会把人给替代了。实际上在我看来，ChatGPT根本不会替代人，而是会替代很多工作。替代人和替代工作，是完全不同的两回事。替代人是说人本身就没用了，而替代工作是说某些工作不需要人了。一旦替代工作，意味着对人的需求就变了。

下面来说说我为什么会有这样两个判断。

01

ChatGPT跟人比，差在哪儿？

ChatGPT跟提问人之间这种往复交谈的过程，看上去似乎真的就是一个有思维的人，但严格说来，ChatGPT并不是对它所说的那些东西有了理解。它仍然是一种概率算法，只不过是它的算法、参数等等极为强大，其呈现结果看上去让你感觉像是在跟人聊天。虽然现在时不时地也会看到它说的有些话是莫名其妙的，但随着训练越来越多，这种莫名其妙的事情就会越来越少了。

它都这么强大了，为什么我仍然说它没有对它所说的话的理解呢？一说到理解，其实首先得追问一个事儿，就是到底是谁在理解？如果没有一个主体去理解的话，那理解这事儿根本就不存在。

咱们可以用一个例子来解释一下。

很多人都听说过笛卡尔的一句名言，“我思故我在”（I think, therefore I am），但是可能很多人没有注意到，他这句名言里面的两个“我”实际上是不同位阶上的。

笛卡尔之所以说这句话，在于他看到，有很多哲学家在尝试对于世界到底什么样、宇宙到底什么样给出一种整体性的解释，但是这些解释很多是彼此矛盾的，不可能都对。笛卡尔说那算了，任何一种解释，只要里面有一点可质疑的，我就把它暂时悬置起来，先搁一边，然后继续去寻找下一种解释，在下一种里面又有一点可质疑的，就再次把它给悬置起来，那么这么往前去质疑，到最后，笛卡尔发现有一个正在质疑的“我”的存在是不容置疑的。

那问题来了，是谁发现了有一个正在质疑的我的存在？实际上是一个更底层的我观察到了一个次底层的我正在进行观察和质疑。更底层的那个我如果开始被观察，一定是有一个更更底层的我在对它进行观察，之前的那个“更底层的我”又变成了一个次底层的我，你会发现永远得有一个最底层的去观察而不被观察的我去质疑、去理解，那个是自我的基础。

可是因为它是去观察而不被观察的，就意味着你不知道该用什么样的算法来模拟它，原因在于，你要用任何算法去模拟一个“自我”，首先那个自我得被观察，可是是谁在观察？是一个不被观察的自我在观察。也就是说，你想要去模拟的那个对象是一个永远无法被观察到的对象，只要你一去观察它，它就不再是你想要模拟的那个对象了。

所以在这种情况下，要把最底层的主体给模拟出来，你根本都不知道这个算法该怎么写，哪怕是比GPT再高级一层的AI也还是做不到。你要去模拟的那个最底层的自我，它作为一切理解、一切精神动力的出发点，是无法被观察的。所以GPT实际上是无法出现自我意识的，没有自我意识，也就替代不了人。

自我意识带来了你所有的精神动力，带来了你所有的行为动力，相当程度上，自我意识是一种非理性的能力，是一种非理性的冲动，它确立了一个根本的目标。而理性在这儿是干嘛用的？理性是用来给这个目标寻找到一个最有效率的方案的。

“非理性来确定目标”，仔细追溯一下会发现，这并不像初听上去那么离奇。比如说我为了考100分要好好学习，在这里，好好学习不是一个根本目标，甚至考100分也不是根本目标，考100分是为了达到别的目的。根本目标是来自于一种意义感的驱使，而意义感这东西很神奇，它根本不是用理性能解释的，但凡能用理性解释的东西，实际上它的意义感都是很容易枯竭掉的。

真正最底层的意义感来自于非理性，而非理性的意义感的来源，就是那个最底层的“去观察而不被观察”的自我。GPT是无法拥有这样一个自我的，它也就无法去设定目标，从而它所有强大的这种推理能力、计算能力，都是用来为拥有意义感的人所设定的目标服务的。

02

GPT时代，真正重要的能力是什么？

过去，达到这个目标所需要做的很多工作都是由人来做的，今天你都可以甩给GPT了，于是很多工作会被替代，但是人本身无法被替代。

实际上工业革命以来，很多工作都已经被替代了，有了机器，很多体力活就用不着人来干了。那么在今天，有了GPT，很多脑力活也不用人来干了，因为有很多脑力活，它实际上是伪装成脑力活的体力活，不过是一些机械的重复性劳动，都可以甩给GPT了。

于是大量工作就有可能消失了，准确来说，是这些工作岗位消失了，但这不意味着一般意义上的普遍失业，仅仅是原来干那些活的人暂时失业了。历史上，每当出现一个新技术的时候，很多人都会惊呼可能会让很多人失业，但是每一次这种技术迭代出现，都一定会创造出更多的人们此前从来没有想到过的新岗位出来。所以在这个意义上并不要太担心，需要追问的是，这些新岗位需要的能力特征是什么？

GPT本身具有那么强大的推理和计算能力，然后又有那么庞大的数据库供它搜索，意味着它在回答问题这个层面非常厉害，人现在肯定是比不过它了。但这是回答问题的层面，关键是谁来问问题呢？

问问题的人还得是这个“我”，只有这个自我才知道去问什么问题。但并不是你有了自我，就能问出好问题，有可能你问出的是很糟糕的问题。在未来真正重要的能力，是怎么才能问出好问题，从而把GPT的能力给真正释放出来。

好问题的提出首先取决于你对社会、对世界有足够深刻、敏锐的观察和感受，而你又如何能够获得这样的观察力和感受力呢？前提是你得拥有一个足够健全的人格，否则你眼中的世界会是非常狭隘的，也就不可能问出一个好问题。如果你变成这样一个人，你肯定会被GPT所替代，但这是“你”被替代，而不是“人”被替代。

GPT的出现会改变很多领域，尤其是它会改变教育领域。这意味着对于未来的世界、未来的社会，现行的教育机制也必须得有深刻的改革。

当下甭管是教学方案设计还是考核机制，其中很多都有那种伪装成脑力活的体力活，那些东西你即便把它全都练熟了，也仍然跟培养完整人格，从而获得对于社会、对于世界比较深刻比较完好的感受力没有多大关系。

我曾很多次聊到过，任何单一学科都是一种工具性的存在（）。如果一个人完全沉浸在单一学科里面，视野会变得狭隘，因为学科的边界决定了你的视野，此时你完整的人格有可能受损。

在GPT出现之前，你对于世界的感知力以及人格的完整性就算还不那么到位，也未必是一个太大的问题，但是随着GPT出现，尤其是GPT不断地迭代，在社会当中的应用越来越广泛，那样一种学科教育所培养出来的人实际上是会被GPT所淘汰的。

未来我们需要一种全新的教育，它会是对于古典教育的某种回归，它会有一个通识教育的外观特征，但是这必须得是一种能够适应GPT时代的通识教育。

原标题：《从笛卡尔的角度看GPT的极限》

阅读原文