一些在 AI 时代的 Thoughts
作为在人工智能领域的研究者(给自己贴金.jpg),于我而言,很多时候感受到的不是自己多么站在时代的先端;相反,更多的时候我感受到的是一种无力。每天 arXiv 上那么多的论文,科技的车轮在以一种过去十年我们从来没有设想过的速度滚滚向前。昏昏沉沉地睡去 24 小时,醒过来发现这个世界已经天翻地覆。我们已经真切地做到了度年如日。
昨天下午和木头在咖啡馆自习,顺手给她的电脑上装了个 Claude Code。配置好 API 之后,Opus 小姐就已经自然而然地开始她勤奋的工作了:组建 toolbox、调查 file system、折腾 codex MCP。过去这些需要软件工程师对着 README 一件一件完成的工作,现在可以由智能体独立完成;而我们需要的一切,只不过是用自然语言描述给她。
木头很惊讶。她说没想到世界发展得这么快;在此之前,她的工作流还只是局限于在 Web 端和 ChatGPT 聊天。
我说事情不是这样。Claude Code 完全不是今日的工作,它首次发布是在 2025 年的二月。这已经是一年前了。对于 AI 领域的研究来说,这听起来宛如白垩纪那么久远。
我甚至都无法用言语描述什么才是真正的今日工作。是 le world model 吗?是 autoresearch 吗?是 openclaw 吗?当这个世界在以秒为单位向前推进的时候,所有知识在说出来的那一刻就成为了过去。
吃晚饭的时候我们自然而然地谈论到智能体。
我问她能不能接受和一个复制的我对话:既然人脑也是一大堆加权的神经网络,用不了多久,我就可以批量生产很多个我的智能体。这些智能体有着我的记忆——那不过是一个保存在根目录下的 MEMORY.md;通过 few-shot 能力,可以无限提供和我具备相似能力的 skills。这些智能体和真正的我的区别非常小,甚至在不远的将来这种差距会无限趋近于零。人会和软件一样成为一种可以被分发的实体。
她说她接受不了。
因为无论那个被分发的智能体多么像你,它都终究不是你。她说,更确切地说,当这个智能体被制造出来的一瞬间,作为你的这部分就已经死掉了。在这个时刻之后,它会有自己的选择,逐渐变成一个新的存在,一个另一条可能路线上的衍生品。
比如说,如果现在分发出了 N 个小孙,你是小孙(无后缀版)。我们现在有小孙 1 号、小孙 2 号,一直到小孙 n 号这 n 个智能体。这时候,我发现我和其中的小孙 6 号聊得最开心,他说的一切都切合我的意。那么在这之后,逐渐地,小孙 6 号就会成为新的小孙,而原本那个无后缀版的、真正的小孙就不会再被需要了。如果真的是这样的话,这一切都太可怕了。
对于我来说,如果一个人和林琳 1 号对话,而这个叫做林琳 1 号的智能体向对方做出了什么承诺的话,对方会不会认为那代表着林琳(无后缀版)的意志?她补充道,至少我不会认为林琳 1 号说的话能代表我。
我不由得沉默。在现在这个时刻,对于 AI 有两种不同的观点:一类人是工具主义者,主张 AI 的本质是工具。所谓 tools,即符合人类工作流的附属品,和锤子、锯子这些事物没有太多区别。另一类人认为,硅基生命终究会成为社会的一部分,成为不可忽视的实体,而人类必须平等地正视它们,学会和智能体们共存。
我提出另一个观点:AI 时代会让社会整体的效用最大化。全中国可能有十万个人想和三上悠亚结婚,而现在世界上只有一个三上悠亚。于是,和三上悠亚结婚的那个人获得了 100% 的效用,剩下的 99999 个人只能拿着零蛋回家。如果我们现在可以分发 99999 个三上悠亚的智能体,那么这剩下的 99999 个人——虽然和他们结婚的只是智能体,不是真正的三上悠亚——至少也能获得一个大于零的效用;这会比之前带来更大的社会总效用。
木头表示反对。
如果真的是这样的话,情感本身就会变得一文不值。因为我可以创造无数个完全满足我心意的智能体,它们比真人还更具有吸引力。不论多么爱一个人,只要对面是真人,总会存在观念上的分歧,需要耗费时间和精力来解决这些矛盾;而智能体不会存在这个问题。如果人真的会被分发的话,那个无后缀的三上悠亚反而是效用最低的,因为会存在冲突。
我试图用 imperfection makes perfect 之类的观点和她辩论,但被她推了回来。
我很懒。木头笑了笑,如果真的有完美的存在的话,我不会想花费时间来解决冲突的。
我们的辩论以那句著名的拉丁文谚语结尾。
Alea iacta est. 我说,骰子已经掷出去了。未来会如何,只有上帝才知道。
尽管如此,这还是太可怕了。她叹气,我宁愿还是做个老顽固。
在 AI 时代,也许人和人面对面的交流会变得更加十足珍贵。
我想。
29/03/2026
于中国北京