留到后期再修
没有人知道，当智能变得像光和空气一样充足，几乎无处不在时，这个世界到底会变成什么样。
5 min read
我以前做视觉特效的时候，遇到一些在 3D 里怎么也修不好的东西，我们常会说一句话：算了，留到后期再修。
这里的“后期”是 post production。严格来说，我们当时做的工作本身就已经属于后期制作了，但在这种语境里，它通常特指最后的二维合成。三维里解决不了的问题，扔给合成，最后总会有办法把它遮过去。
现在我做创业，也写软件，发现类似的事情又发生了一遍。
如今我的代码几乎全部都是 coding agent 写的，可能有 99.99% 以上。我自己偶尔才会进去手动改几个数值。所以有时候碰到一个很难修、但又不算特别致命的 bug，或者积累了一大坨技术债，眼下实在没有时间和精力处理，我也会产生同样的想法：留到后期再修吧。
对我来说，编程里的“后期再修”大概是这个意思：模型还会继续变强。今天看起来异常棘手的问题，过一段时间，也许对新的模型来说只是一个很普通的任务。现在堆积如山的技术债，未来也可能只需要让 agent 连续跑上一整个长 session，就全部还掉了。
我还看到过另一个说法，我其实挺认同：如果一件东西你学得太慢，那可能还不如不学。因为等你终于学会的时候，这项技能本身也许已经被 AI 替代了。
人类的问题
超级智能以这样的速度发展下去，我觉得真正的问题其实只有一个：那人类以后到底处在什么位置？
几百年来，人类一直站在这个世界的顶端，很大程度上并不是因为我们跑得最快、力气最大，或者适应环境的能力最强，而只是因为我们的智能远远超过其他动物。
现在，一种新的智能已经很明显地开始超过我们，而且完全没有减速的迹象。随着它不断往上走，我们究竟要靠什么，才能保证自己仍然拥有一个可以长期维持下去的未来？不仅是经济上的，还有心理上的，以及整个社会结构上的。
围绕这些问题，人们已经争论了很久。工作会不会消失，要不要全民基本收入，财富应该怎么分配。但还有一个更隐蔽的问题：很多人活着所依赖的并不只是收入，而是一种意义感。
如果你去看现在这场 AI 竞赛，我个人其实不觉得真正驱动它的是钱。当然，公司需要钱，需要融资，需要一个不断增长的故事。但如果你看的是那些真正把这些模型一步步推向前面的人，我相信很多人真正的动力还是好奇心本身。
换句话说，那些真正对 AI 发展产生巨大影响的人，即使你不给他们几百万美元的薪酬，他们大概还是会在自家车库里继续研究，只因为他们太想知道下一步到底会发生什么。
但问题也恰恰在这里。这些人的野心和好奇心，与社会上其他绝大多数人的利益，并不天然一致。
最近已经能看到类似的事情发生在数学界。一些模型开始解决越来越困难、存在了很多年的开放数学问题。其中有些问题，顶尖数学家已经研究了多年都没有解决，而模型几个小时就做出来了。可以想象，这对一个把一生都投入某个领域的人会造成什么样的冲击。
几年前，艺术家已经经历过一次非常类似的事情。
我身边有不少艺术家朋友，我几乎是亲眼看着这个变化发生的。当 AI 第一次真正能够画出足够好的图片时，很多人突然就失去了继续画画的兴趣。
这件事让我越来越觉得，人做很多事情的时候，其实需要一点类似奥林匹克精神的东西。我们需要知道那件事是困难的，但依然在人类可以抵达的范围之内。我们需要知道自己的努力是有意义的。
所以到最后，真正重要的也许并不是“什么事情可以做到”，而是“什么事情是我们能够做到的”。
我自己也是艺术家。算不上多好，但至少还过得去。艺术曾经是我做电影的一部分，也是我职业价值和自我认同里很重要的一部分。当我第一次看到那一批真正达到实用水平的图像生成模型时，我自己也很快失去了继续创作视觉艺术的兴趣。
如果超级智能继续自我改进下去，我们大概会看到越来越多这样的身份被打碎。它甚至不需要主动夺走什么，只需要安静地让一个人花费几年、几十年积累起来的能力显得越来越微不足道，再不断向我们展示一些人类永远也无法达到的高度，就够了。
我唯一希望的是，等到这一天真正到来时，这个由我们创造出来、吸收了人类过去所有知识和价值观的超级智能，最终能够变成一种比我们自己更有智慧的存在。也许到了那个时候，它反而能找到一些真正能够让彼此共存的道路，那些我们自己一直看不到，也一直无法彼此同意的道路。
当然，对齐很难。但换个角度看，人类自己其实从来就没有真正对齐过。我们彼此之间充满偏见、成见和仇恨。看看今天的世界，我们甚至连一些最基本的人权问题都还没有达成共识。
也许所谓完美的对齐，本来就不应该完全由我们来决定。
如果仔细想，人类社会真正依赖的资源其实并不是能源，而是智能。
我们把大量时间花在培养下一代人的智能上，也把人类知识最前沿的更新记录在最有声望的大学、研究机构和学术体系里。长期以来，智能一直是一种极其稀缺，而且极其昂贵的资源。
没有人知道，当智能变得像光和空气一样充足，几乎无处不在时，这个世界到底会变成什么样。
但不管我们有没有想明白，整个世界都已经在往那个方向走了。
所以如果这一切只是一个技术债，或者只是一个暂时还不致命的 bug，
那就先留到后期再修吧。
问题只在于，
这个“后期”，到底是什么之后？
后末日，还是后智人？