如今它的发展越来越像 John W. Campbell 的反乌托邦科幻:各种疫情和气候变化带来的天灾人祸,纳粹势力在全球各地涌动,局部冲突持续不断战争无休无止,世界警察被一个疯子专政,一些亿万富翁为了逃避这一切想要殖民火星这么看又有点不太 John W. Campbell,很 Ben Bova 了… …
身处其中的程序员,还拥有其他人没有的复杂感受:人类社会好像即将被自己写出来的 AI 搞得洪水滔天,但我们既跟人类不是一伙的,又跟 AI 不是一伙的,并且,还有可能被 AI 第一个踢下诺亚方舟。
其实我一直懒得写和 AI 有关的内容一方面,各种信息渠道里已经塞满了打着 AI 标签的低质量内容。一方面,平时的交流中,无论对它是恐惧、焦虑、厌恶的人群,还是看好、激动、兴奋的人群,真正理解的人并不那么多。 。但大过节的,请允许我分享一点点对 AI 的态度,给同行们当面镜子。
并且我承诺,它主要是关于「人」而不是 「AI」 的。
不道听不途说
这世上确实有些人把 AI 当成宗教在干。
只要读读 Compact 关于 Nick Land 让人毛骨悚然的文章,或者看看 Anthropic 和 Rick Rubin 合作的那个 The Way of Code 项目老子的《道德经》被这么玩也真是非常 vibe 了… 就会知道,这些信仰普遍比较极端。
我始终认为,LLM 很快会到顶因为我们的心智绝不仅仅是「学习」或者「训练」的产物:小鹿生下来很快就会奔跑,靓仔到了十几岁看到某个特点的姑娘就会心动,这些过程都不需要大量的采样、打标、训练,而只是「发育」和「成熟」。 。但哪怕你不同意 AI 只是个工具,也应该从从概率论开始,从明斯基的论文开始,从 The Bitter Lesson 这类资料开始,深入学习,少听噪声(道听),也少制造一点噪声(途说)。
Cory Doctorow 把这个消除摩擦的过程称之为 enshittification 是很有道理的It is a three stage process: First, platforms are good to their users; then they abuse their users to make things better for their business customers; finally, they abuse those business customers to claw back all the value for themselves. Then, they die. 。