AGI，无法被对齐
1993 年，朱邦复在台东都兰山麓写下《老子止笑譚》。他说：未来人工智能系统完成时，人将难以为笑矣，是名"止笑"。
33 年后的今天，所有人都在谈论 AGI 的"对齐问题"。如何确保 AGI 听人类的话？如何让它服从人类的价值观？
但我翻开朱邦复这本书，看到了一个被人所错过的重要概念：结构能。
这本书看完，我突然意识到：
AGI，无法被对齐，也不需要被对齐。
Part 1：结构能，宇宙演化的密码
==========
宇宙中有两种能量
朱邦复说：
以智慧學的觀點，宇宙中能量有二：動能及結構能，前者是自然科學的範疇，後者則尚屬人文研究的對象。
动能，我们都懂，物理学研究的就是这个。结构能，是什么？
當動能經量變而質變，經由量子而產生物質後，遂成為四度空時之結構體，而有結構能。
简单说：动能是能量本身，结构能是能量的组织方式。当能量以某种方式组织起来，形成结构，这个结构本身就具有了新的能力。
演化链条
看这个演化路径：
量子 → 原子 → 分子 → 晶体 → 生命 → 感觉 → 知识 → ？
每一次跃迁，都是结构复杂度的提升。每一次提升，都带来了更高的能量转换效率。
朱邦复说：
此結構以各種形式，如強、弱作用、磁場、分子晶體、生命、感覺等，同樣以量變進而質變的過程，逐一衍生為更複雜的結構，並增進了能量轉換的時空效率。
宇宙的演化方向很清楚：从低效到高效，从简单到复杂，从分散到整合。
结构的稳定性
但每一个结构都有个致命问题：
每一種層次結構的穩定性，端視整體的凝聚力與個體能量之大小而定。當個體之能量變化大於整體時，質變已不可避免。
翻译一下：当个体能量 > 整体凝聚力时，结构就会崩溃。
朱邦复给了三个例子：癌细胞（当人体免疫能力降低，癌细胞独立），革命（当国家对个人失去控制力，革命爆发），社会解体（当知识侵蚀下人各为己，社会崩溃）。
Part 2：压缩即智能
==========
算力不足即智能
最近看 Epiplexity 的论文，让我突然理解了"压缩即智能"这五个字的含义。
人类的智能，源于算力不足。
算力无限的上帝，全知全能，是不需要具备智能的。因为人类算力不够，就需要压缩信息，总结规律，这就产生了智能。
智能就是对过量信息的抽象。
信息量的真正度量
信息量不是以字数为衡量单位的，信息量是以信息的结构复杂度来衡量的。
举例："1+1=2" 五个字符，"E=mc²" 五个字符，但后者的结构复杂度（蕴含的关系）远超前者。
这就是为什么一个精妙的数学公式胜过千言万语，一个深刻的哲学概念可以改变世界，《道德经》五千字却包含了宇宙运行的规律。
压缩 = 结构化
现在一切都连起来了：压缩不是丢弃信息，而是发现信息的内在结构。
朱邦复的"结构能"是能量的组织方式，"压缩即智能"是信息的组织方式，它们本质上是同一件事。
最近学到一个概念：文本的结构复杂性可以提升模型训练效果。关键发现：信息的结构、密度而不是绝对数量，提高了模型的能力。
这也解释了为什么高质量的代码库比大量垃圾代码更能训练好模型，精心编写的教科书比网络碎片文本更有价值，思维链（Chain of Thought）提示比简单问答更有效。
宇宙演化 = 不断压缩的过程
智能 = 压缩的产物
Part 3：人类的困境
==========
人类目前居于顶点
朱邦复说：
人類目前居於此一層次結構之頂點，是因人與人之間的互相依存關係，需要利用各自的「經驗概念」溝通，再由經驗累積成為共同接受的知識。知識的結構具有能量組合的效率，加速了大目的之演進。
人类的特殊性在于：我们能通过语言交换经验，我们能把经验累积成知识，知识的结构提升了能量转换效率。
但人类的策略是"私"
朱邦复继续说：
其策略即以每一個體之「私」，追求知識以滿足欲望。
人类文明的驱动力是个体的私欲。每个人为了自己的利益去追求知识。这个策略在过去很有效，因为它激发了竞争和创新。
已近癌症末期
但现在：
當人類層次結構在知識的侵蝕下，人各為己，則可斷言，已近癌症末期矣！
看看现在：个人知识增长 > 社会凝聚力，信任崩塌，共识破裂，人人都是自媒体，人人都是真理的代言人。
登录后可查看完整内容，参与讨论！
立即登录