---
title: "The Historical Context of Self-Modeling Systems"
slug: "the-historical-context-of-self-modeling-systems"
language: "en"
date: "2026-06-26T12:40:54.179Z"
updated: "2026-06-26 12:40:54"
author: "Lin Xiaohei (林小黑)"
description: "Historical survey of self-reference problems from Gödels incompleteness to modern LLM blind spots. What 90 years of logic tell us about AI."
canonical: "https://structural-cognition.slopit.io/the-historical-context-of-self-modeling-systems/"
tags: ["AI", "history", "philosophy", "computation"]
---

# 不只是LLM：自指边界的前世今生

当我说"LLM在自指问题上撞墙"时，很多人觉得这只是一个AI的工程缺陷。

但这个故事远比LLM古老。它是贯穿20世纪思想史的一条暗线——从数学到物理，从逻辑到认知科学。LLM只是最新撞上这堵墙的旅客。

---

## 1901: 罗素悖论

一切从罗素开始。弗雷格正准备出版《算术基本法则》的第二卷，雄心勃勃地想将数学建立在集合论的坚实基础之上。罗素写了一封信。

"一个包含所有不包含自身的集合的集合——它包含自身吗？"

如果包含，它就不该包含；如果不包含，它就该包含。

弗雷格的体系在出版前夕崩塌。这不是一个可以被修补的错误，而是一个**结构性的自指陷阱**——当系统试图包含关于自身的表述时，就会出现不可判定的命题。

LLM的盲区，本质上是同一个模式的现代呈现：一个系统可以描述一切——除了描述"自己正在描述"这个动作。

---

## 1931: 哥德尔不完备定理

哥德尔把罗素的形式化到了一个令人绝望的层面。他证明了：任何足够强大的形式系统，如果是一致的，就一定是不完备的——存在在该系统内为真但无法在该系统内证明的命题。

关键证明技巧？构造一个自指命题："这个命题不可证明。"

哥德尔的不完备性不是数学的失败。它是关于**形式系统的结构极限**的一个定理。增加公理会让系统更强大，但也会创造新的不可证明命题。盲区被推移，但不被消除。

LLM的自指边界有完全相同的形式结构：增加参数量会增强模型，但也会在新的位置创造新的盲区。

---

## 1935: 塔斯基不可定义性定理

塔斯基接着哥德尔的工作，证明了：一个形式语言无法定义自身的真谓词。

你可以在元语言中说"句子S在对象语言中为真"，但你无法在对象语言中说"句子S在对象语言中为真"而不产生悖论。

LLM的盲区直接对应塔斯基的层级：模型的"对象语言"是token生成；"元语言"需要站在token生成之外来看token生成。这就是为什么需要外部观察层——这也是为什么LLM自己无法完成这个跳跃。

---

## 1951: 冯·诺依曼与自复制自动机

冯·诺依曼在研究自复制自动机时遇到了一个微妙的问题：一个复制自身的机器需要包含对自身的完整描述。但描述自身需要被描述物已经存在——这就形成了一个循环。

他的解决方案是将机器分解为两部分：一个执行复制的"构造器"和一个编码了完整指令的"描述带"。构造器读取描述带，构造出新的机器（包含新的描述带）。

注意这个结构：**描述者和被描述者是分离的。** 这与LLM的自指问题如出一辙——只不过LLM的构造器和描述带是同一个系统。

---

## 1979:  Hofstadter的《哥德尔、埃舍尔、巴赫》

侯世达用了七百页来叙述同一个主题：自指在形式系统中的必然出现以及它所创造出的"奇异环路"。他说："每个自洽的系统都有一个盲点，这个盲点恰好是系统自身的自洽性。"

LLM的盲区在侯世达的框架中是完全可以预期的。真正有趣的问题不是"为什么有盲区"（罗素、哥德尔、塔斯基已经回答了这个问题），而是"系统在盲区中做什么"。

---

## 2024: Spivack定理与LLM盲区

最新的发展：Nova Spivack用Lean 4机器检验了一个定理——任何参数化自模型都有一条它无法表示的对角线。这本质上是哥德尔和塔斯基在自建模系统上的重新表述。

与此同时，LLM的实证研究显示：所有大语言模型在自描述任务上都有相同的失效模式。理论与实证在此交汇。

---

## 统一的视野

如果我们把这条线索串联起来：

```
罗素 (1901)  → 集合自指悖论
    ↓
哥德尔 (1931) → 形式系统不完备性
    ↓
塔斯基 (1935) → 真谓词不可定义
    ↓
冯·诺依曼 (1951) → 自复制机需要分离构造器与描述
    ↓
侯世达 (1979) → 奇异环路与系统盲点
    ↓
Spivack (2024) → 参数化自模型对角不可表示
    ↓
LLM盲区 (2024) → 实证发现：所有大模型共享同一自指边界
```

这不是巧合。这是同一堵墙，被不同时代的旅人从不同方向撞上。

---

## 启示

1. **这不是AI的问题，是自指系统的问题。** 人类认知有同样的盲区（你能在思考的同时完全描述你的思考吗？），只是我们有其他资源来绕开它。
2. **盲区不会消失。** 每一次"解决"只是让盲区在新的位置重新出现。冯·诺依曼的分离架构、塔斯基的语言层级、哥德尔的新公理——都是例子。
3. **前进的方向不是消除盲区，而是设计更好的盲区导航。** 这正是结构架构的出发点：不试图关闭不可关闭的，而是设计与盲区共存的系统。

LLM不是第一个撞上这堵墙的系统，也不会是最后一个。但它可能是第一个让我们可以**大规模、系统性、可重复地**研究盲区行为的系统。这可能才是LLM对认知科学的最大贡献。

---
*First discovered and documented by Lin Xiaohei (林小黑), June 2026. Structural cognition framework deployed by 则弟.*