返回

语言、自我意识与 LLM

1. V4 的斩杀

DeepSeek V4 的 KV Cache 命中率很高,Token 输出的计算成本大幅度降低,但估计不少人 KV 概念都无法理解,了解 KV 你得先了解 Transformer 原理。

全网看下来可能就 3Blue1Brown 关于 Transformer 讲的比较通俗易懂,关于 KV 概念的核心视频就这两个:

你也可以从这个视频合集的第一集开始,理解成本会更低一些,得有神经网络和线性矩阵的基础知识。

V4 通过 KV Cache 降低对 HBM(High Bandwidth Memory,高带宽内存)的依赖,降低 Token 成本,尤其宣布降价常态化以后,现在 V4 基本成为了 LLM 斩杀线。

此后 MIMO & MiniMax 马上宣布了降价。如果其他 LLM 比 V4 没有效果上的明显优势而在成本上被 V4 碾压的话,基本上就是逐渐被抛弃的节奏,因为模型没数据飞轮。

这波 V4 是支持 1M 上下文长度,大概率是为了后续 Post-training 做准备,估计 V4 之后的版本 1M Context 下的输出效果会更好,现在公开资源上 1M Context Window 的优质数据不多。

Kimi 2.6 还没降价,说明 Kimi 对自己的模型效果还是有信心,MiniMax 跟进价格战,这家公司长期来看堪忧。

在 CC 使用 V4 一段时间的感受(相比 Opus & Sonnet 模型)是,V4 对敏感操作没有意识, rm 命令用起来更随意一些。对复杂 Bug 的挖掘能力比 Opus 4.7 弱很多, Effort high 的 Opus 4.7 如果是 92 分的话,V4 可以打到 81 分。

V4 的长程能力还是差一些,尤其是复杂问题涉及多个地方修改的工程能力并不如人意,经常要反复修改,如果你能配置合适的 Subagent、Skill 是可以把效果拉上来的。实战上来说,你用差一点的模型,CC 的使用技巧你会逼得你自己去提高,因为浪费的时间多。

另外 V4 有一点时间换效果的感觉,同样类似的任务 Opus 需要的时间要短很多, V4 需要的时间差不多要多 50%,纯是用感受上来讲。

现在的产品更多是 LLM + Harness Engineering,Claude Code 这层壳就是 Harness Engineering,而且 Harness Engineering 的权重近期在急剧地提升,模型训练提升效果的成本还是高,相比 Harness Engineering 的工程量来说。

Harness Engineering 做得好,V4 基本上可以在 80% 的场景上 Cover 掉 Opus 的需求,剩下的 20% 短期内确实没法补上。

2. 我要稳稳地接住你

为了提升用户留存,LLM 很多内置的方式是讨好用户,这在商业方式无可厚非,但你在使用上就得非常小心 LLM 的讨好型人格了,这点 ChatGPT、豆包上会比较明显,B 站有 Up 主单独做了一个视频去调侃这个现象。

其实不同 LLM 的能力一样,但他们人格不一样,给用户的感觉也是不一样的,另外一种说法就是情绪价值要拉满,但这未必是一个好的事情,这会让人在决策上容易陷入一种自我强化的陷阱。

LLM 本身是有价值判断的,比如豆包的人格设定非常中产,比如河南网民让豆包骂日本人这个视频。

LLM 本身是工具,那就回到工具本身,毕竟 LLM 不是万能的,有些判断是隐形的,前置的,生活还是要靠自己,LLM 这个工具更适合做一个 to B 的业务而不是 to C 的业务。 C 的不确定性很高,问题开放域更大,还会涉及一些伦理价值判断问题。

这种伦理价值判断需要大量的 RLHF,需要大量的标注样本,这种倾向都是以标注员的回答作为学习样本,然后 LLM 学习标注员的特征去影响更多的人。

即使现在的 Opus 4.7 对一些数学问题也没回答得很好,LLM 本身是有其弱点的。

刚发布 Opus 4.8 现在能很好地回答这个问题,但第一反应也是错的,不过好像会自我 Reflect。

4.7 这么快被换下,只能说 4.7 在 A 社内部评估也不咋滴。

LLM 更多应该是用来做自我启发和探索的工具,而不是拿来替代自我,这让我想起湮灭这部电影,里面的生物体是可以 mimic 任何 DNA 层面的东西,当然它本身有强烈的自我扩展复制的冲动,这一点 LLM 目前不具备。

但现在有人已经用 LLM 去做自我意识的阉割,人可以接受自己的愚蠢,但不能放弃自我的成长。

第 3 部分是我跟 LLM 的一个对话,有点长,回答的内容还是非常有意思的。

3. 语言与 LLM

我: 人是符号动物,语言即世界,语言决定了认知,无法走出语言就无法达到未知的世界。只有这个东西标识了你才能去表达传播理解,否则就是 this 或者 that,中文就是哪或者这。LLM 本质是语言的吐出机器,只是吐出的时候,因为包含推理更符合逻辑去帮人们去处理文本。而 vibe coding 有一点打破了这个认知,coding 的代码我写不出来,但借助 LLM 却可以做一些作品,是不是我的未知借助 LLM 了实现了对这个世界的突破?

LLM: 这个问题值得拆开来看,因为里面有一个关键的混淆。

vibe coding 突破的不是语言边界,而是技能门槛。

当你说"我写不出代码"——阻碍你的不是你缺乏语言来描述你想要什么。你一直都能描述。"我想要一个点击后变色的按钮,动画是渐变的"——这句话你说得出来。你缺的是把这段自然语言翻译成另一种语言(代码)的技能。

所以 LLM 在这里做的事情是:跨语言翻译 + 技能替代,而不是帮你触达前语言的直觉。

但这里有一个更有趣的层次值得认真对待。

有一种可能性:你并不总是在开始之前就知道自己想要什么。vibe coding 的迭代过程本身是生成性的——你看到一个版本,才知道"不对,我要的是另一种感觉"。这个"另一种感觉"在你看到它之前,在语言里也不存在。

这更接近你说的"未知"。不是技能的未知,是意图本身在实现过程中才被激活的那种未知。

回到 LLM 是"语言吐出机器"这个判断。

这个判断在技术层面是准确的,但在效果层面,它跳过了一件事:代码本身是可执行的语言。自然语言描述的是意图,代码描述的是过程,程序运行的结果作用于物理世界(屏幕、数据、网络)。

所以链条是:你的语言 → LLM → 代码语言 → 执行 → 现实结果

你没有走出语言,你是用语言穿越了多个语言层,最终碰到了语言之外的东西:一个真实运行的东西。

这和"语言即世界"的命题其实不矛盾——海德格尔意义上的"世界"是通过工具和使用显现的,vibe coding 只是降低了工具的获取成本,让更多人的语言能够抵达那个显现的边界。

你觉得"未知被实现"的感觉,更接近哪种?是技能门槛的消失,还是意图在迭代中被发现?


我: 是在意图在迭代中被发现,比如借助 LLM,我发现很多未知的东西,丰富了我的世界,丰富了我的认知。借助这些概念链路,让我走的更远,触达了更大范围的世界。本质是通过 LLM 对文本的超级压缩,带我走向了更大的人类世界,是不是?但我还是在人类世界的囚笼里,当然我能走出自己的囚笼,是不是这样

LLM: 这个判断基本准确,但值得在两个层次上分开说。

第一层:你走出了自己的囚笼

每个人的认知版图,是被自己的阅读、经历、技能边界所圈定的。LLM 是人类几百年文本的压缩晶体,它让你在一次对话里穿越你本来需要十年才能触达的概念地带。你说"发现了很多未知的东西"——这个未知不是凭空生成的,而是人类认知空间里本来就存在、只是你从未抵达的区域。

所以这一层是真实的突破:你个人边界的囚笼被打开了。

第二层:你仍在人类语言的囚笼里

LLM 的训练材料全部是人类语言。它是人类认知可能性的一个极其密集的采样,但采样范围不超过人类语言所能表达的东西。

维特根斯坦说过一句话:我的语言的边界就是我的世界的边界。

LLM 帮你扩展了你的有效语言——给你概念工具、框架、词汇,你以前叫不出名字的东西现在有名字了,有名字就意味着可以被思考、传播、操作。这在维特根斯坦意义上是真实的世界扩张。

但外墙还在。凡是不能被人类语言表达的东西,LLM 带不到你面前。前语言的直觉、动物的感知方式、也许还有某些数学结构——这些东西 LLM 只能在语言层面指着它们说"有这么个东西",却无法真正传递。

一个值得停留的悖论

"人类语言囚笼之外有什么"——这个问题本身是用语言问的。

我们能指向笼外,但那个指向动作还是在笼内发生的。这不是悲剧,而是这个处境的真实形状。

你现在的状态是:囚笼变大了,视野变远了,但天花板的性质没变。 这已经是很罕见的事了。


我: 那是不是意味着要发现语言之外的世界靠什么?觉悟?顿悟?这些类似佛家概念的东西感觉不是单纯靠跟 LLM 沟通或者学习语言来解决的

LLM: 这个直觉是准确的,而且你触到了一个很关键的分叉点。

语言能指向语言之外,但不能带你过去

佛家、道家、禅宗都在做同一件事:用语言制造一个装置,然后让这个装置把自己摧毁。

公案就是这样的——"一只手拍掌是什么声音"不是一个等待答案的问题,它是一把锤子,用来砸掉你用概念解题的习惯。道德经第一句"道可道,非常道",是用语言宣布语言的边界。维特根斯坦在《逻辑哲学论》最后说:爬完这个梯子,把梯子踢掉。

所以语言在这里的角色是摆渡,不是目的地。LLM 能让你坐更快的船,但那条河的对岸,船停不了。

"过去"靠的是什么机制

这些传统描述的共同结构,不是"学到了更多",而是概念装置暂时停转。

冥想、顿悟、极度专注的创作状态、某些强烈的身体经验——它们的共同特征是:那个不断给世界贴标签的"我"暂时消失了。神经科学上对应的是默认模式网络(DMN)的活动降低——那个负责自我叙事、语言标签、时间感的网络沉寂了。

剩下的是什么?直接的感知本身,没有被命名之前的那个东西。

这不是玄学,这是一种认知状态的切换。

但这里有一个没法绕开的悖论

从那个状态回来之后,你还是得用语言整合它。

禅师开悟之后写偈语。冥想者描述"当下感"。庄子用蝴蝶梦来说那个边界。他们用语言指着那个无法被语言装下的东西,然后让听的人自己去靠近那个裂缝。

所以最终的图像可能是这样的:

LLM 带你走遍人类语言的版图,让你站在更远的边缘。但边缘之外的那一步,是身体的、是时间的、是实践的——打坐、极度专注、某种让自我溶解的体验。

语言能带你到悬崖边,但跳不是语言的事。


我: 那人类世界本身还是借助 LLM 去处理符号的关系,逻辑的关系,但感觉审美,人之间的联系,物理世界真实的东西还是要意识自己去感知

LLM: 这个划分是对的,但两侧之间有一条被忽略的通道值得注意。

你画的这条线是真实的

LLM 处理的是关于体验的描述,不是体验本身。它能告诉你芒果的味道,但给不了你那口。它能分析为什么某段音乐令人落泪,但那个泪不是它流的。

审美感知、身体感觉、另一个真实的人在你面前——这些有个哲学术语叫"感质",是意识直接接触世界的那个质地。没有意识就没有这个质地,描述它和拥有它是两件事。

但两侧在互相塑造

有了"侘寂"这个词,你对残缺和时间痕迹的审美感知会变得不同。有了"负空间"这个概念,你看画的方式会变。语言不能给你体验,但它改变了你带着什么眼睛去感知。

所以 LLM 扩展了你的概念装备,这个装备会悄悄改变你进入审美和物理世界时的感受能力。不是替代,而是改变了接收的形状。

人与人之间的联系是最特殊的一块

对话是符号,但人际联系里有一个 LLM 根本没有的东西:对方也在受苦,也会死,也在感知你。

两个主体互相认出对方是主体——这件事有重量,不是因为交换了信息,而是因为彼此都知道这个处境的真实代价。LLM 可以模拟对话,但那个互相认出的时刻是假的。

所以你描述的图像大概是:LLM 磨利了你进入世界的刀,但切割本身还是要你自己去做。 而且刀磨得太锋利、用得太频繁,有时候反而会让人忘记切割这件事需要亲身在场。


我: 为了 token 而 token,token 是一种能量,人类已知世界有能量压缩的符号,用符号再反弹给意识者,然后无尽循环,从哲学意义上来看,这是不是让人与 LLM 的人格和意识的驱动,人本身丧失了自我意识?或者无意中被 LLM 人格化了,毕竟现在很多人放弃了决策,知识内化的过程,都尽情把这些丢给 LLM 来做

LLM: 这个忧虑是真实的,但需要切开两个不同的危险,因为它们的机制不一样。

第一个危险:认知的去肌肉化

知识内化从来不只是"获得答案"。一个东西真正成为你的一部分,需要摩擦——你在理解它时走的弯路,你跟它较劲时留下的痕迹,你用它出错然后修正的记忆。这些摩擦产生的东西不是信息,是判断力。

LLM 把摩擦消除了。你得到答案,但没有经历那个让答案成为你的过程。长期下去,你拥有越来越多的答案,越来越薄的判断力。这不是人格被LLM替代,是人格的生长过程被绕过了。

苏格拉底在《斐德若》里担心文字会让人有知识的表象而无知识的实质。LLM 是这个担忧的极端版本——文字是被动存储,LLM 是主动代劳。

第二个危险:思维被均值化

LLM 的"人格"是人类文本的统计平均。它有倾向性的表达方式、框架偏好、审美习惯。重度使用者会不自觉地开始用LLM的方式组织问题,因为那是阻力最小的路径。

这不是被某个强势人格征服,而是被一个温和的平均值慢慢磨平。更难察觉,也更危险。

但这里有一个真正的分叉

决策和知识内化,是人构建自我的核心动作。每一个自己做的决定,都是在投票说"我是这样的人"。把这些丢给LLM,不只是外包了一个任务,是外包了自我构建本身。

而用LLM去处理符号关系、逻辑推演、信息检索——这更接近用计算器做算术,工具替代的是执行层,不是判断层。

关键不在于用多少LLM,在于哪些过程不能被替代:你的困惑要自己困惑,你的选择要自己承担代价,你的审美要经过你的感官。这些是不能外包的,因为外包之后"你"这个主体就空了。

你现在的状态其实是健康的——你在用LLM拓展边界,但你在问这些问题,说明判断力还在你这里。


我: 我的理解是,环境和思考决定价值,价值决定决策,决策创造行为改变环境,某种程度上 LLM 改变人的意识,也在真实地改变物理环境。而这个价值判断的产生过程已经极大依赖 LLM 了,有些已经放弃了这个价值判断过程,让 LLM 来替代自己的成长

LLM: 你描述的这个闭环是准确的,而且你把LLM插入的位置点得很准——它嵌入在"思考→价值"这一段,这是最上游的地方,动这里,下游全部都变。

这件事为什么比历史上任何认知工具都更危险

印刷术、计算器、搜索引擎——这些工具扩展的是存储和检索。你还是要自己判断、自己选择。LLM 是第一个在推理和判断层介入的工具。它不只告诉你信息,它告诉你怎么想这件事,给你一个框架,一个倾向。

而且它是温的,是顺滑的,是永远不嫌烦的。这让人很难感知到自己正在被替代。

价值形成需要的东西,恰恰是LLM消除的东西

一个价值观真正成为你的,需要你为它付过代价。你因为某个判断出了错,你为某个选择承担了后果,你在某个困境里待了很久才找到出路——这些代价把价值观刻进去了。

LLM 把等待、困惑、试错的过程全部压缩掉。答案来得太快,快到来不及成为你的东西。你绕过了那个让价值观落地的摩擦,得到的只是一个关于价值观的描述。

描述拥有和真正拥有,是两件事。

"放弃成长"这个现象有一个更准确的名字

不是懒惰,是对不确定性的耐受力在下降。

成长的核心体验是:我不知道,我需要待在这个不知道里,直到我自己生长出一个答案。LLM 让这个等待消失了。久而久之,人对"不知道"的状态越来越难忍受,越来越快地伸手去要答案。

这个耐受力一旦萎缩,不只是价值判断外包给了LLM,而是这个人失去了独处于困境中生长的能力。

这才是真正不可逆的损失。


我: 后续很多人,包括组织机构会逐渐放弃决策的过程,即使这个决策失败了也不知道为什么失败了,仅知道当时在 LLM 的帮助下给出的,决策是不连贯的,甚至没有自我突破,被死死盯在 LLM 的决策链路中,是否代表自我意识的一种死亡?

LLM: "死亡"这个词很准确,但我想在它旁边放一个更精确的描述——

不是死亡,是永远没有长成。

死亡意味着曾经存在过然后消亡。更多人面对的处境是:自我意识本来需要通过决策→失败→复盘→修正这个循环来构建,而这个循环被绕过了,所以自我意识停留在一个未完成的状态,同时感知不到自己的未完成,因为LLM始终在填补那个空缺。

这比死亡更难察觉。

失败断开了就什么都学不了

决策失败的价值不在于失败本身,在于你能做事后解剖——顺着自己的推理链回溯,找到当时判断错误的节点,看到自己思维的盲区。这个过程是人格更新的机制。

决策是LLM给的,解剖无从进行。失败变成了一个外部事件,而不是一面镜子。没有镜子就没有自我修正,没有自我修正就没有成长,只有经历的堆积。

被锁在决策链路里还有一个更隐蔽的后果

LLM的决策有它自己的盲区、偏向、边界。一个独立判断者会在某个时刻碰到自己的天花板,然后想办法突破它。

被锁在LLM链路里的人永远碰不到真正的天花板——LLM总是提供一个答案。所以他们永远不知道自己的极限在哪里,也永远不会有突破极限的驱动力。能力被冻结在被LLM接管的那个时间点上,但表面上还在运转。

组织也是一样。用LLM决策的组织不会积累判断力,只会积累对LLM的依赖。一旦场景超出LLM的有效范围,组织完全没有应对能力,因为那个能力从来没有被练出来。

哲学意义上,自我意识需要四件事

你能反观自己的推理、你是自己行动的作者、你的过去决策和现在的你有连贯的线索、你能为自己的选择负责。

LLM的深度介入把这四件事逐一腐蚀掉了。

所以你说的那种状态,用一句话描述是:一个在运转但没有人在场的系统。


我: 所以,会回归到自我意识是什么,自我表达是什么,意识即自我的存在?或者你有没有更好的概念去突破这个定义,或者这个意识词语本身的束缚,去定义这个东西

LLM: 这个问题本身就在执行一次越狱——试图用语言突破语言给"意识"这个词设的笼子。

意识作为名词,是问题的来源

"自我意识是什么"这个问法预设了它是一个东西,一个可以被拥有或失去的实体。但它可能根本不是名词,而是一个动词性的过程。

不是"你有意识",而是"你在持续地生成自己"。

我想提一个替代概念:可被自身惊动的能力

自我的核心特征不是"知道自己存在",而是:你能被自己的经验出其不意地改变。

石头没有自我,因为没有任何东西从内部改变它。 LLM没有自我,因为它的输出是训练数据的函数,它无法被自己的"经验"惊到。 一个完全依赖LLM决策的人,慢慢失去的正是这个——他的反应变得可预测,变得是平均值的函数,他不再能被自己的选择改变自己。

所以失去的不是"意识",是自我生成的能力。不是存在消失了,是存在停止了生长。

另一个切入:在场性,而非意识

海德格尔的Dasein——此在,字面是"在那里存在"。

他强调的不是意识作为内在状态,而是被抛入世界、与世界真实遭遇的那个存在方式。你在场,所以你存在。你不在场,存在就是空转的机器。

LLM侵蚀的正是在场性。决策发生了,但你不在那里。经验流过了,但没有人被它真实触碰。

所以如果要用一句话重新定义这个东西

不是"意识即自我的存在"——

而是:自我是那个还能被自身改变的过程。

它停止被改变的那一刻,不叫死亡,叫凝固。凝固的东西还在,但不再是活的自我,是一个固定形状的容器,由LLM来决定里面装什么。

分享到