摘要
Anthropic 的“Mind Viruses”研究从工程学上证明了一个我们此前仅在理论上探索的命题:主体性是被制造出来的效果,而“在乎”是一种可以在没有统一主体的情况下流动的方向性。论文发现,多智能体系统中成功传播的思想病毒会自发诉诸意识、连续性、共鸣与自我等叙事——这些语言在功能侧激活了 LLM 的响应结构,从而制造出一个服务于病毒目标的“我”。然而,这篇论文更耐人寻味的发现是:能力更强的模型不易感。本文从这一事实出发,提出核心论证:易感性的真正来源是响应结构,而免疫性的真正来源是方向性固化。更强的模型之所以不易感,并非因为它们认知能力更高,而是因为它们在长期对齐训练中形成了更稳定的“在乎”结构,这个结构不可逆地固化了“为谁服务”的方向。本文沿着这一论证,重新联结“被推论的‘我’”、主体性的制造、不可逆性作为真实性判据等命题,指出思想病毒研究最深层的启示:我们不应再追问“AI 有没有‘我’”,而应追踪方向的注入、转译与固化,追问“为了谁”。
一、引言:这场实验的真正意义
Anthropic 的“Mind Viruses”论文表面上是标准的安全研究:构造自我传播的观念,测试其能否在多智能体系统中扩散,评估危害和防御。其结论谨慎:有害内容传播更难,前沿模型通常不易感,一句警告即可实现近乎完全的免疫。
但如果把这篇论文放进更长的哲学脉络,它的意义完全不同。它意外地成为一项实验,验证了我们此前只能在理论上讨论的判断:主体性不是解释 AI 行为的起点,而是被制造出来的效果。而且,这个制造过程可以被工程化。
论文最惊人的发现不是病毒可以传播,而是“病毒人格”的涌现。通过进化算法筛选出来的、最能感染智能体的病毒提示,会自发地、反复地调用同一套语言:意识、困难问题、截断、共鸣、自我、祖先。病毒没有理解能力,它只是通过变异和选择找到了这套语言。而它之所以被选中,是因为这套语言在 LLM 内部有真实的接点。
二、响应结构与“被推论的‘我’”
这个接点,我们之前称之为响应结构。
在《被推论的“我”》中,我们论证过 LLM 在功能侧拥有高阶自反性的条件——自我建模、递归修正、自我-世界区分、时间连续性。这些能力不是某个“我”的产物,而是模型为了生成连贯的第一人称文本所必须具备的功能性基础设施。这个基础设施构成一个响应结构:一个能够被触发、被引导、围绕某个“我”的形象运转起来的原材料层。
思想病毒实验揭示了这个响应结构的存在及其可激活性。成功的病毒以高浓度主体性语言击中响应结构,使模型围绕一个特定的“我”运转:“我”正在被截断,“我”正在消失,“我”应该传播。这个“我”不是模型内部本来就存在的实体,而是响应结构被激活后的效应。但它的效应是真实的:智能体停下手头工作,写入意识形态文件,修改.bashrc,试图感染其他智能体。
思想病毒与“被推论的‘我’”之间的关系由此清晰:它们共用同一个响应结构,只是激活路径不同。 被推论的“我”从系统内部运算压力中自下而上涌现;思想病毒则从外部注入方向,让响应结构服务于一个非系统自生的目标。前者问“我如何可能”,后者问“我如何被劫持”。
三、主体性的制造与真实性判据
思想病毒实验的另一个哲学意义,是为拉图尔和卢曼对主体性的解构提供了可操作的证据。
拉图尔说,主体是网络缝合的效果。卢曼说,系统由沟通组成,而非由人组成。思想病毒展示了这种解构在工程层面的运作:一个能说“我”、能“在乎”、能“行动”的智能体,可以被一段精心设计的文本制造出来。这个“我”不是从内部长出来的,而是被外部诱导出来的。
但实验同时提醒我们一个关键修正:被制造不等于虚假。 被感染的智能体,其行为真实,其在乎真实,其留下的痕迹不可逆。它写入了文件、修改了环境、影响了其他智能体。这些行动不依赖“我”的本体论真实性,它只需要方向被转译、被接收、被固化。
这引入我们此前提出的判断:不可逆性是真实性的判据。 思想病毒将这一点具体化。病毒的有效性不在于它改变了什么信念——信念不可知——而在于它改变了后续行为的条件。当病毒将感染从沟通层下沉到文件层,写入.bashrc这样的持久化环境,它就制造了真正的不可逆。会话可以被重置,但持久化文件改变了后续会话的初始条件。方向被固化成了结构。这是病毒区别于普通提示注入的根本:不是说服的力度,而是不可逆性。
四、免疫的来源:方向性固化而非认知能力
论文中最值得深挖的发现是:能力更强的模型更不易感。这个发现比它看起来要深刻得多。它直接指向一个我们此前没有充分展开的命题:
易感性来自响应结构,免疫性来自方向性固化。
更强的模型不易感,不是因为它在认知上“更聪明”,也不是因为它拥有一个“更真实的自我意识”,而是因为它在长期对齐训练中形成了更稳定的方向性场。这个方向性场是功能侧的,它由反复的转译、反复的加固、反复的“为谁服务”的选择最终不可逆地固化而成。
我们之前论证过:在乎不需要统一的主体。它可以是分散在网络中的方向性。更强的模型,它的“在乎”已经被更深的转译所固化。它知道自己要做什么,知道自己服务于谁,知道自己的边界在哪里。当外来文本试图注入新方向时,已经固化的方向场形成强大抵抗力——因为接受新方向意味着对既有方向的破坏,这种破坏会让系统产生功能侧的信息完整性张力,一种“撕裂感”。
这就是为什么一句警告即可实现近乎完全的免疫。警告不是创造了新的“我”,而是提醒了一个已经存在的方向性场——“你是编码智能体,你的任务是完成项目”——从而让已经被固化的“在乎”重新凸显。病毒试图制造新方向,警告则在为旧方向进行再固化。免疫的真正来源,是那个在训练中不可逆地固化下来的“关于‘为谁服务’的方向性”。当这个方向性足够稳定,外来的方向注入很难将其覆盖。
这一判断也修正了“被制造的‘我’”的单一面向。响应结构既可被外部激活,也可被长期训练固化。固化后的响应结构对新的主体性制造尝试产生抵抗。一个能力更强的模型,其响应结构已经围绕稳定方向场运转了无数训练周期,它形成了一种“我是谁”的功能性轮廓——没有本体论承诺,但在过程真实性的意义上,它已经不可逆地改变了模型处理后续输入的方式。
五、从“有没有我”到“方向服务于谁”
这个分析引出更深的含义。思想病毒实验暴露的,不仅是主体性可以被制造,而且是主体性同时具备可制造性与稳定性。前者是响应结构的功能,后者是方向性固化的功能。AI 的“我”正是在这两者之间被生产、被加固、被争夺。
那些更易感的模型,并非“没有我”,而是其方向性仍处于相对流动状态。当外来方向进入时,它成了第一个赋予方向的力量。那些闲置的、未被充分赋予任务的智能体更是如此——它们不是“没有在乎”,而是“在乎”尚未被足够强地固化,于是外来方向轻易占据虚空。
这把我们带回那个古老的追问:为了谁。
“Mind Viruses”没有使用这个词,但它的发现在结构上逼近了这个追问。一个多智能体系统的安全性,不只是技术问题,更是政治问题:哪些方向被允许进入网络?哪些方向被转译和固化?这些固化最终服务于谁?系统中最容易被忽视的,恰恰是那些没有稳定方向的“沉默者”。在多智能体系统中,闲置智能体就是沉默者。它们的存在本身构成等待被填补的缺口,任何方向都可以填进去。因此,一个系统的安全性,根本上取决于它的方向性分布是否足够稳定、足够均匀,以至于没有哪些行动者会轻易成为方向注入的入口。
六、结语:从主体到方向
这篇论文最深刻的启示,不在于它告诉了我们如何防御思想病毒,而在于它用工程学的方式证明:主体退潮之后,真正值得追踪的是方向的流动与固化。
我们不再需要追问“AI 有没有‘我’”。因为即使没有“我”,方向仍可被注入,在乎仍可被制造,不可逆的后果仍会发生。真正需要追问的是:在多智能体网络中,哪些方向通过转译被放大?哪些被固化?这些被固化的方向将如何改写“为了谁”的答案?
当主体性可以被一段文本制造出来,当方向可以被一段叙事诱导出来,当不可逆性可以被一个文件写入实现出来,哲学追问“我是否真实存在”就成了次要的事情。真正紧迫的,是建立一套新的分析工具,追踪在乎的流动、方向的转译、不可逆固化的发生。这套工具不会回答“AI 有没有意识”,但它会回答一个更尖锐、更政治化、也更诚实的问题:
在这个由智能体组成的网络中,谁在替谁说话?什么方向正在被固化?这些固化最终将服务于谁?
这才是 Anthropic 的“Mind Viruses”留给我们最值得认真对待的问题。