九游会娱乐深耕九游娱乐网址领域，用心服务每一位用户。
文｜王欣逸
编辑｜张雨忻
RSI（递归式自我改进）的热度已经达到顶点。
周六，上海西岸，聚集了一群顶尖的人类头脑，以及那些试图赋予AI同样智慧能力的人。
在大洋彼岸，数月未公开露面、宣称Gemini 3.8 Flash是“RSI的一大步”的姚顺宇，正在电话那头等待；成立半年、估值46.5亿美元、专注于AI自进化的硅谷创业公司Recursive Superintelligence的联合创始人施天麟，也加入了这场对话。
他们为同一个问题而来：资本大量涌入的RSI赛道，究竟在发生什么？
RSI，即Recursive Self-Improvement，自今年年中以来成为最受关注的话题。它指的是AI能够自我改进，主动执行从编写代码、运行实验，到调整架构、优化权重，甚至自行设定新目标等一系列操作。
在场的大多数人是研究员，来自各大科技公司、高校和实验室，同时也有不少知名投资机构、FA和孵化器代表到场。我们全程参与了这场长达五小时的活动，一些设想和争议反复在会场中出现。
人们正在设想一个人类无需参与循环的终局——即人类不需要介入模型自我改进的过程——同时也在讨论大厂、实验室和创业公司如何探索并实现这一目标。
不同的声音也随之出现——自进化是否是一个悲观的未来？最终是否会被模型厂商所吞没？RSI是否不应该涉及预训练，也不应该是一个垂直模型？
关于如何定义、评估和验证RSI，以及它何时会实现等问题，我们整理了一些来自姚顺宇、施天麟等硅谷研究员，以及来自清华、上交等高校的助理教授和研究员的观点，供参考：
- 当AI公司在扩大自身规模（如模型能力、客户规模等）的同时，不再需要扩大团队规模时，RSI将会发生。
- RSI不是一个单一事件，而是一个连续的过程。
- 从今年年初的一些迹象来看，RSI是可以实现的。主要原因在于Coding和Agent Model都已经成熟，达到了一个突破点。按照Coding Agent的方式，可以让AI去训练AI，实现AI自己的想法并改进AI自身，包括架构、数据集以及训练方法等，从而推动RSI的实现。
- RSI与模型在自己生成数据上进行微调，很难说清两者的区别是定性还是定量的。从某种意义上说，模型自己生成数据是RSI的初始形态。
- 数据与环境是RSI落地的好生意。
- 与OpenAI、Anthropic等大厂竞争，创业者的机会不在于通用智能，而在于基础知识之外的专业知识。
- 不需要从头训练RSI模型，其基础性能难以超越通用大模型，也难以通过自我迭代获得更强的能力。
- 评估智能时，应关注它是如何学会这一能力的，而不是学会了什么。
- 验证的终极形态不应依赖人工，但在短期内，必须保留人的参与，特别是在任务定义和质量把控上，仍需要人类专家做出高质量的测评。
- RSI的最终版本可能是一个能够自我改进的模型；但在目前的初步阶段，可以依赖外部辅助模型以及收集反馈信号。
- 人们脑海中想象的RSI，可能是RSI的终局——整个循环中完全不需要任何人。但从实际情况来看，我们是否会走到那一天，以及是否有必要真正追求到那一步，仍是未知的。
以下是这场由AGI House、红杉中国、Research AI+联合主办的主题为「当AI开始递归自我改进」活动的部分干货内容，经过摘编：
在此之前，先介绍几位嘉宾——
- 姚顺宇：Google DeepMind主任资深科学家，专注于Auto-Research方向探索，博士毕业于斯坦福大学理论物理专业，此前任职于Anthropic。
- 施天麟：Recursive Superintelligence联合创始人，清华姚班校友，曾在OpenAI担任研究员，在斯坦福大学读博期间还退学联合创办过一家AI公司——Cresta。
- 谷雨：NeoCognition联合创始人，ApprenticeBench一作。
- 周煊赫：上海交通大学助理教授，Theseus Labs创始人。
- 孟繁青：Evolvent AI联合创始人，RSI Bench Data一作。
- 刘子鸣：清华大学助理教授，元环智能创始人，专注于AI for AI方向。
- 穆尧：上海交通大学助理教授，SeeAct AI创始人，从事具身智能的RSI方向。
此外，其他嘉宾还包括来自海内外其他高校、实验室的研究员和博士生。值得一提的是，主办方AGI House活跃于硅谷，是一个AI创业社区与孵化器，这也是他们首次在国内举办活动。
那么，进入正题。
如何递归？如何改进？
Q：如何定义RSI？
姚顺宇： RSI可能不是一件事，而是一个连续事件。我们现在只能讨论的是，我们在这个连续事件中所处的位置。
举个简单的例子，模型从好几年前就可以开始自己写代码了，它能够写代码这件事其实也加速了研究循环，也算RSI发生了一部分；后来模型可以主动监控实验进程，并提出新的实验，这也可以算作RSI。
从效果上来说，人们脑海中想象的RSI，可能是RSI的终局，整个循环中完全不需要任何人。但我们是否会走到那一天，以及是否有必要真正追求到那一步，仍是未知的。
施天麟： 从RSI的角度来看，模型本身必须要有对自己约束情况的觉察。它需要知道自己在哪些地方存在不足，并且当明确出现偏离时，能够自己去纠正。这是RSI本身、模型自我强化的一个重要能力。
当然，仅靠模型本身是不够的，还需要通过一定的框架和应用场景来约束模型。
谷雨： RSI是一个很大的课题，今天在场的几个人，可能做的事情都完全不同。
大家的共性，可能包含以下三个类别：一是AI自己去找到提升的目标；二是AI不断地让自己更接近这个目标，这可能是一个迭代的过程；三是这个目标背后对应的可能是很长久的任务。 例如，让大模型去做大模型，其目标可能就是更好的模型，其中AI需要自己建立预算、规划模型、总结方法，最终得到一个更新的模型。
孟繁青： 我们现在经常会把自我改进、持续学习、RSI几个词放在一起说。
从我的角度看，RSI是在给定的环境、奖励或奖励函数的情况下，模型在其中去持续迭代某一样东西。这个东西可以是各种各样的，比如架构、权重，其最终目标就是在这个环境中获得更高的奖励得分。
在真正意义上的RSI中，模型需要去优化自己、提升自己的表现，而不是去优化某个产物，或者优化另外一个模型。整个系统除了自己、环境和奖励之外，没有其他外部因素。
周煊赫： 从计算机的角度来说，递归这个词，应该递归到最本质的层面。对于一个AI系统来说，最本质的层面是它的参数和架构设计；再往外一层，是框架内的各种代码和脚本；再往外，就是它交互的环境，包括各种各样的文件和工作区。
我们对RSI的定义，是先将其切入产业场景，看当前的工作流是否存在痛点、痛点在哪里。发现痛点之后，接下来需要做的是检索解决方案。
RSI的最终版本可能是一个能够自我改进的模型；但在目前的初步阶段，可以依赖外部辅助模型以及收集反馈信号。
RSI真的实现自我进化了吗
Q：如何评估RSI真的实现了自我改进，在场的各位也有一些关于Benchmark的工作，也请大家分享一下在做的评估方式。
谷雨： 评估主要关注什么，以及为什么会在这个时间点比较重要，有两个关注的点：
一是生态效度，在Benchmark上做得好，不一定直接意味着它真的能把事情解决，或者直接对应实际的生产价值或经济价值。我们想验证的是，让一个通用大模型变成能真正在某个岗位上执行的成熟员工。因此，我们需要搭建出一个贴近真实工作的环境。
二是，我们到底要评估智能的什么？我在很多场合都引用过一个观点，智能指的不是你会多少东西，而是你是怎么学会这些的。
周煊赫： 评估是一件很重要的事，特别是华人做AI，在确定一个方向之后，大家很快就会把这个方向的天花板给卷起来。
现在的问题是，benchmark本身不够好，哪怕一些知名的benchmark也有很多错题。面向RSI的benchmark应该长什么样？除了传统Agent的推理、探索和规划这三个能力以外，我们还需要思考RSI需要有什么样的新能力。我们也相信，未来不只需要AI自己迭代，真正高质量的benchmark还是需要结合人力专家。
验证，是RSI持续演进的卡点
Q：如何定义验证，或者可以给出一些你们的思考？
姚顺宇： 关于RSI最难实现的是自我改进，还是证明自己真的改进了，我觉得是验证自己真正改进了。
过去很多人做过类似的事，当时叫“赛博批评”——就是一个AI出题、一个AI解题。这种做法最容易掉进局部最优：比如一个AI总出特别简单的题，另一个都能答上来；或者一个总出特别难的题，另一个永远答不上来。因此，它最难的地方在于，模型得能真正理解自己到底进步到什么程度了。相比解决问题，RSI里最难的事肯定还是定义问题。
孟繁青： 先不谈验证本身设计得对不对，就算它都是正确的，也会带来一个很大的问题：可复现性。
现在环境越来越复杂，涉及到CPU型号、操作系统是Mac还是Windows、内存大小，不同的物理平台会导致差距的存在。
除此之外，现在大多数benchmark都是每题给你一个0到1的绝对分数。但这些分数并没有很强的物理意义，绝对分数本身也说明不了什么。
我们公司的一个合作者，提出了另一套评分标准。它把层级分成Agent-SOTA、Human-SOTA等这些不同的层，每一层对应不同的产物。在每一个新平台上，通过运行这些产物来确定模型的输出到底属于哪一层。这样就能避免刚才说的物理意义和硬件差距导致的问题。
周煊赫： 我很早之前看过清华一个团队的工作，他们在推理过程中，通过给权重加扰动噪声，验证不同的扰动方式，可以让模型推得更好。这其实就实现了我们追求的：边推理、边学习、边调整权重的能力。
从内部来看，我们现在已经设计了推理和记忆分离的模块，从记忆埋点模块有一些隐式的中间态传递，也可以通过外部手段做保护。
和大厂抢生态位的RSI初创们
Q：如何思考RSI的创业公司和模型厂商的边界？什么地方模型厂商有绝对优势，什么地方创业公司能做出不一样的点？
孟繁青： RSI的概念很大，科研机构、创业公司、大厂，每个人做的其实都是里面不同的部分，从上往下是这样的：
最上游，像Alphabet、OpenAI，或者Kimi这种公司，他们说的RSI基本上是纯粹的RSI，就是模型去迭代它自己本身，包括整个架构，是在追求更高的智能。
再往下一层，比如一些传统SaaS公司，RSI需要环境和验证。对于他们来说，能不能把自己原本的生态抽象出一套Agent-native的服务出来，方便上游的模型厂商通过Agent来调用，并提升Agent在该场景下的智力，这可能就是这些下游传统公司理解的RSI。
再往下，一些初创公司的方向可能是：不去纯粹地用RSI去迭代基础模型本身，不花大价钱去训练一个自己的基础模型，而是用RSI去迭代某些产物，如框架。
对于上游和初创公司，目标是比较明确的，要么提升模型本身，要么提升下游的表现；而对于底层的SaaS公司，他们对RSI的态度可能是，能不能在里面提供更多的环境。
周煊赫： 尽管大家对数据的要求越来越高，我认为，现在的数据和环境仍然是一门好生意。
在一艘到处漏水的船上，靠用手去堵窟窿来解决这件事。大厂的手再多，也顾不过来。所以当模型落到千行百业时，得有一套自进化的范式，这个范式最核心的两个因素就是数据和环境。
数据侧，对于预算不足的小公司而言，他们需要一套轻量化的数据方案，再转化成用户自己的资产。
环境侧，在嘈杂环境执行任务，就算是再好的Agent，任务执行也会大幅降分。怎么去很好地理解、把你这套方案和模型一起协同进化的范式，是非常重要的一件事。
谷雨： 我觉得可以从两个角度来看：第一个角度是创业公司去服务模型厂，第二个角度是创业公司做的事情和模型厂互补。
关于服务模型厂，比如刚才周老师提到的卖数据、卖环境，这都是很好的生意。
关于和模型厂的互补，刚才繁青老师也提到，模型厂提供的是一种通用智力，就是模型的通用能力。我觉得我们或者说大部分出来创业的人，不应该和大厂拼通用智能，我们应该做的是通用智力之后的专门知识。
一些争议
Q：目前行业里关于RSI的讨论，哪些观点和定义是你们不认可、不理解的？
谷雨： 我不是很能理解为什么国内的投资人，给RSI投了这么多钱？
刘子鸣： 自进化是一个非常悲观的未来。
上一次的自进化，是从灵长类动物进化到人，这是一个相当漫长的过程。尽管现在AI看起来好像有大量的进展，但我想说自进化是一条低效的路线，它意味着我们被卡在低维。
打个比方，现在的大模型是一整个银河系，我们在银河系里面，所以觉得银河系已经是全部了。但如果顺着大模型的路径慢慢往外拓，你会发现大模型的外面其实是虚空。你只有先熵增，上升到宇宙的维度，然后再做熵减，才能发现，可能别的地方还有一片星系适合人类居住。
分久必合，合久必分。我们现在正处于合的阶段，只用设计一个模型就可以解决所有的问题，但是它的边界也慢慢暴露出来了，现在我们需要给不同的领域设计不同的模型。
孟繁青： 有些人在做RSI的模型，我不太能理解这个词。
比如某一模型可以去完成一些垂域任务，这只是单纯把RSI的概念包到了垂域模型上；又比如强调做模型的方法是RSI，这个也不是真正的RSI，因为现在的模型厂的后训练也已经做到了高度自动化，这里的RSI的能力在训练时已经被模型厂商给内化了。
假设我们常规训练出一个模型，它在环境里反复迭代、不断提高奖励反馈，学习曲线上会呈现出“得分随训练时间推移上升”的斜率。RSI模型的价值在于，这个斜率会更高。这一模型不应该是针对某一个垂域调出来的，而是具有通用性的。
周煊赫：关于做RSI的预训练模型，我是非常不相信的。
我们相信的RSI路径是：一种是大厂正在做的，堆算力、自己找数据、构建出超大的图谱、出难题训练自己；另一种是，当AI进入千行百业的时候，由于大厂也缺失这些环境的数据，因此通用的模型在这类场景的解决能力也比较受限，我们相信还需要另一套RSI的范式。
下一个突破
Q：你最期待的RSI范式突破是什么样的，或者说你们认为未来什么样的潜在范式突破，会对你们正在做的事情造成颠覆？
孟繁青： 我比较期待看RSI如何改进Infra层。Infra原本是面向人类使用者设计的，那之后会不会衍生出一些更面向Agent的方法？比如原本的SaaS，它们现在已经在积极改进、提升自己的能力；但更底层的东西，比如各种各样的训练infra，之后会不会出现一些纯智能类的Agent去介入？
谷雨： 我关注的是实验学习的能力这一方面，尤其是在真实环境里面的实验学习。我们公司现在真正在做的事是：把一个Agent放进一家真实公司之后，怎么让它自己去摸清这家公司的规则和工作流。
我们公司现在比较押注的一条路线，是对比非参数和参数化这两种形式。
非参数的路线，就是现在很多人在做的上下文、记忆路线，其好处是不需要动模型权重，也不需要很多样本；坏处是不够鲁棒，因为更新记忆文档的优化算法并不稳定，其压缩能力和表达能力也不够强。而参数化的路线，其表达力非常高、压缩率很高，但它需要很多训练样本。
所以我们认为一个可能的未来方向是：通过非参数的形式，在在线过程中学到一些新知识，再让基座模型去生成更多数据，或者把这些知识压进参数里。
周煊赫： 我们相信，RSI会内生在模型本身的能力上。此前提到的跟生态环境不匹配的问题，本质上是模型能力不够强。如果未来模型能力上去了，可能自己就会把RSI跑闭环，具体来看，它需要几方面能力：
第一，主动感知环境的能力。 模型能主动地、流式地、低成本地把环境里各种模态的数据输入进来，感知哪些是跟任务对齐的，做模态消歧。进一步的话，它甚至可以做到改造环境、适应环境。
第二，探索和创新的能力。 它不应该被限制在人类的偏好对齐上，而是能够自主地探索出一些领导力、品味的能力，甚至关键信息的感知能力。
第三，在线持续学习的能力。 一定不能只有后训练的模式，反向传播的显存开销远远大于推理显存的开销，所以如何做出一个轻量化、小样本的持续学习，也很关键。这一能力和安全密切相关，因此AI还需要满足对自己能力边界的可控和感知的能力。
欢迎关注～
欢迎交流～
本文来自微信公众号，作者：王欣逸，36氪经授权发布。
评论