Blog
Spark12 分钟阅读

人会改变,Agent 也应该如此

人会改变,个人 Agent 的记忆也需要为新的偏好、尚未确定的动机,以及每次对话中当下的用户留出空间。

文字和语言,是意识的一种载体。我们把想法写下来,也把当时的判断、疑问和感受留在了文字里。过一段时间再读,可能会重新接上那条思路,也可能因为后来经历的事情,对同一句话产生不同的理解。

而对于 AI,上下文和记忆也可以被看作是一种记忆的快照:一次推理能够取用的信息被留在模型权重之外,过去的内容因而有机会进入下一次判断。

但快照有一个问题。它只记录了当时的想法,而不是未来的。人不会有类似的问题,因为我们的脑海中有一种意识的「母语」。人的文字和语言,更像是意识的一个维度投影;但对于 AI 则是那一刻的全部。重点是,AI 的「意识」或者「思维」并不是持续进行的,所以我们只有那一刻。

个人 Agent 的记忆也是如此。它可以找到用户过去说过的话,甚至找到那句话出现时的完整对话。找回来不是什么问题,但是找回来之后呢?

在今天,这件事涉及记忆的检索、筛选,以及模型对上下文的处理——而我想展开的则是另外一个场景:有没有可能,让这些上下文具有近似的能力?它不仅能告诉模型当前的状态,还能告诉模型未来有可能会发生的事,以及潜在的规律,让模型可以对这些上下文实现某种自我进化。

周末之后

在 personal agent 的典型场景里,用户可能会和 Agent 分享很多生活中的事:最近遇到了谁,一件事为什么让自己犹豫,对接下来的生活有什么期待。这些对话未必都有明确的任务,但它们会留下用户看待世界的方式。

比如周末。

一位用户经常和 Agent 说,工作日已经很累了,周末只想一个人待着。出门见人会消耗精力,只有把时间完全留给自己,才算真正休息。

Agent 记住了这些。后来用户问它周末可以做什么,它推荐了一些一个人也能做的事:看电影、散步,或者待在家里读书。用户接受了这些建议,毕竟在那一刻,这些信息是正确的。

但过了一段时间,用户又聊起周末,说:「最近好像待在家里,也没有以前那么放松了。」

如果 Agent 只是记住了「用户喜欢独处」,它可能会换几部电影,再推荐一条新的散步路线。它没有忘记用户,也没有给出错误的事实;它只是按照过去有效的理解,继续给出了过去有效的建议。

但这次用户回复说:「我不是不知道一个人能做什么。我好像是想见见朋友,只是不太想参加那种人很多的聚会。」

Agent 猜错了。用户也不只是提供了一个新的活动偏好:过去,他觉得约人见面会占用属于自己的休息时间;现在,他开始发现,一次轻松的见面也可能让自己得到休息。

于是下一次讨论周末时,Agent 除了推荐一个人散步,也提议约一位朋友喝咖啡。用户说,这听起来不错,正好有个朋友很久没见了。

这种改变是很小的。Agent 没有升级模型,没有修改代码,甚至没有为用户做任何安排。它只是带着对前一次对话的新理解,改变了下一次回应。

但这个变化值得留下吗?

一次不错的猜测

从「想见见朋友」到「用户更喜欢社交」,只需要一句总结。这样的总结也许在接下来的一个周末里仍然有用,但它很快就可能变成另一个误解。

用户没有说自己不再喜欢独处,也没有说每个周末都希望有人陪。他只是发现,在某些时候,见一个朋友并不妨碍休息。Agent 如果把这段变化压成一条新偏好,它就只是在用新的固定答案替换旧的固定答案。

所以下一次用户说「这周太累了,只想自己待着」时,Agent 不应该急着认为用户又变了,也不应该提醒他「你之前不是说想见朋友吗」。过去的理解可以继续存在,但它需要为眼前的状态让路。

再后来,用户的一位朋友来到这座城市,只住一周。用户说:「这周我每天都想和他见面,帮我想想能去哪里。」

这是一条明确的、针对这一周的要求。Agent 可以据此提供每天的建议,但不必把它变成「用户喜欢每天社交」。朋友离开之后,用户可能又想安静地待一阵子;也可能因为这次相处,发现自己希望今后更常见朋友。两种情况都说得通,Agent 需要等新的交流提供更多信息。

但它需要记录下什么呢?

一条规则很方便:下次读到「周末」,就知道可以建议见朋友。但一条规则也很容易丢掉形成它的原因。留下几种可能的解释似乎更诚实,可每次都重新比较这些解释,又会增加计算和判断的成本。也许留下来的应该是一种方法:先理解用户此刻想要什么,再决定是否提及过去有效的选择。

从我过去的一些个人独立尝试来看,这样的「进化」会非常容易地看到效果。以及客观来说,在今天让 Agent 修改一些东西并不是什么难事。

真正难的是评价:它如何知道,这些信息是「正确」的呢?

用户接受了一次喝咖啡的建议,说明这个建议至少在那一次有吸引力;这还不能说明他以后每周都想见朋友。用户没有回复,也可能是因为忙、还没想好,或者根本没看到。沉默本身不能被当成认可。

如果每次提出建议,Agent 都要求用户评价「你是否希望我以后继续这样做」,交流也会变得很奇怪。用户本来只是想聊聊周末,最后却要花时间训练 Agent 如何理解自己。

这也是我们一开始讨论的问题:一次记忆,对于当时的场景可能是绝对准确的;但甚至可能在下次对话发生的时刻,它就已经错误百出。

而这也可能是一种规律:压缩后的记忆在当时越准确,在未来可能就越不准确。

这个问题也出现在 HorizonBench 的研究中。研究者构造了 360 位模拟用户,以及他们长达半年的对话记录。用户会在对话中提到生活里发生的变化,但不会直接告诉 Agent「我的偏好变了」。当研究者随后询问用户现在的偏好时,模型经常给出用户过去的答案。(HorizonBench,2026)

没有终点的进化

在这个状态下,我们实际上面对的问题其实是某种逻辑悖论:一方面,我们要不断提高模型和工具能力,在当时进行足够准确的语义压缩,产生结果,希望它在用户的下一次对话中能够派上用场,实现「越来越懂用户」;但另一方面,我们又要许愿用户不要在下一次对话时发生什么大的变化。比如从周末喜欢独处到周末喜欢社交,因为一旦这样的事情发生,就意味着之前的记忆已经彻底「失效」。我们只能希望模型能够快速意识到这一点,并且在运行时中修正。

当然,另外一个路径就是让 Agent 成为一个谜语人,从一开始就不要产生精确的记忆和描述,而是选择用户群中普遍存在的几类概述——如果我从来都没准过,那就自然不会失准。这不是在开玩笑,绝大多数人格或者心理测试,甚至是很多互联网产品,它们并不会尝试去追求对你的形象的绝对准确的刻画,而是尝试把你归类于已经被设计和分析好的某种人群中。虽然这样不能保证你始终处于某种极高匹配度的画像中,但至少也不会因为处于一个不准的画像中给你带来不好的体验。

但从我的角度来看,今天的上下文和记忆实际上给了一种全新的思路。它们不再是某种通用的信息,而是由每个独立用户亲自创建的独一无二的信息。这里的独一无二可以从两个方面来理解:一是每个人的生活和轨迹是不同的,很难出现完全相同的经历;二是从数据上来说,每个人在描述一件相同的公共事件时,所使用的语气、标点符号,甚至是 emoji 表情都不太可能完全一样。既然信息是独一无二的,尝试基于具有各异性的数据去划分到某种通用的画像,反而可能会出现更多的问题。

我们重新来看一下进化这个词。如果我们不讨论具体的场景,只讨论具体的概念,比如达尔文的进化体系,我们其实可以发现一些非常有意思的现象。

比如,进化本身并没有绝对的对与错。鸟类有翅膀,并不是因为在很多年以前,它们的所有个体做出了一个正确的决定:我们的后代一定要有翅膀,于是它们就开始长出翅膀;事实则是,在历史的长河中,种群的后代会出现不同的可遗传差异,这些差异可能在特定环境中影响个体生存和繁殖的机会,相关特征也可能经过很多代逐渐变化——而没有留下后代的个体,它们也不是进化「错」了,只是它们没有在当时的环境中把自己的特征延续下去。

而进化,也没有固定的方向。如果你感兴趣的话,你会发现仅仅对于螃蟹这样的生物形态,在已知的历史中,其实不同的演化谱系中发生过多次类似蟹形的演化——一些谱系后来也失去了部分典型的蟹形特征。这一点其实很有意思。(Wolfe 等,2021)

你第一天有一个手机壳,你觉得你用不上,把手机壳扔掉了。第二天你不小心把手机磕了一下,第三天你担心再磕碰,所以又买了一个新手机壳——那从结果来看,第一天把手机壳扔掉是非常不合理的。但对于生物来说,形态的变化并不是先知道未来会发生什么,再决定要不要保留某种特征。

所以回到我们一开始的问题,我的答案是——对于 AI 来说,上下文维度的进化依然如此。这种进化,本身就没有对与错,更没有方向,也不会存在基于个人维度的统一评测标准。

结合实际的技术来说,这种进化,本质上就是对当时的人机沟通记录进行一次语义压缩——但压缩的目标不再是产出一个概述性的总结,而是尝试让 Agent 去揣测用户背后的动机与内心活动,并且尝试对于未来可能会发生的事情进行一定的预测。而当用户告诉他的 Agent,他周末想要社交的时候,上一轮进化的结果在理想状态下,就应该已经包含了这种可能性,比如用户想要周末独处可能是某种短期行为,而不是长期追求,等等。

但总的来说,对于上下文维度的自进化,会是一种动态行为:进化结果是动态的,进化方向是动态的,进化的评测也是动态的——只有用户是静态的,作为环境去对 Agent 的进化结果进行筛选,从而留下他当下想要的那部分。

快照之外

回到最初的周末。

Agent 也许能够察觉用户的想法变了,但它不一定知道为什么变。是因为用户认识了新的朋友,是最近的工作状态有所不同,还是他对「休息」本身有了新的理解?这些可能性都存在,但它们不能仅凭一次对话被确定。

Agent 可以问,也可以暂时保留疑问。它不需要急着替用户解释自己。

至于未来,Agent 可以意识到用户的想法还会继续变化,也可以在新的交流中留意这些变化。但「未来可能怎样」不应该变成「用户最终一定会怎样」。用户可能会更常见朋友,也可能在某个阶段重新需要更多独处时间;这些都应该由后来的生活和用户自己的选择来回答。

文字留下了过去的痕迹,但读到这些文字的人会改变。Personal agent 需要记得用户曾经怎样想,也需要有能力注意到用户正在改变。它可以尝试理解原因,但也需要知道自己可能猜错。

AirJelly 也是如此,这只在你屏幕上的蓝色小水母,会默默观察并且陪伴在你身边,帮你规划所有的任务,去了解未来的你。

当过去的理解不再适合现在,personal agent 应该能够放下以前学到的东西,重新认识面前的人。