文字和語言,是意識的一種載體。我們把想法寫下來,也把當時的判斷、疑問和感受留在了文字裡。過一段時間再讀,可能會重新接上那條思路,也可能因為後來經歷的事情,對同一句話產生不同的理解。
而對於 AI,上下文和記憶也可以被看作是一種記憶的快照:一次推理能夠取用的資訊被留在模型權重之外,過去的內容因而有機會進入下一次判斷。
但快照有一個問題。它只記錄了當時的想法,而不是未來的。人不會有類似的問題,因為我們的腦海中有一種意識的「母語」。人的文字和語言,更像是意識的一個維度投影;但對於 AI 則是那一刻的全部。重點是,AI 的「意識」或者「思維」並不是持續進行的,所以我們只有那一刻。
個人 Agent 的記憶也是如此。它可以找到使用者過去說過的話,甚至找到那句話出現時的完整對話。找回來不是什麼問題,但是找回來之後呢?
在今天,這件事涉及記憶的檢索、篩選,以及模型對上下文的處理——而我想展開的則是另外一個場景:有沒有可能,讓這些上下文具有近似的能力?它不僅能告訴模型當前的狀態,還能告訴模型未來有可能會發生的事,以及潛在的規律,讓模型可以對這些上下文實現某種自我進化。
週末之後
在 personal agent 的典型場景裡,使用者可能會和 Agent 分享很多生活中的事:最近遇到了誰,一件事為什麼讓自己猶豫,對接下來的生活有什麼期待。這些對話未必都有明確的任務,但它們會留下使用者看待世界的方式。
比如週末。
一位使用者經常和 Agent 說,工作日已經很累了,週末只想一個人待著。出門見人會消耗精力,只有把時間完全留給自己,才算真正休息。
Agent 記住了這些。後來使用者問它週末可以做什麼,它推薦了一些一個人也能做的事:看電影、散步,或者待在家裡讀書。使用者接受了這些建議,畢竟在那一刻,這些資訊是正確的。
但過了一段時間,使用者又聊起週末,說:「最近好像待在家裡,也沒有以前那麼放鬆了。」
如果 Agent 只是記住了「使用者喜歡獨處」,它可能會換幾部電影,再推薦一條新的散步路線。它沒有忘記使用者,也沒有給出錯誤的事實;它只是按照過去有效的理解,繼續給出了過去有效的建議。
但這次使用者回覆說:「我不是不知道一個人能做什麼。我好像是想見見朋友,只是不太想參加那種人很多的聚會。」
Agent 猜錯了。使用者也不只是提供了一個新的活動偏好:過去,他覺得約人見面會佔用屬於自己的休息時間;現在,他開始發現,一次輕鬆的見面也可能讓自己得到休息。
於是下一次討論週末時,Agent 除了推薦一個人散步,也提議約一位朋友喝咖啡。使用者說,這聽起來不錯,正好有個朋友很久沒見了。
這種改變是很小的。Agent 沒有升級模型,沒有修改程式碼,甚至沒有為使用者做任何安排。它只是帶著對前一次對話的新理解,改變了下一次回應。
但這個變化值得留下嗎?
一次不錯的猜測
從「想見見朋友」到「使用者更喜歡社交」,只需要一句總結。這樣的總結也許在接下來的一個週末裡仍然有用,但它很快就可能變成另一個誤解。
使用者沒有說自己不再喜歡獨處,也沒有說每個週末都希望有人陪。他只是發現,在某些時候,見一個朋友並不妨礙休息。Agent 如果把這段變化壓成一條新偏好,它就只是在用新的固定答案替換舊的固定答案。
所以下一次使用者說「這週太累了,只想自己待著」時,Agent 不應該急著認為使用者又變了,也不應該提醒他「你之前不是說想見朋友嗎」。過去的理解可以繼續存在,但它需要為眼前的狀態讓路。
再後來,使用者的一位朋友來到這座城市,只住一週。使用者說:「這週我每天都想和他見面,幫我想想能去哪裡。」
這是一條明確的、針對這一週的要求。Agent 可以據此提供每天的建議,但不必把它變成「使用者喜歡每天社交」。朋友離開之後,使用者可能又想安靜地待一陣子;也可能因為這次相處,發現自己希望今後更常見朋友。兩種情況都說得通,Agent 需要等新的交流提供更多資訊。
但它需要記錄下什麼呢?
一條規則很方便:下次讀到「週末」,就知道可以建議見朋友。但一條規則也很容易丟掉形成它的原因。留下幾種可能的解釋似乎更誠實,可每次都重新比較這些解釋,又會增加計算和判斷的成本。也許留下來的應該是一種方法:先理解使用者此刻想要什麼,再決定是否提及過去有效的選擇。
從我過去的一些個人獨立嘗試來看,這樣的「進化」會非常容易地看到效果。以及客觀來說,在今天讓 Agent 修改一些東西並不是什麼難事。
真正難的是評價:它如何知道,這些資訊是「正確」的呢?
使用者接受了一次喝咖啡的建議,說明這個建議至少在那一次有吸引力;這還不能說明他以後每週都想見朋友。使用者沒有回覆,也可能是因為忙、還沒想好,或者根本沒看到。沉默本身不能被當成認可。
如果每次提出建議,Agent 都要求使用者評價「你是否希望我以後繼續這樣做」,交流也會變得很奇怪。使用者本來只是想聊聊週末,最後卻要花時間訓練 Agent 如何理解自己。
這也是我們一開始討論的問題:一次記憶,對於當時的場景可能是絕對準確的;但甚至可能在下次對話發生的時刻,它就已經錯誤百出。
而這也可能是一種規律:壓縮後的記憶在當時越準確,在未來可能就越不準確。
這個問題也出現在 HorizonBench 的研究中。研究者構造了 360 位模擬使用者,以及他們長達半年的對話記錄。使用者會在對話中提到生活裡發生的變化,但不會直接告訴 Agent「我的偏好變了」。當研究者隨後詢問使用者現在的偏好時,模型經常給出使用者過去的答案。(HorizonBench,2026)
沒有終點的進化
在這個狀態下,我們實際上面對的問題其實是某種邏輯悖論:一方面,我們要不斷提高模型和工具能力,在當時進行足夠準確的語義壓縮,產生結果,希望它在使用者的下一次對話中能夠派上用場,實現「越來越懂使用者」;但另一方面,我們又要許願使用者不要在下一次對話時發生什麼大的變化。比如從週末喜歡獨處到週末喜歡社交,因為一旦這樣的事情發生,就意味著之前的記憶已經徹底「失效」。我們只能希望模型能夠快速意識到這一點,並且在執行時中修正。
當然,另外一個路徑就是讓 Agent 成為一個謎語人,從一開始就不要產生精確的記憶和描述,而是選擇使用者群中普遍存在的幾類概述——如果我從來都沒準過,那就自然不會失準。這不是在開玩笑,絕大多數人格或者心理測試,甚至是很多網際網路產品,它們並不會嘗試去追求對你的形象的絕對準確的刻畫,而是嘗試把你歸類於已經被設計和分析好的某種人群中。雖然這樣不能保證你始終處於某種極高匹配度的畫像中,但至少也不會因為處於一個不準的畫像中給你帶來不好的體驗。
但從我的角度來看,今天的上下文和記憶實際上給了一種全新的思路。它們不再是某種通用的資訊,而是由每個獨立使用者親自建立的獨一無二的資訊。這裡的獨一無二可以從兩個方面來理解:一是每個人的生活和軌跡是不同的,很難出現完全相同的經歷;二是從資料上來說,每個人在描述一件相同的公共事件時,所使用的語氣、標點符號,甚至是 emoji 表情都不太可能完全一樣。既然資訊是獨一無二的,嘗試基於具有各異性的資料去劃分到某種通用的畫像,反而可能會出現更多的問題。
我們重新來看一下進化這個詞。如果我們不討論具體的場景,只討論具體的概念,比如達爾文的進化體系,我們其實可以發現一些非常有意思的現象。
比如,進化本身並沒有絕對的對與錯。鳥類有翅膀,並不是因為在很多年以前,它們的所有個體做出了一個正確的決定:我們的後代一定要有翅膀,於是它們就開始長出翅膀;事實則是,在歷史的長河中,種群的後代會出現不同的可遺傳差異,這些差異可能在特定環境中影響個體生存和繁殖的機會,相關特徵也可能經過很多代逐漸變化——而沒有留下後代的個體,它們也不是進化「錯」了,只是它們沒有在當時的環境中把自己的特徵延續下去。
而進化,也沒有固定的方向。如果你感興趣的話,你會發現僅僅對於螃蟹這樣的生物形態,在已知的歷史中,其實不同的演化譜系中發生過多次類似蟹形的演化——一些譜系後來也失去了部分典型的蟹形特徵。這一點其實很有意思。(Wolfe 等,2021)
你第一天有一個手機殼,你覺得你用不上,把手機殼扔掉了。第二天你不小心把手機磕了一下,第三天你擔心再磕碰,所以又買了一個新手機殼——那從結果來看,第一天把手機殼扔掉是非常不合理的。但對於生物來說,形態的變化並不是先知道未來會發生什麼,再決定要不要保留某種特徵。
所以回到我們一開始的問題,我的答案是——對於 AI 來說,上下文維度的進化依然如此。這種進化,本身就沒有對與錯,更沒有方向,也不會存在基於個人維度的統一評測標準。
結合實際的技術來說,這種進化,本質上就是對當時的人機溝通記錄進行一次語義壓縮——但壓縮的目標不再是產出一個概述性的總結,而是嘗試讓 Agent 去揣測使用者背後的動機與內心活動,並且嘗試對於未來可能會發生的事情進行一定的預測。而當用戶告訴他的 Agent,他週末想要社交的時候,上一輪進化的結果在理想狀態下,就應該已經包含了這種可能性,比如使用者想要週末獨處可能是某種短期行為,而不是長期追求,等等。
但總的來說,對於上下文維度的自進化,會是一種動態行為:進化結果是動態的,進化方向是動態的,進化的評測也是動態的——只有使用者是靜態的,作為環境去對 Agent 的進化結果進行篩選,從而留下他當下想要的那部分。
快照之外
回到最初的週末。
Agent 也許能夠察覺使用者的想法變了,但它不一定知道為什麼變。是因為使用者認識了新的朋友,是最近的工作狀態有所不同,還是他對「休息」本身有了新的理解?這些可能性都存在,但它們不能僅憑一次對話被確定。
Agent 可以問,也可以暫時保留疑問。它不需要急著替使用者解釋自己。
至於未來,Agent 可以意識到使用者的想法還會繼續變化,也可以在新的交流中留意這些變化。但「未來可能怎樣」不應該變成「使用者最終一定會怎樣」。使用者可能會更常見朋友,也可能在某個階段重新需要更多獨處時間;這些都應該由後來的生活和使用者自己的選擇來回答。
文字留下了過去的痕跡,但讀到這些文字的人會改變。Personal agent 需要記得使用者曾經怎樣想,也需要有能力注意到使用者正在改變。它可以嘗試理解原因,但也需要知道自己可能猜錯。
AirJelly 也是如此,這隻在你螢幕上的藍色小水母,會默默觀察並且陪伴在你身邊,幫你規劃所有的任務,去了解未來的你。
當過去的理解不再適合現在,personal agent 應該能夠放下以前學到的東西,重新認識面前的人。