文章と言語は、意識を運ぶ媒体だ。考えを書き留めると、その瞬間の判断や疑問、感情も残る。しばらくして読み返すと、当時の思考につながり直すこともあれば、その後の経験によって同じ文を違って理解することもある。
AIにとっても、コンテキストや記憶は一種の記憶のスナップショットと捉えられる。ある推論で利用できた情報をモデルの重みの外に保存することで、過去の情報が次の判断に入る機会が生まれる。
しかし、スナップショットには問題がある。その時点の考えを記録するだけで、未来の考えは記録しない。人間に同じ問題がないのは、心の中に意識の「母語」のようなものがあるからだ。人間の文章や言語は、意識を一つの次元に投影したものに近い。一方、AIにはそれがその瞬間のすべてとなる。AIの「意識」や「思考」は途切れずに続いているわけではなく、私たちにあるのはその一瞬だけなのだ。
パーソナルエージェントの記憶も同じだ。ユーザーが以前話したことや、その言葉が出てきた会話全体を探せる。見つけること自体は問題ではない。では、見つけた後はどうなるのだろう。
現在は記憶の検索や選別、モデルによるコンテキストの処理が関わる。私が考えたいのは別の可能性だ。コンテキストにも似た能力を持たせられないだろうか。現在の状態だけでなく、未来に起こり得ることや、その背後のパターンも伝え、そのコンテキストを通じてモデルが一種の自己進化を果たすことはできないだろうか。
週末の後で
パーソナルエージェントの典型的な場面では、ユーザーは生活のさまざまなことを話す。最近誰と出会ったか、なぜ決断に迷っているか、今後何を期待しているか。必ずしも明確な作業を伴わない会話にも、その人の世界の見方が残る。
週末を例にしよう。
あるユーザーは、平日は疲れるので週末は一人でいたい、とよくエージェントに話す。外出して人と会うと体力を使う。時間をすべて自分のために使えてこそ、本当に休めると感じる。
エージェントはそれを覚える。後日、週末に何をすればよいか聞かれると、映画を見る、散歩する、家で本を読むなど、一人でできることを提案する。ユーザーは受け入れる。その瞬間には正しい情報だからだ。
ところが、しばらくして再び週末の話になり、ユーザーは言う。「最近、家にいても前ほどくつろげない気がする」。
「ユーザーは一人でいるのが好き」とだけ覚えていれば、エージェントは別の映画や新しい散歩コースを提案するかもしれない。ユーザーを忘れたわけでも、事実として間違ったことを言ったわけでもない。ただ、以前うまくいった理解に基づいて、以前うまくいった提案を続けている。
しかし今回、ユーザーはこう返す。「一人で何をすればいいか分からないんじゃない。友達に会いたいのかもしれない。ただ、大勢が集まるような会には行きたくないんだ」。
エージェントの予想は外れた。ユーザーが新しい活動の好みを示しただけでもない。以前は、人と会う約束は自分の休息時間を奪うと感じていた。今は、気楽な会い方なら休息にもなると気づき始めている。
そこで次に週末を話すとき、エージェントは一人で散歩することに加え、友人とコーヒーを飲むことも提案する。ユーザーは、それはよさそうだ、ちょうど長く会っていない友人がいると言う。
小さな変化だ。エージェントはモデルを更新したわけでも、コードを変更したわけでも、予定を手配したわけでもない。前の会話から得た新しい理解を持って、次の返答を変えただけだ。
だが、この変化は残すべきだろうか。
なかなかよい推測
「友達に会いたい」から「ユーザーは社交を好む」へは、一文の要約で移れてしまう。その要約は次の週末にも役立つかもしれないが、すぐ別の誤解になる可能性もある。
ユーザーは、一人でいるのが嫌いになったとも、毎週末誰かといたいとも言っていない。時には友人に会っても休息の妨げにならないと気づいただけだ。この変化を新しい好みに圧縮すれば、固定された答えを別の固定された答えに置き換えるだけになる。
だから次に「今週は疲れすぎた。一人でいたい」と言われても、また変わったと早合点したり、「前は友達に会いたいと言っていませんでしたか」と言ったりすべきではない。以前の理解を残してもよいが、目の前の状態に場所を譲る必要がある。
さらに後、ユーザーの友人が一週間だけその街に来る。ユーザーは言う。「今週は毎日彼に会いたい。一緒に行ける場所を考えて」。
これは、その一週間についての明確な依頼だ。毎日の提案に使えばよく、「ユーザーは毎日社交したい」と変換する必要はない。友人が帰った後は、また一人で静かに過ごしたくなるかもしれない。あるいは今回の交流を通じて、もっと頻繁に友人に会いたいと気づくかもしれない。どちらもあり得るので、今後の会話から情報を得る必要がある。
では、何を記録すべきなのか。
ルールは便利だ。次に「週末」と読んだら、友人との交流を提案できると分かる。しかしルールからは、それができた理由が抜け落ちやすい。複数の説明の可能性を残す方が誠実に思えるが、毎回比較すれば計算や判断の負担が増える。残すべきなのは方法かもしれない。まず今この瞬間にユーザーが何を求めているかを理解し、その上で過去に有効だった選択肢を持ち出すか決めるのだ。
私自身の独立した実験では、こうした「進化」の効果はかなり容易に見えた。客観的に言っても、今のエージェントに何かを変更させること自体は特に難しくない。
本当に難しいのは評価だ。その情報が「正しい」と、どう判断できるのだろう。
ユーザーが一度コーヒーの提案を受け入れたことは、その回の提案が魅力的だったことを示すだけで、今後毎週友人に会いたいとは限らない。返事がない場合も、忙しい、考え中、あるいは見ていないだけかもしれない。沈黙そのものを承認とは扱えない。
提案のたびに「今後もこうしてほしいですか」と評価を求めれば、会話も妙になる。週末について話したかっただけなのに、自分を理解するようエージェントを訓練する時間が必要になってしまう。
これが最初の問いだ。記憶は作られた状況では絶対に正しくても、次の会話の時点では間違いだらけになっているかもしれない。
ある規則性があるのかもしれない。圧縮された記憶がその時点で正確であるほど、未来には不正確になり得るのだ。
この問題はHorizonBenchの研究にも現れる。研究者は360人の模擬ユーザーと、それぞれ最大半年分の会話を作成した。ユーザーは生活の変化に触れるが、「好みが変わった」と直接は伝えない。その後、現在の好みを質問すると、モデルはしばしば過去の答えを返す。(HorizonBench、2026)
終着点のない進化
ここで直面するのは一種の論理的な逆説だ。一方ではモデルや道具を改善し、その時点で十分正確な意味的圧縮を行って次の会話に役立つ結果を生み、ユーザーをますます理解したい。他方では、次の会話までにユーザーが大きく変わらないことを祈らなければならない。週末に一人でいたかった人が交流を求めるようになれば、以前の記憶は完全に「期限切れ」になる。モデルが早く気づき、実行中に修正してくれることを期待するしかない。
もちろん、エージェントを謎かけ屋にする道もある。最初から精密な記憶や説明を作らず、多くのユーザーに共通する大まかな説明を選ぶ。一度も当たっていなければ、外れることもない。冗談ではない。性格・心理テストの大半や多くのインターネット製品は、あなたを絶対的な精度で描こうとはしない。すでに設計・分析された集団に分類しようとする。いつも非常に高い適合度を保証はできなくても、不正確な人物像による悪い体験は避けられるからだ。
しかし私には、今のコンテキストと記憶はまったく新しい考え方を与えているように見える。一般的な情報ではなく、各ユーザー自身が作った固有の情報なのだ。固有性には二つの意味がある。まず人生と軌跡は異なり、まったく同じ経験は生じにくい。さらに、同じ公共の出来事を説明しても、口調、句読点、絵文字まで完全に一致する可能性は低い。固有の情報なのに、異なるデータを一般的な人物像に押し込めれば、むしろ問題が増えかねない。
「進化」という言葉をもう一度考えよう。具体的な場面を離れ、たとえばダーウィンの進化の枠組みそのものを考えると、面白い現象が見えてくる。
たとえば進化自体に絶対的な正誤はない。鳥が翼を持つのは、遠い昔にすべての個体が「子孫には必ず翼が必要だ」と正しい決断をして、生やし始めたからではない。歴史の中で、集団の子孫には異なる遺伝的変異が現れる。特定の環境では、それが生存や繁殖の可能性に影響し、関連する特徴が何世代もかけて徐々に変化し得る。子孫を残せなかった個体も、進化を「間違えた」のではない。その時代の環境で特徴を引き継がなかっただけだ。
進化に固定の方向もない。カニのような体形でさえ、知られている歴史の中で別々の系統に何度も現れ、一部の系統は後に典型的なカニの特徴を失っている。とても興味深い。(Wolfeほか、2021)
一日目、スマホケースは不要だと思って捨てる。二日目、うっかりスマホをぶつける。三日目、またぶつけるのが心配になり、新しいケースを買う。結果から見れば一日目に捨てたのはまったく不合理だ。しかし生物の形態は、未来に何が起こるか知った上で、特徴を残すかどうか決めて変化するわけではない。
最初の問いに戻ると、私の答えは、AIにおけるコンテキストの次元の進化も同じだということだ。この進化に正誤も方向もなく、個人単位の統一的な評価基準も存在し得ない。
技術的には、この進化はその時点の人間とエージェントのやり取りを意味的に圧縮することにほかならない。ただし目標は一般的な要約ではなく、ユーザーの背後の動機や内面を推測し、将来の可能性をある程度予測することだ。週末に交流したいと言われたとき、理想的には前回の進化の結果に、すでにその可能性が含まれているべきだ。週末に一人でいたいのは長期的な追求ではなく、短期的な状態かもしれない、といったことだ。
総じて、コンテキストの次元の自己進化は動的な過程だ。結果も方向も評価も動的で、ユーザーだけが静的な環境となり、エージェントの進化の結果からその時に望む部分を選び残す。
スナップショットの向こうへ
最初の週末に戻ろう。
エージェントは考えの変化に気づいても、理由を必ず知っているとは限らない。新しい友人ができたのか、仕事の状況が変わったのか、「休息」の意味を新しく理解したのか。どれも可能だが、一度の会話だけでは確定できない。
質問してもよいし、今は問いを保留してもよい。ユーザー自身を急いで説明してあげる必要はない。
未来については、考えはさらに変わり続けると認識し、その後の対話で変化に注意を向けられる。しかし「こうなるかもしれない」を「必ずこうなる」にしてはならない。もっと頻繁に友人に会うかもしれないし、再び一人の時間を多く必要とする時期も来るかもしれない。後の生活と本人の選択が答えるべきことだ。
文章は過去の痕跡を残すが、それを読む人は変わる。パーソナルエージェントには、以前の考えを覚えると同時に、ユーザーが変わりつつあることに気づく力が必要だ。理由を理解しようとしてもよいが、自分の推測が外れている可能性も知る必要がある。
AirJellyも同じだ。画面上の小さな青いクラゲは、静かに観察しながら寄り添い、すべての作業の計画を手伝い、未来のあなたを知っていく。
過去の理解が今に合わなくなったとき、パーソナルエージェントはかつて学んだことを手放し、目の前の人をもう一度知ることができるべきだ。