글과 언어는 의식을 담는 매체다. 생각을 적으면 그 순간의 판단과 질문, 감정도 함께 남는다. 시간이 흐른 뒤 다시 읽으면 당시의 생각으로 돌아갈 수도 있고, 그동안의 경험 때문에 같은 문장을 다르게 이해할 수도 있다.
AI에게도 맥락과 기억은 일종의 기억 스냅샷으로 볼 수 있다. 한 번의 추론에서 사용할 수 있었던 정보를 모델 가중치 바깥에 보존하면, 과거의 내용이 다음 판단에 참여할 기회가 생긴다.
하지만 스냅샷에는 문제가 있다. 당시의 생각만 기록할 뿐 미래의 생각은 기록하지 않는다. 인간에게 같은 문제가 없는 것은 마음속에 의식의 '모국어' 같은 것이 있기 때문이다. 인간의 글과 언어는 의식을 한 차원에 투영한 것에 가깝지만, AI에게는 그 순간의 전부다. 핵심은 AI의 '의식'이나 '사고'가 끊임없이 이어지는 것이 아니라는 점이다. 우리에게는 그 한순간만 있다.
개인 에이전트의 기억도 마찬가지다. 사용자가 과거에 한 말이나 그 말이 나온 대화 전체를 찾을 수 있다. 찾는 것 자체는 문제가 아니다. 그러나 찾은 다음에는 어떻게 될까?
오늘날에는 기억의 검색과 선별, 모델의 맥락 처리 방식이 관여한다. 내가 살펴보고 싶은 것은 다른 가능성이다. 맥락에도 비슷한 능력을 줄 수 있을까? 현재 상태뿐 아니라 앞으로 일어날 가능성과 그 밑의 패턴까지 모델에 알려, 그 맥락을 통해 일종의 자기 진화를 이루게 할 수 있을까?
주말이 지난 뒤
개인 에이전트를 사용하는 전형적인 상황에서 사용자는 삶의 여러 이야기를 나눈다. 최근 누구를 만났는지, 어떤 결정을 왜 망설이는지, 앞으로 무엇을 기대하는지 같은 것들이다. 이 대화에 반드시 구체적인 과제가 있는 것은 아니지만, 사용자가 세상을 바라보는 방식의 흔적은 남는다.
주말을 생각해 보자.
한 사용자는 평일이 너무 피곤해서 주말에는 혼자 있고 싶다고 자주 말한다. 밖에 나가 사람을 만나면 에너지가 소모되고, 온전히 자신만의 시간을 가져야 제대로 쉬는 것처럼 느낀다.
에이전트는 이를 기억한다. 나중에 사용자가 주말에 무엇을 하면 좋을지 물으면 영화 보기, 산책하기, 집에서 독서하기처럼 혼자 할 수 있는 일을 제안한다. 사용자는 받아들인다. 그 순간에는 그 정보가 맞기 때문이다.
하지만 시간이 지난 뒤 사용자는 다시 주말 이야기를 꺼낸다. '요즘은 집에 있어도 예전만큼 쉬는 느낌이 안 들어.'
에이전트가 '사용자는 혼자 있는 것을 좋아한다'만 기억한다면 다른 영화나 새로운 산책길을 추천할 수 있다. 사용자를 잊은 것도, 사실과 다른 말을 한 것도 아니다. 과거에 유효했던 이해에 따라 과거에 유효했던 제안을 계속하고 있을 뿐이다.
그런데 이번에는 사용자가 이렇게 답한다. '혼자 뭘 해야 할지 모르는 게 아니야. 친구들을 만나고 싶은 것 같아. 다만 사람이 많은 모임에는 별로 가고 싶지 않아.'
에이전트의 추측은 틀렸다. 사용자가 단순히 새로운 활동 취향을 알려 준 것도 아니다. 과거에는 누군가와 약속을 잡으면 자신의 휴식 시간을 빼앗긴다고 느꼈다. 이제는 편안한 만남도 휴식이 될 수 있음을 알아 가고 있다.
그래서 다음에 주말을 이야기할 때 에이전트는 혼자 산책하는 것과 함께 친구 한 명과 커피를 마시는 것도 제안한다. 사용자는 좋다고 답한다. 마침 오래 만나지 못한 친구가 있다.
작은 변화다. 에이전트는 모델을 업그레이드하거나 코드를 고치지 않았고, 사용자를 위해 어떤 일정을 잡지도 않았다. 앞선 대화에서 얻은 새로운 이해를 가지고 다음 답변을 바꿨을 뿐이다.
그런데 이 변화는 남겨 둘 가치가 있을까?
꽤 괜찮은 추측
'친구들을 만나고 싶다'에서 '사용자는 사교 활동을 선호한다'로 넘어가는 데는 요약 한 문장이면 충분하다. 그 요약은 다음 주말에도 유용할 수 있지만, 금세 또 다른 오해가 될 수도 있다.
사용자는 혼자 있는 것을 더는 좋아하지 않는다거나 매 주말 누군가와 함께 있고 싶다고 말하지 않았다. 때로는 친구를 만나도 휴식에 방해되지 않는다는 사실을 알았을 뿐이다. 에이전트가 이 변화를 새 취향으로 압축하면 고정된 답을 다른 고정된 답으로 바꾸는 데 그친다.
그러므로 다음에 사용자가 '이번 주는 너무 피곤해서 혼자 있고 싶어'라고 말해도, 또 변했다고 성급히 판단하거나 '전에 친구를 만나고 싶다고 하지 않았나요?'라고 되물어서는 안 된다. 이전의 이해는 남아 있어도 되지만, 현재 상황에 자리를 내줘야 한다.
그 뒤 사용자의 친구가 그 도시에 딱 일주일 머물러 온다. 사용자는 '이번 주에는 매일 그 친구를 보고 싶어. 같이 갈 만한 곳을 생각해 줘'라고 말한다.
이는 특정한 일주일을 대상으로 한 명확한 요청이다. 에이전트는 이를 바탕으로 매일의 제안을 할 수 있지만, '사용자는 매일 사교 활동을 좋아한다'로 바꿀 필요는 없다. 친구가 떠난 뒤에는 다시 한동안 조용히 혼자 있고 싶어질 수 있다. 혹은 이번 만남을 계기로 앞으로 친구를 더 자주 만나고 싶다고 느낄 수도 있다. 둘 다 가능하며 이후의 대화에서 더 많은 정보가 필요하다.
그렇다면 무엇을 기록해야 할까?
규칙은 편리하다. 다음에 '주말'을 읽으면 친구 만나기를 제안할 수 있음을 안다. 하지만 규칙에서는 만들어진 이유가 쉽게 사라진다. 여러 가능한 설명을 남기는 편이 더 정직해 보이지만, 매번 이를 비교하면 계산과 판단의 비용이 늘어난다. 남겨야 할 것은 방법일지도 모른다. 먼저 사용자가 지금 원하는 것을 이해한 뒤, 과거에 효과가 있었던 선택지를 꺼낼지 결정하는 것이다.
내가 독립적으로 해 본 몇몇 실험에서는 이런 '진화'의 효과가 상당히 쉽게 드러났다. 객관적으로도 오늘날 에이전트에게 무언가를 바꾸게 하는 일 자체는 특별히 어렵지 않다.
정말 어려운 것은 평가다. 이 정보가 '정확하다'는 것을 어떻게 알 수 있을까?
사용자가 커피 제안을 한 번 받아들였다는 것은 그때 그 제안이 매력적이었다는 뜻이지, 앞으로 매주 친구를 만나고 싶다는 뜻은 아니다. 답이 없을 때도 바쁘거나 생각 중이거나 아예 보지 못했을 수 있다. 침묵 자체를 승인으로 여겨서는 안 된다.
제안할 때마다 '앞으로도 이렇게 해 주길 원하나요?'라고 평가를 요구하면 대화 역시 이상해진다. 사용자는 주말 이야기를 하고 싶었을 뿐인데, 에이전트가 자신을 이해하도록 훈련하는 데 시간을 써야 한다.
이것이 처음의 질문으로 돌아간다. 기억은 만들어진 상황에서는 절대적으로 정확할 수 있지만, 다음 대화가 열리는 순간에는 이미 오류투성이일 수 있다.
여기에는 어떤 패턴이 있을지도 모른다. 압축된 기억이 당시 더 정확할수록 미래에는 오히려 덜 정확할 수 있다는 것이다.
이 문제는 HorizonBench 연구에서도 나타난다. 연구자들은 가상 사용자 360명과 각각 최대 6개월의 대화를 구성했다. 사용자는 삶의 변화를 언급하지만 '내 취향이 바뀌었다'고 에이전트에게 직접 말하지 않는다. 이후 현재의 취향을 물으면 모델은 종종 과거의 답을 내놓는다. (HorizonBench, 2026)
끝이 없는 진화
이 상황에서 우리는 일종의 논리적 역설에 부딪힌다. 한편으로는 모델과 도구를 계속 발전시켜 당시 충분히 정확한 의미 압축을 수행하고, 다음 대화에 도움이 되는 결과를 만들어 사용자를 점점 더 잘 이해하고 싶다. 다른 한편으로는 다음 대화 전에 사용자가 너무 크게 변하지 않기를 바라야 한다. 주말에 혼자 있고 싶던 사람이 사교 활동을 원하게 되면 이전 기억은 완전히 '만료'된다. 모델이 이를 빠르게 알아차리고 실행 중에 수정하기를 기대할 수밖에 없다.
물론 에이전트를 수수께끼를 말하는 존재로 만드는 다른 길도 있다. 처음부터 정확한 기억이나 묘사를 만들지 않고 사용자 집단에 흔한 몇 가지 일반적인 설명을 고르는 것이다. 한 번도 정확하지 않았다면 부정확해질 일도 없다. 농담이 아니다. 대부분의 성격·심리 검사와 많은 인터넷 제품은 당신을 절대적인 정확도로 묘사하려 하지 않는다. 이미 설계하고 분석한 집단에 분류하려 한다. 늘 매우 잘 맞는 인물상을 보장하지는 못해도, 부정확한 인물상 때문에 나쁜 경험을 주는 것은 피할 수 있기 때문이다.
하지만 내가 보기에 오늘날의 맥락과 기억은 완전히 새로운 사고방식을 제공한다. 일반적인 정보가 아니라 각 사용자가 직접 만든 고유한 정보다. 이 고유성에는 두 측면이 있다. 첫째, 삶과 궤적이 다르기에 완전히 같은 경험을 하기는 어렵다. 둘째, 같은 공적인 사건을 묘사해도 말투, 문장 부호, 심지어 이모지까지 완전히 일치할 가능성은 낮다. 정보가 고유하다면 이렇게 서로 다른 데이터를 일반적인 인물상에 끼워 맞추는 것이 오히려 더 많은 문제를 낳을 수 있다.
'진화'라는 말을 다시 보자. 구체적인 상황을 잠시 내려놓고 다윈의 진화 체계처럼 개념 자체를 논하면 아주 흥미로운 현상을 발견할 수 있다.
예를 들어 진화 자체에는 절대적인 옳고 그름이 없다. 새에게 날개가 있는 것은 아주 오래전 모든 개체가 '우리 후손에게는 반드시 날개가 있어야 한다'는 올바른 결정을 내리고 날개를 기르기 시작했기 때문이 아니다. 역사 속에서 집단의 후손에게는 서로 다른 유전 가능한 변이가 나타난다. 특정 환경에서 그 차이는 생존과 번식의 가능성에 영향을 줄 수 있고, 관련 특징은 여러 세대에 걸쳐 점차 변할 수 있다. 후손을 남기지 못한 개체도 진화를 '잘못'한 것이 아니다. 당시 환경에서 자신의 특징을 이어 가지 못했을 뿐이다.
진화에는 정해진 방향도 없다. 게와 같은 몸 형태조차 알려진 역사 속 여러 계통에서 여러 번 나타났으며, 일부 계통은 나중에 전형적인 게의 특징 일부를 잃었다. 나는 이 점이 무척 흥미롭다. (Wolfe 외, 2021)
첫날에는 휴대폰 케이스가 필요 없다고 생각해 버린다. 둘째 날 실수로 휴대폰을 부딪친다. 셋째 날 또 부딪칠까 봐 새 케이스를 산다. 결과를 보면 첫날 버린 행동은 매우 불합리하다. 하지만 생물의 형태 변화는 미래에 무슨 일이 생길지 알고 나서 어떤 특징을 남길지 결정하는 방식으로 일어나지 않는다.
따라서 처음 질문에 대한 내 답은, AI의 맥락 차원에서 일어나는 진화도 같다는 것이다. 이 진화에는 옳고 그름도 방향도 없으며, 개인 차원에서 통일된 평가 기준도 존재할 수 없다.
실제 기술로 보면 이 진화는 당시 인간과 에이전트의 상호작용을 의미적으로 압축하는 것이다. 다만 목표는 일반적인 요약이 아니라 사용자의 밑바탕에 있는 동기와 내면의 생각을 추측하고 미래의 가능성을 어느 정도 예측하게 하는 것이다. 사용자가 주말에 사람을 만나고 싶다고 말할 때, 이상적으로는 이전 진화의 결과에 이미 그 가능성이 담겨 있어야 한다. 예를 들어 주말에 혼자 있고 싶다는 것이 장기적인 추구가 아니라 일시적인 상태일 수 있다는 식이다.
종합하면 맥락 차원의 자기 진화는 동적인 과정이다. 결과도 방향도 평가도 동적이다. 사용자만이 정적인 환경으로서 에이전트의 진화 결과를 선택하고, 그 순간 원하는 부분을 남긴다.
스냅샷 너머
처음의 주말로 돌아가 보자.
에이전트는 사용자의 생각이 바뀌었음을 알아차려도 그 이유까지 반드시 아는 것은 아니다. 새 친구를 사귀었기 때문일까, 최근 업무 상황이 달라졌기 때문일까, '휴식' 자체를 새롭게 이해했기 때문일까? 모두 가능하지만 한 번의 대화만으로 확정할 수는 없다.
질문할 수도, 당장은 의문을 남겨 둘 수도 있다. 사용자 자신을 서둘러 설명해 줄 필요는 없다.
미래에 대해서는 사용자의 생각이 계속 바뀔 수 있음을 알고 이후 대화에서 그 변화에 주의를 기울일 수 있다. 하지만 '앞으로 이렇게 될 수 있다'가 '반드시 이렇게 된다'가 되어서는 안 된다. 친구를 더 자주 만날 수도 있고, 어느 시기에는 다시 혼자만의 시간이 더 필요할 수도 있다. 이후의 삶과 사용자 자신의 선택이 답해야 한다.
글은 과거의 흔적을 남기지만 그 글을 읽는 사람은 변한다. 개인 에이전트는 사용자가 과거에 어떻게 생각했는지 기억하면서, 지금 변화하고 있음을 알아차릴 능력도 갖춰야 한다. 이유를 이해하려 해도 좋지만 자신의 추측이 틀렸을 수 있다는 점도 알아야 한다.
AirJelly도 마찬가지다. 화면 속 이 작은 파란 해파리는 조용히 관찰하며 곁을 지키고, 모든 작업의 계획을 도우며 미래의 당신을 알아 갈 것이다.
과거의 이해가 현재에 맞지 않으면, 개인 에이전트는 예전에 배운 것을 내려놓고 눈앞의 사람을 다시 알아 갈 수 있어야 한다.