← Blog
Denkanstöße12 Min. Lesezeit

Menschen verändern sich, und Agenten sollten das auch

Menschen verändern sich. Erinnerungen persönlicher Agenten müssen neue Vorlieben, unklare Motive und den Menschen im jeweiligen Gespräch berücksichtigen.

Translated by AI

Schrift und Sprache sind ein Medium des Bewusstseins. Wenn wir einen Gedanken aufschreiben, hinterlassen wir auch etwas von unseren damaligen Urteilen, Fragen und Gefühlen. Lesen wir ihn später erneut, können wir an diesen Gedankengang anknüpfen oder denselben Satz aufgrund neuer Erfahrungen anders verstehen.

Für KI lassen sich Kontext und Gedächtnis ebenfalls als Momentaufnahme begreifen: Die Informationen, die einer Inferenz zur Verfügung standen, werden außerhalb der Modellgewichte gespeichert. Dadurch kann Vergangenes in die nächste Beurteilung einfließen.

Doch eine Momentaufnahme hat ein Problem. Sie hält die Gedanken dieses Augenblicks fest, nicht die der Zukunft. Menschen haben dieses Problem nicht in gleicher Weise, weil unser Geist eine Art „Muttersprache“ des Bewusstseins besitzt. Menschliche Schrift und Sprache gleichen eher einer Projektion des Bewusstseins auf eine Dimension; für KI sind sie in diesem Moment alles. Entscheidend ist, dass „Bewusstsein“ oder „Denken“ einer KI nicht ununterbrochen weiterlaufen. Wir haben also nur diesen einen Augenblick.

Für das Gedächtnis eines persönlichen Agenten gilt dasselbe. Er kann finden, was ein Nutzer früher gesagt hat, oder sogar das vollständige Gespräch dazu. Das Wiederfinden ist nicht das Problem. Doch was geschieht danach?

Heute geht es dabei um das Abrufen und Auswählen von Erinnerungen und um die Verarbeitung von Kontext durch das Modell. Ich möchte eine andere Möglichkeit untersuchen: Könnten wir Kontext eine vergleichbare Fähigkeit geben? Könnte er dem Modell nicht nur den aktuellen Zustand vermitteln, sondern auch mögliche Entwicklungen und zugrunde liegende Muster, sodass durch diesen Kontext eine Art Selbstevolution entsteht?

Nach dem Wochenende

Bei einem persönlichen Agenten teilt ein Nutzer typischerweise vieles aus seinem Leben: wen er kürzlich kennengelernt hat, warum er bei einer Entscheidung zögert oder was er sich von der Zukunft erhofft. Diese Gespräche enthalten nicht unbedingt eine konkrete Aufgabe, hinterlassen aber Spuren seiner Sicht auf die Welt.

Nehmen wir das Wochenende.

Ein Nutzer erzählt seinem Agenten häufig, dass die Arbeitstage anstrengend sind und er am Wochenende einfach allein sein möchte. Ausgehen und Menschen treffen kosten Energie; erst wenn ihm seine Zeit ganz selbst gehört, fühlt es sich nach echter Erholung an.

Der Agent merkt sich das. Fragt der Nutzer später nach Wochenendideen, schlägt er Dinge vor, die allein möglich sind: einen Film ansehen, spazieren gehen oder zu Hause lesen. Der Nutzer nimmt sie an. Schließlich stimmen die Informationen in diesem Moment.

Doch einige Zeit später spricht der Nutzer wieder über das Wochenende: „Zu Hause zu bleiben scheint nicht mehr so entspannend wie früher.“

Erinnert sich der Agent nur an „Der Nutzer ist gern allein“, empfiehlt er vielleicht andere Filme oder eine neue Spazierroute. Er hat den Nutzer nicht vergessen und nichts sachlich Falsches gesagt; er macht nur weiter Vorschläge auf Grundlage eines Verständnisses, das früher funktioniert hat.

Diesmal antwortet der Nutzer jedoch: „Es ist nicht so, dass ich nicht weiß, was ich allein machen kann. Ich glaube, ich möchte Freunde sehen – nur nicht zu einer großen Zusammenkunft gehen.“

Der Agent lag falsch. Der Nutzer hat auch nicht bloß eine neue Aktivitätsvorliebe genannt. Früher empfand er Verabredungen als Verlust seiner Erholungszeit. Jetzt entdeckt er allmählich, dass ein entspanntes Treffen ebenfalls erholsam sein kann.

Beim nächsten Gespräch über das Wochenende schlägt der Agent deshalb neben einem Spaziergang allein auch einen Kaffee mit einem Freund vor. Der Nutzer findet das gut: Einen Freund hat er schon lange nicht gesehen.

Das ist eine kleine Veränderung. Der Agent hat weder sein Modell aktualisiert noch seinen Code geändert oder überhaupt etwas für den Nutzer organisiert. Er hat lediglich anders geantwortet und dabei ein neues Verständnis aus dem vorigen Gespräch mitgenommen.

Doch lohnt es sich, diese Veränderung festzuhalten?

Eine ziemlich gute Vermutung

Eine einzige Zusammenfassung genügt, um aus „möchte Freunde sehen“ ein „Der Nutzer bevorzugt Geselligkeit“ zu machen. Das kann noch ein weiteres Wochenende nützlich sein, aber schnell zu einem neuen Missverständnis werden.

Der Nutzer hat weder gesagt, dass er nicht mehr gern allein ist, noch dass er jedes Wochenende Gesellschaft möchte. Er hat nur festgestellt, dass ein Treffen mit einem Freund manchmal die Erholung nicht behindert. Verdichtet der Agent diese Veränderung zu einer neuen Vorliebe, ersetzt er lediglich eine feste Antwort durch eine andere.

Sagt der Nutzer das nächste Mal „Diese Woche bin ich zu müde, ich möchte einfach allein sein“, sollte der Agent deshalb nicht sofort einen erneuten Wandel vermuten oder einwenden: „Wolltest du nicht Freunde sehen?“ Das frühere Verständnis darf bleiben, muss aber der gegenwärtigen Situation Raum geben.

Später besucht ein Freund des Nutzers die Stadt für genau eine Woche. Der Nutzer sagt: „Diese Woche möchte ich ihn jeden Tag sehen. Hilf mir, Orte zu überlegen, an die wir gehen könnten.“

Das ist ein klarer Wunsch für diese konkrete Woche. Der Agent kann für jeden Tag etwas vorschlagen, ohne daraus „Der Nutzer trifft gern täglich Menschen“ abzuleiten. Nach der Abreise möchte der Nutzer vielleicht wieder eine Weile Ruhe für sich; oder der Besuch zeigt ihm, dass er seine Freunde häufiger sehen möchte. Beides ist möglich, und der Agent braucht weitere Informationen aus späteren Gesprächen.

Aber was soll er festhalten?

Eine Regel ist bequem: Liest er wieder „Wochenende“, weiß er, dass er ein Treffen vorschlagen kann. Doch eine Regel verliert leicht ihren Entstehungsgrund. Mehrere mögliche Erklärungen aufzubewahren wirkt ehrlicher, erhöht aber bei jedem erneuten Vergleich den Rechen- und Beurteilungsaufwand. Vielleicht sollte eine Methode bleiben: zuerst verstehen, was der Nutzer jetzt möchte, und dann entscheiden, ob eine früher bewährte Möglichkeit erwähnt werden sollte.

In einigen meiner eigenen unabhängigen Experimente zeigte diese Art von „Evolution“ recht leicht sichtbare Ergebnisse. Und objektiv betrachtet ist es heute nicht besonders schwierig, einen Agenten etwas verändern zu lassen.

Wirklich schwierig ist die Bewertung: Woher weiß er, ob diese Informationen „richtig“ sind?

Der Nutzer hat einen Kaffeevorschlag angenommen. Das bedeutet, dass er bei dieser Gelegenheit ansprechend war, nicht dass der Nutzer künftig jede Woche einen Freund sehen möchte. Antwortet er nicht, ist er vielleicht beschäftigt, überlegt noch oder hat die Nachricht gar nicht gesehen. Schweigen selbst darf nicht als Zustimmung gelten.

Fragt der Agent nach jedem Vorschlag „Soll ich das künftig weiter so machen?“, wird das Gespräch ebenfalls seltsam. Der Nutzer wollte nur über das Wochenende sprechen und muss nun Zeit darauf verwenden, den Agenten in seinem Verständnis zu schulen.

Damit kommen wir zur Ausgangsfrage zurück: Eine Erinnerung kann für ihre Entstehungssituation vollkommen zutreffen und beim nächsten Gespräch schon voller Fehler sein.

Vielleicht steckt darin ein Muster: Je genauer eine komprimierte Erinnerung zu diesem Zeitpunkt ist, desto ungenauer könnte sie in Zukunft werden.

Dieses Problem zeigt auch die Studie HorizonBench. Die Forschenden konstruierten 360 simulierte Nutzer und für jeden bis zu sechs Monate an Gesprächen. Die Nutzer erwähnen Veränderungen in ihrem Leben, sagen aber nicht ausdrücklich: „Meine Vorlieben haben sich geändert.“ Werden die Modelle später nach den aktuellen Vorlieben gefragt, nennen sie häufig die früheren Antworten. (HorizonBench, 2026)

Evolution ohne Endpunkt

Wir stehen damit vor einer Art logischem Paradox: Einerseits wollen wir Modelle und Werkzeuge ständig verbessern, damit sie zu diesem Zeitpunkt ausreichend genaue semantische Verdichtung leisten und etwas für das nächste Gespräch Nützliches erzeugen – den Nutzer also immer besser verstehen. Andererseits müssen wir hoffen, dass er sich bis dahin nicht zu sehr verändert. Möchte er plötzlich am Wochenende Menschen treffen statt allein sein, ist die vorige Erinnerung beispielsweise vollständig „abgelaufen“. Wir können nur hoffen, dass das Modell dies schnell erkennt und zur Laufzeit korrigiert.

Ein anderer Weg wäre natürlich, den Agenten zum Rätselerzähler zu machen: von Anfang an keine präzisen Erinnerungen oder Beschreibungen erzeugen, sondern einige allgemeine Beschreibungen wählen, die in der Nutzerschaft verbreitet sind. Wenn ich nie genau war, kann ich auch nicht ungenau werden. Das ist kein Witz. Die meisten Persönlichkeits- oder psychologischen Tests und selbst viele Internetprodukte versuchen nicht, dich absolut präzise abzubilden. Sie ordnen dich stattdessen einer bereits entworfenen und untersuchten Gruppe zu. Das garantiert zwar nicht jederzeit eine besonders genaue Passung, verhindert aber zumindest schlechte Erfahrungen durch ein unzutreffendes Profil.

Aus meiner Sicht eröffnen heutiger Kontext und heutiges Gedächtnis jedoch einen neuen Denkansatz. Sie sind keine allgemeinen Informationen mehr, sondern einzigartige, von jedem einzelnen Nutzer geschaffene Informationen. Diese Einzigartigkeit hat zwei Seiten: Erstens unterscheiden sich Leben und Lebenswege, weshalb identische Erfahrungen selten sind. Zweitens stimmen selbst bei der Beschreibung desselben öffentlichen Ereignisses Ton, Zeichensetzung und sogar Emojis kaum vollständig überein. Solche unterschiedlichen Daten in ein allgemeines Profil zu pressen kann gerade wegen ihrer Einzigartigkeit noch mehr Probleme erzeugen.

Schauen wir erneut auf das Wort „Evolution“. Wenn wir konkrete Szenarien beiseitelassen und über das Konzept sprechen, beispielsweise Darwins Evolutionsrahmen, finden wir sehr interessante Phänomene.

Evolution kennt zum Beispiel kein absolutes Richtig und Falsch. Vögel haben keine Flügel, weil vor langer Zeit sämtliche Individuen die richtige Entscheidung trafen: „Unsere Nachkommen müssen Flügel haben“, und dann welche entwickelten. Vielmehr treten im Lauf der Geschichte bei den Nachkommen einer Population unterschiedliche vererbbare Variationen auf. In einer bestimmten Umwelt können sie Überlebens- und Fortpflanzungschancen beeinflussen, und die betreffenden Merkmale können sich über viele Generationen allmählich verändern. Individuen ohne Nachkommen haben sich nicht „falsch“ entwickelt; sie haben ihre Merkmale lediglich unter den damaligen Bedingungen nicht weitergegeben.

Evolution hat auch keine feste Richtung. Selbst krabbenähnliche Körperformen sind in der bekannten Geschichte mehrfach in verschiedenen Abstammungslinien entstanden, und manche Linien verloren später einen Teil ihrer typischen Merkmale wieder. Das finde ich sehr interessant. (Wolfe et al., 2021)

Am ersten Tag hast du eine Handyhülle, hältst sie für überflüssig und wirfst sie weg. Am zweiten stößt du das Telefon versehentlich an. Am dritten kaufst du aus Sorge vor einem weiteren Stoß eine neue Hülle. Vom Ergebnis her erscheint das Wegwerfen am ersten Tag völlig unvernünftig. Bei Lebewesen entstehen Formveränderungen jedoch nicht dadurch, dass sie die Zukunft kennen und danach entscheiden, ob sie ein Merkmal behalten.

Zurück zur ursprünglichen Frage: Meine Antwort lautet, dass Evolution in der Kontextdimension für KI genauso funktioniert. Sie kennt kein Richtig oder Falsch, keine Richtung und keinen einheitlichen Bewertungsmaßstab auf individueller Ebene.

Technisch besteht diese Evolution im Wesentlichen aus einer semantischen Verdichtung der damaligen Interaktionen zwischen Mensch und Agent. Das Ziel ist aber nicht mehr eine allgemeine Zusammenfassung. Stattdessen soll der Agent über die zugrunde liegenden Motive und inneren Gedanken des Nutzers nachdenken und gewisse zukünftige Möglichkeiten vorhersagen. Wenn der Nutzer sagt, er wolle am Wochenende Menschen treffen, sollte das Ergebnis der vorigen Evolutionsrunde diese Möglichkeit idealerweise schon enthalten: etwa, dass der Wunsch nach einsamen Wochenenden ein vorübergehender Zustand und kein langfristiges Streben sein könnte.

Insgesamt ist Selbstevolution in der Kontextdimension dynamisch: Ergebnisse, Richtung und Bewertung sind dynamisch. Nur der Nutzer ist statisch und dient als Umwelt, die unter den Evolutionsergebnissen des Agenten auswählt und den Teil behält, den sie gerade möchte.

Jenseits der Momentaufnahme

Zurück zu jenem ersten Wochenende.

Der Agent bemerkt vielleicht, dass sich die Gedanken des Nutzers verändert haben, weiß aber nicht unbedingt warum. Hat er neue Freunde gefunden, hat sich etwas bei der Arbeit verändert oder versteht er „Erholung“ inzwischen anders? All diese Möglichkeiten bestehen, aber keine lässt sich aus einem einzigen Gespräch bestimmen.

Der Agent kann fragen oder die Frage vorerst offenlassen. Er muss dem Nutzer nicht vorschnell dessen eigenes Wesen erklären.

Was die Zukunft betrifft, kann er erkennen, dass die Gedanken des Nutzers sich weiter verändern werden, und in künftigen Gesprächen darauf achten. Aus „was geschehen könnte“ darf jedoch nicht „was der Nutzer zwangsläufig werden wird“ werden. Er trifft vielleicht häufiger Freunde oder braucht irgendwann wieder mehr Zeit allein. Diese Fragen müssen sein späteres Leben und seine eigenen Entscheidungen beantworten.

Schrift hinterlässt Spuren der Vergangenheit, aber der lesende Mensch verändert sich. Ein persönlicher Agent muss sich daran erinnern, was der Nutzer früher dachte, und zugleich erkennen können, dass er sich verändert. Er darf versuchen, die Gründe zu verstehen, muss aber auch wissen, dass seine Vermutung falsch sein könnte.

Dasselbe gilt für AirJelly. Diese kleine blaue Qualle auf deinem Bildschirm wird dich still beobachten und begleiten, dir bei der Planung all deiner Aufgaben helfen und dein zukünftiges Ich kennenlernen.

Passt das frühere Verständnis nicht mehr zur Gegenwart, sollte ein persönlicher Agent loslassen können, was er einmal gelernt hat, und den Menschen vor sich neu kennenlernen.