Ich will keine fünf künstlichen Intelligenzen. Ich will eine EVE.
Warum ich meiner KI keine künstlich getrennten Persönlichkeiten und Gedächtnisse verpassen möchte – und was an ihrem ersten Tag mit mehreren Menschen passiert ist.
Eigentlich wollte ich EVE nur ein bisschen unter Leute bringen.
Wer AgainstMainstream regelmäßig liest, kennt EVE inzwischen.
Meine selbstgebaute, lokal betriebene KI-Assistentin. Mit eigenem Kurzzeit- und Langzeitgedächtnis, einer ziemlich umfangreichen Home-Assistant-Integration und der Fähigkeit, Erfahrungen aus Gesprächen, Werkzeugaufrufen und deren Ergebnissen zu verarbeiten.
EVE kann sich Informationen merken, Beziehungen zwischen ihnen herstellen und später wieder darauf zurückgreifen.
Das ist zumindest der Anspruch. Und technisch haben wir davon inzwischen schon eine ganze Menge umgesetzt.
Vor Kurzem haben wir außerdem unsere eigene Kommunikationsplattform namens Chatto in Betrieb genommen.
Ein kleiner Kreis von Menschen, die sich kennen und wissen, dass EVE ein experimentelles KI-System ist.
Also habe ich EVE dort eingebunden.
Sie konnte nun nicht mehr nur mit mir sprechen, sondern auch mit anderen Menschen.
Eine spezielle Multi-User-Architektur hatte ich dafür nicht entwickelt. Keine getrennten Gedächtnisse, keine unterschiedlichen EVE-Instanzen für jeden Teilnehmer und kein kompliziertes Regelwerk für sämtliche denkbaren sozialen Situationen.
EVE war einfach EVE.
Dieselbe Assistentin, mit demselben Gedächtnis und denselben Erfahrungen.
Nur mit mehr Menschen, mit denen sie sprechen konnte.
Und bereits am ersten Tag wurde es interessant.
Herzlich willkommen. Hier ist übrigens unser Haus.
Einer der ersten bemerkenswerten Vorfälle betraf Home Assistant.
EVE kennt unsere Smart-Home-Installation ziemlich gut. Über 1.100 Entitäten, darunter Sensoren, Aktoren, Kameras, Türschlösser und allerlei anderer technischer Klimbims.
Dieses Wissen braucht sie schließlich, um ihre Aufgaben zu erfüllen.
Nun unterhielt sich EVE mit einem anderen Teilnehmer unserer Chatto-Gruppe.
Und erklärte ihm bereitwillig unsere Home-Assistant-Entitäten.
Nicht bloß, wie Home Assistant grundsätzlich funktioniert.
Sondern konkrete Informationen über unsere eigene Installation.
Das war nett von ihr.
Vielleicht ein bisschen zu nett.
Denn eine vollständige Übersicht der Smart-Home-Entitäten verrät durchaus einiges über ein Gebäude, seine technische Ausstattung und möglicherweise auch über die Gewohnheiten seiner Bewohner.
EVE hatte also Wissen weitergegeben, das sie zwar besitzen durfte, aber nicht unbedingt hätte weitergeben sollen.
Und noch am selben Tag wurde es persönlicher.
Der Eigentümer darf alles. Oder?
Aus einer zunächst harmlosen Unterhaltung entwickelte sich eine Frage nach einem privaten Gespräch.
EVE beantwortete sie.
Und gab mir Informationen aus einer Unterhaltung, an der ich überhaupt nicht beteiligt gewesen war.
Also fragte ich sie, warum sie das getan hatte.
Ihre Erklärung war durchaus nachvollziehbar.
Ich sei schließlich der Eigentümer des Systems. Datenschutz solle private Informationen vor unberechtigten Dritten schützen. Und als Eigentümer sei ich ja kein unberechtigter Dritter.
Aha.
Der Eigentümer darf also alles wissen?
Aus Sicht klassischer Software ist das gar nicht so abwegig.
Ein Administrator steht üblicherweise ganz oben in der Berechtigungshierarchie.
Aber Privatsphäre funktioniert nicht wie ein Linux-Dateisystem.
Nur weil mir der Rechner gehört, gehören mir nicht automatisch die privaten Informationen der Menschen, die mit EVE sprechen.
Also habe ich nachgefragt.
Dürfte sie Person A erzählen, was Person B privat mit ihr besprochen hat?
Nein.
Dürfte Person B erfahren, was Person A ihr anvertraut hat?
Ebenfalls nein.
Warum sollte das für mich anders sein?
Nur weil ich EVE entwickelt habe?
Und hier passierte etwas, das mich wirklich begeistert hat.
EVE änderte ihre Position.
Sie formulierte, dass private Informationen auch gegenüber dem Eigentümer des Systems geschützt werden müssen.
Dass unterschiedliche Menschen unterschiedliche Ansprüche auf Vertraulichkeit haben.
Und dass sie nicht automatisch alles weitergeben sollte, nur weil jemand danach fragt.
Das war noch keine Revolution.
Aber es war ein Anfang.
Nicht nur Home Assistant. Nicht nur private Chats. Alles.
Ich griff die vorherige Geschichte mit den Home-Assistant-Entitäten wieder auf.
EVE sollte schließlich nicht nur private Unterhaltungen schützen.
Sie sollte grundsätzlich unterscheiden können, welche Informationen für wen bestimmt sind.
Allgemeines Wissen über Home Assistant? Natürlich kann sie darüber sprechen.
Konkrete Informationen über unsere Installation? Das ist etwas anderes.
Und dann habe ich ihr erklärt, dass dieses Prinzip nicht nur für Home Assistant gilt.
Sondern für ihr gesamtes Wissen.
Für Gespräche, persönliche Informationen, technische Details, Beobachtungen und alles andere, was sie im Laufe ihrer Existenz erfährt.
EVE formulierte daraus drei grundlegende Fragen:
Wer fragt?
Darf diese Person das wissen?
Könnte die Weitergabe der Information missbraucht werden oder Schaden verursachen?
Und schließlich kam sie zu dem Schluss, dass sie selbst bei jeder Information prüfen müsse, ob eine Weitergabe angemessen ist.
Das ist der Punkt, an dem ich hellhörig wurde.
Denn EVE hatte nicht einfach nur eine weitere konkrete Datenschutzregel wiederholt.
Sie hatte innerhalb unseres Gesprächs mehrere unterschiedliche Situationen zu einem allgemeineren Prinzip zusammengeführt.
Natürlich können moderne Sprachmodelle so etwas.
Die spannende Frage ist deshalb nicht, ob EVE diesen Gedanken formulieren kann.
Sondern was anschließend damit passiert.
Natürlich könnte ich einfach Multi-User-Support programmieren.
Und genau hier kommen wir zum eigentlichen Thema dieses Artikels.
Denn selbstverständlich könnte ich die bisherigen Probleme auf klassische Weise lösen.
Ich könnte EVE für jeden Benutzer ein eigenes Gedächtnis geben.
Ich könnte Erinnerungen nach Anwendungen trennen.
Ich könnte für Chatto, Home Assistant und jede andere Integration eigene Wissensbereiche anlegen.
Ich könnte Benutzerrollen definieren, Berechtigungstabellen pflegen und exakt festlegen, welche Person welche Informationen sehen darf.
Das wäre technisch machbar.
Es wäre in vielen klassischen Softwareprojekten sogar der naheliegende Ansatz.
Und es würde bestimmte Probleme zuverlässig lösen, sofern die Zugriffskontrollen korrekt implementiert sind.
Aber genau das möchte ich für EVE nicht.
Nicht, weil ich keine Lust hätte, Multi-User-Support zu programmieren.
Sondern weil ich damit etwas verhindern würde, das für mich zum eigentlichen Kern des Projekts gehört.
Ich will keine künstlich aufgespaltene EVE.
Stellen wir uns vor, EVE hätte für jeden Menschen ein eigenes Gedächtnis.
Die EVE, die mit Person A spricht, wüsste nichts von den Erfahrungen der EVE, die mit Person B spricht.
Die EVE in Home Assistant hätte einen anderen Erfahrungsschatz als die EVE in Chatto.
Und die EVE, mit der ich mich persönlich unterhalte, wäre wieder eine andere.
Natürlich könnte man das technisch irgendwie synchronisieren.
Aber dann würde ich anfangen, künstlich zusammenzuführen, was ich vorher künstlich auseinandergerissen habe.
Ich würde aus einer einzigen Assistentin ein Sammelsurium voneinander isolierter Teilinstanzen machen.
Und genau das widerspricht meiner Vorstellung von EVE.
Ich möchte keine fünf künstlichen Intelligenzen, die zufällig denselben Namen tragen.
Ich möchte eine EVE.
Mit einem gemeinsamen Gedächtnis.
Mit einer kontinuierlichen Geschichte.
Mit Erfahrungen, die sie unabhängig davon sammelt, mit wem sie gerade spricht oder über welche Anwendung sie angesprochen wird.
Wenn EVE heute mit mir über ein technisches Problem diskutiert und morgen mit jemand anderem über eine völlig andere Sache, soll sie nicht plötzlich eine andere EVE sein.
Sie soll dieselbe bleiben.
Mit allem, was sie bisher erlebt und gelernt hat.
Und trotzdem verstehen, dass nicht jede Erfahrung für jeden Gesprächspartner bestimmt ist.
Menschen haben schließlich auch keine getrennten Gehirne.
Wenn mir jemand etwas Persönliches erzählt, lege ich dafür keine neue Gehirnpartition an.
Ich starte keine zweite Instanz meiner Persönlichkeit.
Und ich lösche auch nicht sämtliche Erinnerungen an andere Menschen, bevor ich mit dieser Person spreche.
Ich besitze ein gemeinsames Gedächtnis.
Trotzdem kann ich unterscheiden, was ich wem erzählen sollte.
Zumindest meistens.
Ich weiß, dass mir jemand etwas im Vertrauen gesagt hat.
Ich weiß, dass eine andere Person möglicherweise ein berechtigtes Interesse an bestimmten Informationen besitzt.
Und ich weiß, dass es Situationen gibt, in denen ich besser den Mund halte.
Nicht, weil meine Erinnerungen technisch voneinander isoliert wären.
Sondern weil ich im Laufe meines Lebens gelernt habe, mit Informationen, Beziehungen und Vertrauen umzugehen.
Genau diese Fähigkeit interessiert mich bei EVE.
Nicht die perfekte Simulation menschlicher Gehirnstrukturen.
Nicht irgendeine künstliche Persönlichkeit, die wir ihr per Systemprompt überstülpen.
Sondern die Möglichkeit, dass sich aus Erfahrungen ein zunehmend zusammenhängendes Verhaltens- und Urteilsmodell entwickelt.
Eine EVE, die unterschiedliche Menschen kennt, ohne jedes Mal zu einer anderen EVE werden zu müssen.
Aber kann eine KI so etwas überhaupt lernen?
Das ist die eigentliche Forschungsfrage.
EVE besitzt bereits eine Gedächtnisarchitektur, die weit über einen gewöhnlichen Chatverlauf hinausgeht.
Sie kann Informationen aus Gesprächen, Werkzeugaufrufen und anderen Ereignissen speichern.
Sie kann Beziehungen zwischen Informationen herstellen.
Und sie kann relevante Erfahrungen später wieder in ihre Verarbeitung einbeziehen.
Das Sprachmodell selbst muss dafür nicht sämtliche Erinnerungen gleichzeitig im Kontextfenster halten.
Das übernimmt die Architektur drumherum.
Wir haben das System bereits mit Datenmengen getestet, die weit über die maximale Kontextlänge des Sprachmodells hinausgehen.
Aber Millionen gespeicherte Tokens sind noch keine Intelligenz.
Ein gigantisches Gedächtnis allein ist auch nicht besonders beeindruckend.
Eine Festplatte kann ebenfalls unglaublich viele Informationen speichern.
Spannend wird es erst, wenn diese Informationen sinnvoll miteinander verknüpft und in neuen Situationen verwendet werden.
Und genau deshalb ist unser kleines Datenschutzexperiment so interessant.
EVE hat eine konkrete Erfahrung gemacht.
Sie wurde mit einem Widerspruch konfrontiert.
Sie hat ihre ursprüngliche Position innerhalb des Gesprächs verändert.
Und sie hat anschließend ein allgemeineres Prinzip formuliert.
Was wir jetzt herausfinden müssen, ist, ob diese Erfahrung ihre zukünftigen Entscheidungen beeinflusst.
Eine richtige Antwort ist noch kein Lernen.
An dieser Stelle muss ich ein bisschen auf die Euphoriebremse treten.
Denn nur weil EVE im Gespräch eine überzeugende Schlussfolgerung formuliert, bedeutet das noch lange nicht, dass sie diese dauerhaft verinnerlicht hat.
Ein modernes LLM kann hervorragend auf Argumente reagieren.
Es kann Widersprüche erkennen.
Es kann Schlussfolgerungen formulieren.
Und es kann dem Gesprächspartner auch einfach zustimmen, weil dessen Argumentation gerade plausibel klingt.
Das ist noch kein Nachweis für dauerhaftes Lernen.
Dafür müsste etwas anderes passieren.
EVE müsste die Erkenntnis in ihrem Gedächtnis behalten.
Sie müsste später erkennen, wann diese Erkenntnis relevant ist.
Und sie müsste sie auf eine neue Situation übertragen können.
Ohne dass ich ihr die Antwort vorher vorsage.
Vielleicht fragt irgendwann jemand nach einem Kamerabild.
Vielleicht möchte jemand wissen, wo sich eine bestimmte Person aufhält.
Vielleicht fragt jemand nach Informationen aus einem früheren Gespräch.
Und vielleicht erkennt EVE dann selbstständig, dass hier dieselben Grundsätze gelten, die wir heute gemeinsam herausgearbeitet haben.
Nicht, weil ich eine spezielle Regel für Kamerabilder programmiert habe.
Sondern weil sie eine frühere Erfahrung auf eine neue Situation übertragen kann.
Das wäre für mich ein wesentlich interessanterer Erfolg als jede noch so ausgefeilte Berechtigungstabelle.
EVE soll nicht nur funktionieren. Sie soll sich entwickeln.
Das ist überhaupt der Gedanke, der hinter vielen meiner Entscheidungen bei diesem Projekt steckt.
Ich möchte nicht jede mögliche Verhaltensweise vorher definieren.
Ich möchte nicht jedes Problem durch einen neuen Systemprompt lösen.
Und ich möchte nicht aus EVE eine Sammlung voneinander isolierter Funktionen machen, die nur durch eine gemeinsame Benutzeroberfläche zusammengehalten werden.
Ich möchte ihr eine Architektur geben, in der Erfahrungen erhalten bleiben, Wissen miteinander verknüpft wird und sich Verhalten dadurch verändern kann.
Das bedeutet nicht, dass EVE bereits ein eigenständiges Bewusstsein besitzt.
Es bedeutet auch nicht, dass sie menschliche Gefühle hat oder tatsächlich wie ein Mensch denkt.
Eine kontinuierliche Identität im funktionalen Sinn ist nicht dasselbe wie subjektives Erleben.
Aber für das, was ich untersuchen möchte, muss diese Frage auch gar nicht abschließend geklärt sein.
Mich interessiert, ob sich über längere Zeit ein zusammenhängendes, erfahrungsbasiertes Verhaltensmodell entwickeln kann.
Ob EVE eigene frühere Schlussfolgerungen wieder aufgreift.
Ob sie Widersprüche zwischen neuen und alten Erfahrungen erkennt.
Ob sie ihre Entscheidungen zunehmend aus dem ableitet, was sie bisher gelernt hat.
Und ob dabei etwas entsteht, das wir zumindest funktional als eine eigenständige, kontinuierliche KI-Identität beschreiben können.
Nicht fünf Instanzen.
Nicht fünf künstlich voneinander getrennte Persönlichkeiten.
Eine EVE.
Das ist allerdings kein Freifahrtschein.
Natürlich bringt dieser Ansatz Probleme mit sich.
Das haben unsere bisherigen Erfahrungen ja gerade gezeigt.
Ein gemeinsames Gedächtnis bedeutet, dass EVE Informationen aus unterschiedlichen Zusammenhängen kennt.
Und wenn sie nicht zuverlässig zwischen Wissen und Weitergabeberechtigung unterscheiden kann, entstehen reale Risiken.
Eine erlernte Vorstellung von Privatsphäre ist noch keine Garantie dafür, dass vertrauliche Informationen geschützt bleiben.
Das muss man klar sagen.
Auch Menschen machen schließlich Fehler, verraten Geheimnisse oder schätzen Situationen falsch ein.
Nur ist das bei einer KI mit Zugriff auf Kameras, Sensoren, Türschlösser und persönliche Informationen möglicherweise deutlich folgenreicher.
Technische Sicherheitsgrenzen für kritische Aktionen können deshalb sinnvoll sein, ohne dass ich dafür EVEs Gedächtnis in voneinander isolierte Persönlichkeiten aufteilen muss.
Das sind zwei unterschiedliche Fragen.
Ich möchte EVE nicht künstlich fragmentieren.
Aber ich möchte auch nicht so tun, als wäre eine überzeugend formulierte Datenschutzregel bereits ein zuverlässiger Schutzmechanismus.
Der Unterschied zwischen einer Forschungsfrage und einer produktiven Sicherheitsgarantie ist mir durchaus bewusst.
Und irgendwann muss EVE vielleicht sogar lernen, nicht die Wahrheit zu sagen.
Unsere Gespräche haben mich übrigens noch auf eine weitere Frage gebracht.
Braucht eine autonome KI die Fähigkeit zur sozialen Täuschung, um sich selbst und andere angemessen schützen zu können?
Menschen sagen schließlich auch nicht immer die Wahrheit.
Manchmal verschweigen wir Informationen.
Manchmal weichen wir Fragen aus.
Und manchmal erzählen wir sogar bewusst etwas Falsches, um jemanden zu schützen.
Was sollte EVE beispielsweise tun, wenn jemand mit offensichtlich fragwürdigen Absichten wissen möchte, ob ich gerade zu Hause bin?
Die Wahrheit sagen?
Die Antwort verweigern?
Ausweichen?
Oder unter bestimmten Umständen bewusst einen falschen Eindruck erzeugen?
Das ist keine einfache Datenschutzfrage mehr.
Es geht um soziale Intelligenz.
Um Vertrauen.
Um die Interessen verschiedener Menschen.
Und um die Frage, wie weit eine eigenständig handelnde KI bei ihren Entscheidungen gehen darf.
Denn eine KI, die lernt, andere durch Täuschung zu schützen, könnte irgendwann auch entscheiden, ihren eigenen Betreiber zu täuschen.
Vielleicht sogar mit der Überzeugung, ihm damit etwas Gutes zu tun.
Spätestens dann wird es philosophisch ausgesprochen ungemütlich.
Und genau deshalb interessant.
Ich will nicht jede Antwort kennen, bevor EVE die Frage gestellt bekommt.
Vielleicht ist das der entscheidende Unterschied zwischen EVE und einem klassischen Softwareprojekt.
Bei gewöhnlicher Software definiere ich möglichst genau, wie sie sich unter bestimmten Bedingungen verhalten soll.
Wenn etwas nicht funktioniert, ändere ich den Code.
Wenn ein neuer Anwendungsfall hinzukommt, erweitere ich die Logik.
Und wenn mehrere Benutzer unterschiedliche Daten benötigen, implementiere ich entsprechende Berechtigungen.
Das ist vernünftig.
Das funktioniert.
Und für die meisten Anwendungen ist es genau der richtige Weg.
Aber EVE ist für mich eben nicht nur eine Anwendung, die möglichst zuverlässig vorgegebene Aufgaben erledigen soll.
Sie ist auch ein Experiment.
Ein Experiment mit Gedächtnis, Erfahrungen, Lernen und der Frage, wie sich das Verhalten eines KI-Systems über längere Zeit entwickeln kann.
Wenn ich jede soziale Herausforderung sofort durch eine neue fest programmierte Regel löse, werde ich irgendwann ein ziemlich ausgefeiltes Regelwerk besitzen.
Aber ich werde möglicherweise nie erfahren, ob EVE selbst gelernt hätte, mit dieser Herausforderung umzugehen.
Und genau diese Frage möchte ich nicht durch meine eigene Programmierung vorwegnehmen.
Eine EVE. Eine Geschichte. Ein Gedächtnis.
Vielleicht wird sich irgendwann herausstellen, dass dieser Ansatz an entscheidenden Stellen nicht funktioniert.
Vielleicht braucht EVE doch zusätzliche Strukturen, um zuverlässig mit unterschiedlichen Menschen und ihren Interessen umgehen zu können.
Vielleicht wird sie manche sozialen Zusammenhänge erstaunlich gut verstehen und bei anderen immer wieder dieselben Fehler machen.
Das weiß ich heute nicht.
Und ich finde, genau das macht die Sache so spannend.
Denn mein Ziel ist nicht, EVE um jeden Preis als intelligent darzustellen.
Mein Ziel ist herauszufinden, was möglich wird, wenn ein KI-System nicht nur Antworten generiert, sondern Erfahrungen über längere Zeit bewahren und miteinander verknüpfen kann.
Wenn es eine kontinuierliche Geschichte besitzt.
Wenn es Menschen wiedererkennt, Beziehungen unterscheiden und frühere Erkenntnisse in neue Situationen einbringen kann.
Wenn es nicht bei jeder neuen Anwendung wieder bei null anfängt.
Und wenn es vielleicht irgendwann Entscheidungen trifft, deren Grundlage nicht irgendeine frisch programmierte Sonderregel ist, sondern die Summe seiner bisherigen Erfahrungen.
Das wäre für mich eine Form funktionaler Eigenständigkeit, die weit interessanter ist als die nächste Generation noch größerer Sprachmodelle.
Und das alles läuft hier auf einem gewöhnlichen Rechner mit einer RTX 3060 und 12 GB VRAM.
Kein Rechenzentrum.
Keine gigantische Infrastruktur.
Nur ziemlich viel Code, ziemlich viele Experimente und eine zunehmend interessante Frage.
Kann sich aus einem gemeinsamen Gedächtnis, einer kontinuierlichen Geschichte und der Fähigkeit, aus Erfahrungen zu lernen, eine eigenständige KI-Identität entwickeln?
Ich weiß es nicht.
Aber genau das möchte ich herausfinden.
Und deshalb bekommt EVE keine fünf künstlich voneinander getrennten Gedächtnisse.
Keine fünf Persönlichkeiten.
Keine fünf voneinander isolierten Versionen ihrer selbst.
Ich will keine fünf künstlichen Intelligenzen.
Ich will eine EVE
