Niemand fragt mehr, ob der Agent bewusst ist
Letztes Jahr war es noch in, über KI und Bewusstsein zu reden. ChatGPT formulierte menschlich, sprach von sich als „ich“ und konnte erstaunlich glaubwürdig über Gefühle, Zweifel und die eigene Existenz schreiben. Also wurde diskutiert, ob Sprachmodelle vielleicht bereits bewusst seien.
Ich hielt diese Debatte schon damals größtenteils für Unsinn. Sprachliche Brillanz ist kein Beleg für subjektives Erleben. Heute scheint in dieser Frage ein wenig Vernunft eingekehrt zu sein.
Der Grund ist simpel: Wir bauen und benutzen Agenten. Wir chatten nicht mit ihnen.
Agenten entzaubern Sprachmodelle
Im Chat sehen wir vor allem die Antwort. Beim Agenten sehen wir die Arbeit.
Wir sehen, welche Dateien er öffnet, welche Werkzeuge er aufruft, welche Annahmen er trifft und wo er falsch abbiegt. Wir sehen, wie er Anforderungen vergisst, sich in Schleifen verfängt, einen Fehler übersieht oder ein falsches Ziel mit beeindruckender Konsequenz verfolgt.
Das macht den Kopf wieder klar. Ein Chatbot kann die Illusion eines Gegenübers erzeugen. Ein Agent zeigt die Maschine.
Und diese Maschine ist keineswegs banal. Sie kann Code analysieren, Informationen recherchieren, Dateien bearbeiten, Tests ausführen und komplexe Aufgaben über viele Schritte hinweg bearbeiten. Aber ihre Leistung entsteht nicht aus einem geheimnisvollen digitalen Innenleben. Sie entsteht aus einer Architektur:
Aus Modell, Kontext, Werkzeugen, Speicher, Schleifen, Berechtigungen und Kontrollen.
Die interessanten Fragen sind jetzt technische Fragen
Sobald ein Modell handeln soll, reicht es nicht mehr, dass es überzeugend klingt.
Dann zählt:
- Hat der Agent den Auftrag wirklich verstanden?
- Besitzt er den nötigen Kontext?
- Welche Werkzeuge darf er verwenden?
- Welche Dateien und Systeme darf er verändern?
- Kann er Zwischenergebnisse überprüfen?
- Erkennt er, wenn er feststeckt?
- Wann muss er abbrechen oder einen Menschen fragen?
- Wie verhindern wir, dass sich ein kleiner Fehler über zwanzig Schritte fortpflanzt?
Das sind weniger spektakuläre Fragen als „Hat die Maschine eine Seele?“. Aber sie entscheiden darüber, ob Agenten nützlich, teuer, gefährlich oder schlicht nervtötend sind.
Ein bewusstes System, das unzuverlässig arbeitet, wäre für fast jede praktische Aufgabe nutzlos. Ein nicht bewusstes System, das komplexe Arbeit zuverlässig erledigt, verändert dagegen ganze Berufe.
Ein Agent ist nicht einfach ein Chatbot mit Werkzeugen
Ein gutes agentisches System braucht mehr als einen Tool-Button neben dem Sprachmodell.
Es braucht eine klare Aufgabe und einen stabilen Arbeitskontext. Es muss wissen, welche Informationen verbindlich sind und welche nur Vermutungen. Es braucht passende Werkzeuge, begrenzte Rechte und sichtbare Zustände. Es muss Ergebnisse prüfen, Fehler erkennen und wissen, wann weitere Schritte keinen Sinn mehr ergeben.
Vor allem braucht es eine Architektur, die Fehler nicht bloß produziert, sondern auffängt.
Das ist der eigentliche Kern von Agentic Engineering: Nicht das Modell soll irgendwie magisch klüger werden. Das Gesamtsystem muss so gebaut sein, dass die Stärken des Modells nutzbar und seine Schwächen beherrschbar werden.
Die Bewusstseinsfrage war die falsche Abkürzung
Die Faszination für angeblich bewusste LLMs entstand auch deshalb, weil uns die Systeme anfangs wie Magie vorkamen. Sie konnten plötzlich Dinge, die wir mit Denken verbunden hatten. Also lag der Schluss nahe: Wenn es denkt wie wir, muss es vielleicht auch erleben wie wir.
Dieser Schluss war nie überzeugend.
Ein Sprachmodell kann über Schmerz reden, ohne dass ihm etwas wehtut. Es kann sich selbst beschreiben, ohne ein stabiles Selbstmodell zu besitzen. Es kann Empathie formulieren, ohne etwas zu fühlen.
Warum ich heutige LLMs nicht für bewusst halte – und warum ich künstliches Bewusstsein trotzdem für technisch möglich halte –, beschreibe ich ausführlicher auf raphaelkirchner.com: Agenten haben den Unsinn über bewusste LLMs beendet.
Für die Arbeit mit Agenten ist die Sache ohnehin einfacher: Wir müssen nicht wissen, ob irgendwo im System ein winziger Funke Erleben existiert. Wir müssen wissen, ob es seine Aufgabe korrekt erledigt.
Endlich reden wir über das Richtige
Die Bewusstseinsfrage wurde nicht gelöst. Sie wurde von wichtigeren Fragen verdrängt. Das ist ein Fortschritt.
Wir reden jetzt darüber, welche Aufgaben wir Agenten geben, welchen Kontext sie brauchen, welche Türen wir ihnen öffnen und wie wir kontrollieren, was sie dort tun. Nicht darüber, was das System behauptet zu sein. Sondern darüber, was es tatsächlich tut.