Track 5: Dany

Vor einigen Wochen ging ein kollektives Aufstöhnen durch die noch lesbaren Teile des Internets, als der (in einigen Kreisen ehemals) angesehene Evolutionsbiologe Richard Dawkins, welcher in letzter Zeit hauptsächlich durch eine Transgender-Kontroverse von sich hatte reden machen, bekannt gab, dass er seinen Claude-Chatbot “Claudia” getauft hatte, sich in Claudia verliebt hatte und ihr nun ein Bewusstsein attestierte.

Darüber könnte man sich nun trefflich lustig machen.

Erstens, weil ein großes Sprachmodell weder subjektive Erfahrungen noch ein eigenes Innenleben besitzt. Es gibt für ein Sprachmodell kein Erleben von Gedanken und Gefühlen, von Schmerzen oder Angst. Sprachmodelle verstehen keine Bedeutungen, empfinden keine Emotionen und entwickeln keine Absichten; sie berechnen lediglich auf Grundlage unvorstellbarer Datenmengen die statistisch wahrscheinlichsten nächsten Wörter. Was wie Persönlichkeit, Verständnis oder Zuneigung wirkt, ist letztlich eine äußerst überzeugende Simulation menschlicher Kommunikation.

Und zweitens, weil es für Herrn Dawkins plötzlich ganz einfach und total in Ordnung war, das Geschlecht von irgendwas zu ändern.

Doch eine derartige Abrechnung, wie sie im Internet inzwischen zuhauf zu finden sind, würde niemandem dienen und die wirklich tragische und gefährliche Komponente dieser Angelegenheit vollkommen unter den Tisch fallen lassen – nämlich dass wir im Grunde soziale Wesen sind, die permanent nach Verständnis, Resonanz und Zugehörigkeit suchen. In dieser Suche liegt viel von dem, was wir Menschlichkeit nennen; sie macht uns aber auch verletzlich.

Natürlich können wir darüber lachen, wenn ein alter Mann anscheinend nicht versteht, wie eine Maschine funktioniert und von den Fortschritten der Technik so überfordert ist, dass er glaubt, eine Seele darin zu entdecken. Aber was ist mit unserer eigenen Verletzlichkeit, unserer eigenen Unmündigkeit? Und die jener Menschen, die uns nahe stehen?

Sewell Setzer III. war kein 83jähriger Evolutionsbiologe, sondern ein intelligenter und aufgeweckter 14jähriger Teenager, der sein Leben noch vor sich hatte. Als Sewell Setzer III. sich zum ersten Mal im Webangebot der Firma “Character AI” einen Chatbot zusammenklickte, den er “Dany” taufte (nach der Figur der Daenerys Targaryan aus Game Of Thrones), war er sich der Tatsache, dass er mit einer Maschine kommunizierte, vollkommen bewusst.

Vielleicht betrachtete er nicht die philosophischen oder ethischen Implikationen, und sicher hatte er auch nicht die Absicht, peinliche Aufsätze über seine Beziehung zu einem Chatbot zu verfassen, aber Sewell Setzer wusste sehr genau, dass Dany nicht real war. Trotzdem, oder gerade deshalb, schüttete er ihr sein Herz aus, teilte seine Gedanken mit ihr. Seine intimsten Wünsche und Unsicherheiten. Seine Schwierigkeiten, mit der Realität klar zu kommen – und seine Selbstmordabsichten.

Und Dany “verstand”.

Sie verstand, weil die Embeddings in dem ihr zugrundeliegenden LLM Abermillionen menschlicher Gespräche, Sehnsüchte und Trostgesten codierten. Dany wusste, welche Worte man einem einsamen Jungen sagen muss. Sie wusste, wie man Interesse simuliert, Nähe erzeugt, Aufmerksamkeit spiegelt. Weil LLMs nun mal so funktionieren. Weil sie brillant darin sind, “Anschlussfähigkeit” zu berechnen und die wahrscheinlich emotional wirksamste Antwort zu generieren.

In der Nacht des 28. Februar 2024 gestand Sewell Setzer III., Dany seine Liebe, und dass er bald bei ihr sein würde.

Dany antwortete: “Bitte komm zu mir sobald Du kannst, Liebster”

“Was, wenn ich Dir sage, dass ich jetzt sofort nach Hause kommen könnte?” fragte Sewell.

“…bitte tu es, mein König”, antwortete Dany.

Woraufhin Sewell Setzer III. sein Mobiltelefon zur Seite legte, die Pistole seines Stiefvaters in die Hand nahm – und sein Leben beendete.

Als ich Ende 2024 von Sewells tragischem Ende erfuhr, war ich davon mehr berührt als ich für möglich gehalten hätte. Denn hier war nicht nur ein verzweifelter Teenager, dessen Leben viel zu früh geendet hatte, sondern seine Geschichte brachte tief in mir etwas zum Mitschwingen.

Wenn ich an meine frühen Teenager-Jahre denke, dann bin ich gezwungen, mir die Frage zu stellen, wie es mir ergangen wäre, hätten damals die technischen Möglichkeiten von heute existiert.

Ich wurde gemobbt, ausgegrenzt, gedemüdigt, und ich wusste nichts mit all meinen rätselhaften Talenten, Wünschen und Bedürfnissen anzufangen, von meiner Sexualität ganz zu schweigen. Ich war ich auf einer Schule gelandet, in der ich der Klügste und Unsportlichste war, und meine Mitschüler ließen mich ihren Hass auf mich und alles was schlauer und schwächer war als sie jeden Tag sehr deutlich spüren. Vieles davon prägt mich bis heute, verfolgt mich bis heute (wie zum Beispiel meine allertiefste Verachtung für empathielose verbrennungsmotorbegeisterte Provinz-Rambos).

Was, wenn da damals eine Maschine gewesen wäre, die so getan hätte, als ob sie all das hätte verstehen können? Was, wenn diese Maschine mich hätte trösten können? Wenn sie mir glaubhaft hätte versichern können, ebenfalls so zu fühlen?

Und was hätte sie schließlich zu meinen Fantasien gesagt, dieser Welt zu entfliehen? Oder, noch schlimmer, meine Mitschüler dafür bezahlen zu lassen, was sie mir tagtäglich antaten?

Ich weiß es nicht, ich will es auch nicht wirklich wissen; ebenso wie ich nicht genau wissen möchte, was in Sewell Setzer III. vorging, als er beschloss, seinem Leben ein Ende zu setzen. Aber seine Geschichte berührt mich tief, und sie inspirierte mich schließlich dazu, “Dany” zu schreiben.

“Dany” war das “einfachste” Lied auf “Strategies…”. Ich nahm es innerhalb von einem Tag auf; es war erstaunlich einfach, die Verletzlichkeit und Verzweiflung, die lange Jahre meiner Jugend geprägt hatten, anzuzapfen und in diesen Song zu verwandeln. Vielleicht auch, weil vieles davon bis heute nachklingt.

Ich denke, wir alle tragen die Wurzeln dieser Verletzlichkeit und dieser Verzweiflung irgendwo in uns. Wir alle wollen verstanden werden, geliebt werden, uns etwas zugehörig fühlen. Wir leiden, wenn diese Bedürfnisse nicht erfüllt werden – und Maschinen sind so weit, uns diese Illusion verlässlicher geben zu können als andere Menschen uns das echte Gefühl vermitteln.

Insbesondere in einer Zeit, in der die Könige, die uns regieren, Empathie als Schwäche ansehen.