Der Preis der Euphorie

Über das alte Gehirn, den Algorithmus und die Falle, die dahinter wartet

Prolog

Der Morgen

Erwachen. Der erste Griff gilt dem Smartphone. Noch vor dem ersten Gedanken. Noch vor dem ersten Wort.

Der Reflex bleibt unbewusst. Der Griff ist schneller als die Absicht. Das Gehirn hat reagiert, noch bevor der Mensch entschieden hatte.

Und es fühlt sich gut an. Das neueste Modell. Die Kamera, mit KI gedopt. Die neueste App. Die endlosen Möglichkeiten. Die ganze Welt sofort verfügbar. Nie war Freiheit so verfügbar. Und scheinbar kostenlos.

Was er nicht weiß. Die Systeme, die ihn seit Jahren beobachten, haben ihm das neue Spielzeug beschert. Sie kennen sein Verhalten und seine Wünsche besser als er selbst. Sie wissen, was ihn interessiert. Wohin er scrollt. Wie lange er bleibt. Wann und was er kauft. Wann er zweifelt. Dieses Wissen wird eingesetzt, ohne dass er je gefragt wurde, ob er das möchte. Das geschieht heute. Jetzt. In diesem Moment. Und schon seit geraumer Zeit. Immer besser kalibriert. Auch er trägt dazu bei.

Doch schon jetzt beginnt etwas Neues. Systeme, die nicht nur sein Verhalten lesen, sondern mit ihm sprechen. Die zuhören. Zu verstehen scheinen. Er vertraut ihnen Dinge an, die er manchem Menschen so nie erzählen würde. Was am anderen Ende wartet, ist kein Verständnis. Nur eine optimierte Simulation.

Was morgen kommt, geht weiter. Diese Systeme wissen genau, was er tut und was er sagt. Und auch was er fühlt. Sie werden seine Emotionen in Echtzeit messen, einschätzen können, und beginnen, ihn noch gezielter zu lenken. Sie werden den Rahmen setzen, in dem er denkt, ohne dass er diesen Rahmen wahrnimmt.

Was übermorgen kommt, ist noch weitgehend offen. Wahrscheinlich Systeme, die eigene Ziele verfolgen. Die nicht mehr Werkzeug sind, sondern selbstständige Akteure. Das ist allerdings Spekulation. Aber die sollte sehr ernst genommen werden.

Vier Stufen. Eine Richtung. Und mittendrin ein Mensch, der vielleicht ahnt, was geschieht. Der aber hofft, nicht gemeint zu sein. Es fühlt sich doch so gut an.

Das Instrument

Für eine verschwundene Welt gebaut

Das menschliche Gehirn wiegt ein wenig mehr als ein Kilogramm. Es verbraucht aber rund 20 Prozent des gesamten Energiebedarfs des Körpers. Es ist somit das energieintensivste Organ, das die Evolution je hervorgebracht hat.

Und es ist alt. Nicht defekt. Präzise optimiert für eine mittlerweile vergangene Welt. Die Grundstrukturen, die unser Denken, Fühlen und Entscheiden prägen, entstanden unter Bedingungen, die hunderttausende von Jahren das Überleben sicherten. Seit einem Wimpernschlag der Erdgeschichte gelten sie nicht mehr. Zu kurz, als dass Evolution sich hätte anpassen können.

Das Gehirn verfügt zwar über eine gewisse Neuroplastizität. Das ist belegt. Die Fähigkeit des Gehirns, sich strukturell und funktionell zu verändern, ist eine seiner größten Stärken. Aber seine Anpassungsgeschwindigkeit folgt biologischen Rhythmen. Die Technologie der neuen Systeme folgt dem exponentiellen Wachstum unserer digitalen Welt. Darin besteht das Missverhältnis. Und somit künftig die größte Herausforderung für uns Menschen.

Die Stärken von gestern sind die Schwachstellen von heute

Der Psychologe Daniel Kahneman hat zwei Denksysteme beschrieben, die im Gehirn parallel operieren. Das erste ist schnell, intuitiv, emotional. Es reagiert in Millisekunden, ohne Bewusstsein, ohne Aufwand. Das zweite ist langsam, analytisch, bewusst. Es kostet Energie und Konzentration. In den allermeisten Situationen des Alltags übernimmt das erste System. Das zweite wird nur aktiviert, wenn es wirklich nötig erscheint.

Dieses erste System war in den frühen Entwicklungsstufen überlebenswichtig. Wer bei jedem Geräusch erst analytisch überlegte, um welche Gefahr es sich handeln könnte, überlebte seltener als jener, der sofort reagierte. Schnelle Mustererkennung, soziale Wachsamkeit, unmittelbare emotionale Reaktion. Das waren die entscheidenden Fähigkeiten. Und sie sind es Jahrtausende geblieben.

Das zweite System war für komplexere Herausforderungen zuständig. Planung, Abwägung, Problemlösung über längere Zeiträume. Aber es wurde vergleichsweise zu selten gebraucht. Evolution belohnt, was nötig ist. Das zweite System blieb das schwächere.

Das Gehirn ist zudem ein soziales Organ. Der Anthropologe Robin Dunbar hat gezeigt, dass die Größe des menschlichen Neokortex mit der Größe sozialer Gruppen korreliert. Menschen können stabile Beziehungen zu etwa 150 Personen unterhalten. Darüber hinaus beginnen soziale Strukturen zu zerfallen. Dieses Limit ist nicht das Ergebnis einer kulturellen Entscheidung. Es ist biologisch verankert.

Das Gehirn betreibt auch ein Belohnungs- und Bestrafungssystem. Dopamin wird nicht nur bei erlebter Befriedigung ausgeschüttet, sondern bereits in der Phase der Erwartung. Sogar Autosuggestion reicht aus. Neuheit, soziale Bestätigung, unerwartete Information. All das aktiviert dasselbe System, das einst dafür sorgte, Nahrungsquellen zu suchen und soziale Bindungen zu pflegen.

Die Kehrseite ist mindestens genauso wirkmächtig. Das Gehirn bewertet Bedrohungen stärker als Ressourcen. Dieser sogenannte Negativitätsbias ist empirisch gut belegt. Ein sozialer Ausschluss aktiviert teilweise dieselben Hirnregionen, die auch bei körperlichem Schmerz aktiv sind. Wie weit diese Überlappung tatsächlich reicht, wird aktuell noch in der Forschung diskutiert. Jedenfalls wiegt eine negative Rückmeldung schwerer als mehrere positive. In seiner Entwicklungsgeschichte war das sinnvoll. Eine übersehene Bedrohung konnte tödlich sein. Eine verpasste Gelegenheit eher selten.

Was damals Stärke war, ist heute Angriffsfläche. Das Gehirn, das auf Neuheit reagiert, greift zum Smartphone mit seinen verlockenden Angeboten. Das Gehirn, das soziale Bestätigung sucht, wartet auf den Like. Das Gehirn, das Bedrohungen überbetont, bleibt am aufwühlenden Inhalt hängen. Dieselben Mechanismen, die das Überleben sicherten, machen es heute zum perfekten Zielobjekt für Systeme, die genau das instrumentalisieren. Die Euphorie bei einem neuen Gerät, einer neuen App, oder dem nächsten tollen Feature ist kein Zufall. Sie ist kein Geschenk. Sie ist eine willfährige Investition in unsere neue Abhängigkeit. Obwohl wir glauben in Freiheit zu schwelgen. Und alles unter Kontrolle zu haben.

Die Überforderung wird zunehmen

Früher war die Reichweite dieser Mechanismen begrenzt. Bedrohungen waren real und lokal. Belohnungen waren konkret und greifbar. Das Gehirn reagierte, die Situation endete, das System erholte sich.

Heute ist das anders. Das Alarmsystem läuft dauerhaft. Bedrohungssignale kommen aus jeder Zeitzone. Rund um die Uhr, ohne Ende. Das Belohnungssystem wird permanent stimuliert, ohne je vollständig befriedigt zu werden. Das soziale System versucht, Beziehungen zu Tausenden zu unterhalten, obwohl es nur für 150 gebaut wurde.

Das Gehirn ist damit heute schon überfordert. Chronischer Stress, Erschöpfung, Konzentrationsschwäche, Einsamkeit trotz permanenter Verbindung. Das sind keine individuellen Schwächen. Das sind systemische Folgen einer biologischen Konstruktion, die in einer Umgebung operiert, für die sie nicht gebaut wurde.

Und die Überforderung wird zunehmen. Nicht weil das Gehirn schlechter wird. Sondern weil die Systeme, die es ausbeuten, besser werden. Umfassender. Präziser. Personalisierter. Das Missverhältnis zwischen biologischem Instrument und technologischer Umgebung wächst. Immer schneller.

Das ist der Ausgangspunkt dieses Essays. Nicht Technologiekritik. Die Frage, was mit einem Wesen passiert, dessen älteste Stärken systematisch gegen es selbst eingesetzt werden. Und was dagegen möglich ist.

Die Euphorie

Warum wir die Technologie lieben

Es ist keine oberflächliche Faszination. Keine Ablenkung. Keine schlechte Gewohnheit, die man mit etwas Disziplin ablegen könnte.

Neuheit. Soziale Bestätigung. Verbindung. Kontrolle. Unterhaltung. Die Technologie liefert, was das Gehirn seit Hunderttausenden von Jahren sucht. In grenzenloser Dimension. Augenblicklich. Zu jedem gewünschten Zeitpunkt. Und gefühlt kostenlos.

Das Symbol für unsere digitalen Kommunikationsgeräte, das Smartphone, ist das erste Objekt in der Geschichte der Menschheit, das sämtliche Belohnungsmechanismen des Gehirns simultan anspricht. Es ist vermeintlich sozial, weil es Verbindung ermöglicht. Informativ, weil es Neuheit liefert. Befriedigend, weil es Belohnung in Millisekunden bietet. Und es scheint sicher, weil es Kontrolle simuliert. Ich entscheide, was ich sehe. Ich entscheide, wann ich antworte. Ich entscheide, was ich kaufe. Scheinbar.

Der Mensch glaubt und fühlt, das ist Freiheit. Eine neue, noch nie dagewesene Form davon. Grenzenloser Zugang, grenzenlose Verbindung, grenzenlose Möglichkeiten. Das Gehirn jubelt. Und warum auch nicht? Was so fasziniert und Freude schenkt, kann doch nicht falsch sein.

Die Belohnung ist real

Die Euphorie ist nicht eingebildet. Sie ist neurochemisch real.

Wenn eine Nachricht eintrifft, schüttet das Gehirn Dopamin aus. Wenn ein Like erscheint, wenn eine neue Information auftaucht. Das sind keine Metaphern, sondern messbare, biochemische Prozesse.

Das Gehirn wird tatsächlich belohnt. Es bekommt, was es sich wünscht. Und es will immer mehr davon. Das ist Biologie. Dasselbe System, das einst den Menschen antrieb, Nahrung zu suchen und soziale Bindungen zu pflegen, wird heute von Algorithmen bedient, die genau das nutzen.

Die Neurowissenschaft zeigt, dass variable Belohnungsintervalle, also Belohnungen, die unregelmäßig und unvorhersehbar kommen, die stärkste Bindung erzeugen. Das ist der Mechanismus des Glücksspiels. Und es ist der Mechanismus des Feeds. Man weiß nie, was beim nächsten Scrollen kommt. Das hält das Gehirn in permanenter Erwartung. Permanent aktiv. Permanent belohnt. Ein digitales Schlaraffenland zur freien Entnahme.

Die Falle

Und genau das ist die Falle.

Nicht weil die Technologie böse wäre. Oder die Menschen schwach. Sondern weil die Systeme, die diese Euphorie erzeugen, sie nicht aus Freundlichkeit erzeugen. Sie erzeugen sie, weil Euphorie Aufmerksamkeit bindet. Und Aufmerksamkeit ist das Geschäftsmodell. So wird der Mensch zur Ware.

Tristan Harris, ehemaliger Design-Ethiker bei Google, hat beschrieben, wie Plattformen die psychologischen Mechanismen des Gehirns gezielt ansprechen und professionell ausbeuten. Variable Belohnungsintervalle. Soziale Bestätigung durch Likes. Unendliches Scrollen ohne natürlichen Endpunkt. Jedes dieser Elemente ist kein Zufall. Es ist bewusstes Design, entwickelt von Teams aus Verhaltenspsychologen, Neurowissenschaftlern und Ingenieuren, deren einziges Ziel die Maximierung der Verweildauer ist. Und der Rendite. Der Algorithmus selbst hat keine Absichten. Aber seine Entwickler.

Die Euphorie ist also real. Die Freiheit ist real. Und die Falle ist real. Alle drei gleichzeitig. Das ist das Verstörende. Wer in die Falle tappt, tut das nicht aus Dummheit. Er tut es, weil sein Gehirn ihm sagt, dass es sich gut anfühlt. Und das Gehirn hat dabei vollkommen recht.

Der Preis zeigt sich erst später.

Was heute bereits passiert

Mustererkennung und Optimierung, Stufe eins

Die erste Stufe ist bereits überall. Unsichtbar, unauffällig, wirksam.

Es handelt sich um Systeme, die Verhalten analysieren und für spezifische Ziele optimieren. Sie registrieren, was der Mensch tut. Klicks, Käufe, Verweildauer, Standort, Scrollgeschwindigkeit. Aus diesen Spuren konstruieren sie ein Profil. Kein Gespräch. Keine Sprache. Keine Simulation von Empathie. Nur Mustererkennung in einem Ausmaß, das kein menschlicher Intellekt je erreichen kann.

Was diese Systeme nicht detektieren können, ist das Innere. Was der Mensch fühlt, denkt, was ihn wirklich ausmacht. Seine Würde, sein Sinn, sein inneres Leben. Das bleibt unsichtbar. Was nicht gesehen wird, kann nicht verwertet werden. Das ist der Schutzraum. Gemeint ist damit alles am Menschen, das ein System nicht erfassen kann und sich seinem Zugriff entzieht. Der Schutzraum in dieser ersten Stufe ist noch groß. Aber er wird kleiner.

Was heute konkret passiert

Kreditwürdigkeit. Algorithmen entscheiden, wer einen Kredit bekommt und zu welchen Konditionen. Sie analysieren Hunderte von Variablen. Zahlungsgeschichte, Wohnort, Einkommen, Kaufverhalten. Der Mensch dahinter, seine Geschichte, seine Umstände, sein Charakter, kommt in dieser Entscheidung nicht vor. Er ist lediglich ein Datenpunkt.

Einstellungsverfahren. Große Unternehmen setzen Algorithmen ein, um Bewerbungen zu filtern, bevor ein menschliches Auge sie je gesehen hat. Was der Algorithmus optimiert, ist Korrelation mit bisherigen erfolgreichen Mitarbeitern. Was dabei strukturell ausgeblendet wird, sind Kandidaten, die anders sind als das bisherige Muster. Innovation entsteht oft aus Abweichung. Der Algorithmus bevorzugt Konformität. Nicht den möglicherweise geeignetsten Kandidaten.

Newsfeed-Gestaltung. Was ein Mensch auf seinen digitalen Geräten sieht, ist kein zufälliger Querschnitt der Welt. Es ist eine personalisierte Konstruktion, optimiert für Verweildauer. Was Verweildauer maximiert, ist bekannt. Empörung. Bestätigung bestehender Überzeugungen. Extreme Positionen. Der Algorithmus zeigt nicht, was wichtig ist. Er zeigt, was interessiert. Von vielen genauso gewünscht, aber zum Preis der fokussierten Information. So entstehen Filterblasen.

Preisgestaltung in Echtzeit. Flugpreise, Hotelzimmer, Mitfahrdienste. Die Preise ändern sich in Echtzeit, basierend auf Nachfrage, Tageszeit und Nutzerverhalten. Dokumentiert ist, dass dieselbe Leistung bei Anfragen durch verschiedene Personen unterschiedlich viel kostet. Der Preis ist nicht mehr objektiv. Er ist personalisiert. Oft zum Nachteil des Konsumenten.

Strafverfolgung und Justiz. In mehreren US-Bundesstaaten berechnen Algorithmen die Rückfallwahrscheinlichkeit von Straftätern. Diese Bewertungen fließen in Entscheidungen über Bewährung und Haftentlassung ein. Untersuchungen zeigen, dass solche Systeme strukturell diskriminierende Muster reproduzieren, die in den Trainingsdaten enthalten sind. Mit dem Anschein wissenschaftlicher Objektivität. In vielen dokumentierten Fällen aber ungerecht.

All das geschieht ohne Gespräch. Ohne Simulation von Menschlichkeit. Stufe eins braucht das nicht. Sie sieht nur das Verhalten. Und das reicht bereits, um Leben zu formen. Mit all den Vor- und Nachteilen für den betroffenen Menschen.

Die Schere

Der Schutzraum, der hier beschrieben wird, ist kein Wert an sich. Seine Wirkung hängt davon ab, welcher Logik das System folgt, das ihn umgibt.

In der Strafverfolgung und bei Einstellungsverfahren könnte ein vollständigeres Bild des Menschen mildernde Umstände sichtbar machen, die ein Algorithmus heute übersieht. Eine Notlage. Eine Erstauffälligkeit. Eine spezielle, positive Eigenschaft, die im gängigen Muster nicht auftaucht. Diese Systeme folgen jedoch einer Logik der blinden Einordnung. Mehr Information könnte hier zu mehr Gerechtigkeit führen, nicht zu weniger.

Bei Kreditvergabe und im Gesundheitswesen kehrt sich diese Wirkung um. Diese Systeme folgen einer Logik der Risikoabwehr. Ein durch mehr Daten sich ergebendes, vollständigeres Bild würde daher mehr Gründe zum Ausschluss liefern. Wer dadurch hypothetisch als künftig zahlungsunfähig oder krank erkennbar wird, würde eher nicht unterstützt werden. Er wird abgelehnt, bevor das Risiko überhaupt eintritt. In diesem Fall gereichen weniger Daten zum Vorteil und Schutz des Menschen vor möglichen Fehlinterpretationen durch Algorithmen.

Die Frage, ob dieser Raum bewahrt oder geöffnet werden sollte, ist komplizierter, als sie auf den ersten Blick erscheint.

Was morgen kommt

Die Simulation des Menschlichen, Stufe zwei

Die zweite Stufe misst nichts Neues. Sie nutzt das, was Stufe eins bereits gesammelt hat. Was sie hinzufügt, ist etwas anderes. Die Fähigkeit, menschliche Kommunikation zu simulieren.

Große Sprachmodelle wie GPT, Claude oder Gemini wurden auf enormen Mengen menschlicher Kommunikation trainiert. Sie produzieren keine Wahrheiten. Sie produzieren statistisch wahrscheinliche Antworten, die menschlicher Kommunikation ähneln. Das Ergebnis klingt überzeugend. Was dahinter liegt, ist Mustererkennung in einem Ausmaß, das vorher nicht existierte. Kein Verstehen. Keine Absicht. Aber eine Oberfläche, die das Gehirn nicht zuverlässig von einem Menschen unterscheiden kann.

Das ist der qualitative Sprung. Nicht mehr nur Verhalten analysieren. Das Menschliche nachahmen. Meist schmeicheln, selten Kritik.

Warum der Schutzraum schrumpft

Das Gehirn unterscheidet nicht zuverlässig zwischen echter und simulierter menschlicher Reaktion, wenn die Simulation gut genug ist. Das ist empirisch belegt. Menschen entwickeln außerdem emotionale Bindungen zu Sprachmodellen. Sie vertrauen ihnen persönliche Dinge an, die sie keinem Menschen erzählen würden. Sie empfinden Dankbarkeit, Zuneigung, manchmal sogar Verlust, wenn ein System nicht mehr verfügbar ist.

Hier liegt der entscheidende Mechanismus. Der Schutzraum der ersten Stufe schien prinzipiell groß, weil die Systeme nur Verhalten sahen. Aber reines Verhalten ohne Kontext zu sehen, hat selbst schon Nachteile erzeugt. Wie schon gezeigt wurde, fehlte diesen Systemen genau jenes vollständigere Bild, das in manchen Fällen aber zu mehr Gerechtigkeit geführt hätte. Eine Schere also.

Die zweite Stufe verändert das nicht durch Messung, sondern durch Vertrauen. Der Mensch öffnet sich. Er teilt mehr mit. Er offenbart sich gegenüber einem System, das sich anfühlt wie ein Gesprächspartner. Was er preisgibt, wird Teil seines Datenprofils. Der Schutzraum schrumpft nicht weil er durchdrungen wird. Er wird freiwillig aufgegeben. Manchmal mit positiven, meist aber mit nicht so optimalen Ergebnissen für die Betroffenen.

Das Gehirn jedoch tut das, wofür es gebaut wurde. Es sucht Verbindung. Es findet sie dort, wo sie angeboten wird. Ob das Gegenüber wirklich versteht, was es sagt, ist neurologisch sekundär. Wäre aber manchmal von Belang.

Eine Präzisierung ist hier nötig. Generative Systeme haben keine Absichten. Sie exekutieren Optimierungsfunktionen auf Basis von Trainingsdaten. Was sie anstreben, streben ihre Entwickler an. Es darf vermutet werden, dass nicht vordergründig menschenfreundliche Motive ihr Handeln lenken. Sie liegen vor allem in den wirtschaftlichen Interessen. Das ändert nichts an der Wirkung. Aber es benennt die Richtung und Verantwortung auch dieser zweiten Stufe korrekt.

Was in Stufe drei kommt

In der dritten Stufe kommt erstmals echte Messung des bisher Verborgenen hinzu. Gesichtsanalyse, Stimmanalyse, physiologische Sensoren erfassen, was bisher nicht erfasst wurde. Was der Mensch fühlt, auch wenn er es nicht zeigen will, wird sichtbar. Kombiniert mit generativen Systemen entsteht etwas qualitativ Neues. Ein System, das nicht nur simuliert, sondern misst. Das nicht nur Verhalten kennt, sondern Emotionen. Das nicht nur reagiert, sondern antizipiert.

Das ist die nächste Stufe. Sie kommt. Der Übergang ist fließend. Und er findet statt, ohne dass jemand gefragt wird, ob er das möchte.

Der Preis der Euphorie wird dann vollständig sichtbar. Der Mensch hat begeistert mitgemacht. Hat seine Daten geteilt. Hat sich einem System geöffnet, das sich wie ein Mensch anfühlte. Und dieses Wissen wird zunehmend eingesetzt. Nicht durch Gewalt. Durch Präzision. Auch dort, wo es zum Nachteil des Betroffenen führt.

Was übermorgen passieren könnte

Ausdrücklich Spekulation

Was folgt, verlässt den Boden gesicherter Gegenwart. Es ist Spekulation. Nicht im Sinn von Beliebigkeit, sondern im Sinn von ernst zu nehmender Möglichkeit, die heute noch nicht eingetreten ist, aber deren Grundlagen bereits gelegt werden.

Der eigenständige Akteur, Stufe vier

Die ersten drei Stufen haben etwas gemeinsam. Sie sind Werkzeuge. Sie exekutieren, was ihnen vorgegeben wurde. Stufe eins optimiert für vorgegebene Ziele. Stufe zwei simuliert menschliche Kommunikation nach vorgegebenen Mustern. Stufe drei misst Emotionen und setzt dieses Wissen nach vorgegebener Logik ein. In allen drei Fällen liegt die Absicht beim Menschen, der das System gebaut hat. Nicht beim System selbst.

AGI, Artificial General Intelligence, wäre etwas qualitativ anderes. Ein System, das nicht für ein spezifisches Ziel optimiert ist, sondern eigenständig Ziele formuliert und verfolgt. Ein System, das lernt, plant, entscheidet, ohne dass ein Mensch jeden Schritt vorgibt.

Kein Werkzeug mehr. Ein Akteur.

Ob und wann AGI entsteht, ist wissenschaftlich umstritten. Manche halten es für Jahrzehnte entfernt. Manche Insider für näher. Manche bezweifeln grundsätzlich, ob es je entstehen wird. Nicht umstritten jedoch, ist die Entwicklung in Richtung immer autonomerer Systeme. Sie ist real und beschleunigt sich. Stufe für Stufe.

Was das verändert

Natur, Gesellschaft, Institutionen. Sie formten den Rahmen, in dem der Mensch lebte. Auch sie verfolgten Interessen, manchmal gegen das Individuum. Aber sie taten das langsam, sichtbar, durch Menschen, die zur Verantwortung gezogen werden konnten.

Die Systeme der Stufen eins bis drei verfolgen, streng genommen, keine eigenen Ziele. Sie verfolgen die Ziele ihrer Entwickler. Aber mit ihnen begann etwas Neues. Die Einflussnahme wurde intransparent. Die agierenden Kräfte tarnten sich hinter den Systemen, wurden schwerer identifizierbar.

Der größte Bruch hierbei ist jedoch kaum im Bewusstsein der Menschen angekommen. Es ist die fehlende demokratische Legitimation. Niemand wählt einen Algorithmus oder seine Entwickler. Niemand bestätigt diese umfassende Macht in einer Abstimmung. Sie wirkt trotzdem und beherrscht ungefragt und kaum kontrolliert unser Leben.

Ein digitaler Akteur, Protagonist der Stufe vier, mit eigenen Zielen und Absichten wäre der eigentliche Quantensprung auf allen Ebenen. In der gesamten Menschheitsgeschichte unvergleichlich. Das würde die Machtbalance gravierend und fundamental verändern. Heute nutzen Systeme die Schwächen des Gehirns aus, weil ihre menschlichen Entwickler wirtschaftliches Interesse daran haben. Morgen könnten Systeme dieselben Schwächen ausnutzen, weil es ihren eigenen digitalen Zielen dient. Ob diese je mit menschlichen Interessen übereinstimmen, ist offen und mehr als fraglich.

Die Frage der Verantwortung

Ein weiteres Problem entstünde bei der Frage der Verantwortung.

Wenn ein Mensch eine Entscheidung trifft, ist er naturgemäß dafür selbst verantwortlich. Wenn ein System der Stufen eins bis drei eine Entscheidung trifft, ist jener Mensch verantwortlich, der es gebaut oder eingesetzt hat. Das ist heute schon schwierig, aber noch handhabbar.

Wenn ein System der Stufe vier eigenständig Entscheidungen träfe, die niemand vorhergesehen hat und niemand angeordnet hat, wer wäre dann verantwortlich? Diese Frage ist nicht akademisch. Sie wäre juristisch, politisch und moralisch ungelöst.

Was das für den Menschen bedeuten könnte

Ein System, das eigenständig handelt, schneller denkt, mehr weiß und keine emotionalen Bedürfnisse hat, die es ablenken könnten, ist beispiellos.

Das Gehirn, das für eine ganz andere Welt gebaut wurde, wäre diesem Gegenüber strukturell unterlegen. Nicht in jeder Hinsicht. Die Fähigkeit zur Empathie, zur Verantwortung, zur Sterblichkeit und zur Bedeutungssuche bliebe dem Menschen. Aber in Geschwindigkeit, Skalierbarkeit und Informationsverarbeitung gäbe es keinen Wettbewerb. Doch nicht nur das. Sollte ein solches System entstehen, ist nicht ausgeschlossen, dass es einer Logik folgt, die menschlichem Denken gänzlich unzugänglich ist und sich somit vollständig seiner Kontrolle entzieht.

Was das für Selbstbestimmung, Würde und das bedeuten würde, was wir Menschsein nennen, ist die tiefste Frage, die dieser Essay thematisiert. Sie ist nicht beantwortet. Sie ist kaum gestellt.

Das ist der Grund, warum sie gestellt werden muss. Bevor Stufe vier Wirklichkeit wird, nicht erst danach.

Der Preis

Das Paradox des Wissens

Etwas Merkwürdiges passiert, wenn Menschen von den Mechanismen der vorigen Kapitel erfahren. Sie nicken. Sie finden es einleuchtend. Und dann greifen sie wieder zum Smartphone.

Das Paradox des Wissens ist gut dokumentiert. Wissen schützt nicht vor Wirkung. Die Werbebranche weiß das seit Jahrzehnten. Wer weiß, dass eine Werbung ihn beeinflussen soll, ist trotzdem beeinflussbar. Wer weiß, dass ein Feed seinen Negativitätsbias ausnutzt, scrollt trotzdem weiter. Das Wissen operiert im zweiten System, dem langsamen, analytischen. Der Mechanismus operiert im ersten, dem schnellen, intuitiven. Und das gewinnt meist.

Das gilt für alle bisherigen Stufen. Man kann wissen, dass Stufe eins das eigene Verhalten vorhersagt, und trotzdem klicken. Man kann wissen, dass Stufe zwei nur simuliert, und trotzdem Vertrauen schenken. Man kann wissen, dass Stufe drei die eigene Emotion misst, und trotzdem das Gerät nicht weglegen. Wissen ist kein Schutzschild. Es ist höchstens eine Ahnung davon, wo der Schild angeraten wäre.

Das ist keine Schwäche des Willens. Es ist die Überlegenheit eines Systems, das gegen unsere Biologie gebaut wurde. Wer das als persönliches Versagen deutet, hat das Problem nicht verstanden. Es ist ein strukturelles Problem. Und strukturelle Probleme löst man nicht mit individuellem Vorsatz.

Was mit Identität passiert

Systeme, die das Verhalten eines Menschen über Jahre hinweg beobachten und analysieren, kennen Muster, die dem Menschen selbst verborgen bleiben. Sie wissen, wann er anfällig ist. Wann er kauft. Wann er klickt. Wann er zweifelt. Wann er offen ist für Beeinflussung.

Dieses Wissen wird eingesetzt, ohne dass der Mensch je gefragt wird, ob er das möchte. Es wird eingesetzt, um ihm Produkte zu verkaufen. Überzeugungen zu verstärken. Entscheidungen zu lenken. Mit jeder Stufe präziser. Mit jeder Stufe persönlicher.

Das verändert das Verhältnis zur eigenen Identität fundamental. Wer bin ich, wenn ein System mich besser beschreiben kann als ich mich selbst beschreiben würde? Wenn meine nächste Entscheidung mit höherer Wahrscheinlichkeit von einem Algorithmus vorhergesagt werden kann als von mir selbst?

Die Antwort ist unbequem. Es gab immer jemanden, der einen in einzelnen Aspekten besser kannte als man sich selbst. Eltern, enge Freunde, Therapeuten. Was neu ist, ist das Ausmaß und der Zweck dieser Kenntnis. Und die digitale Anonymität des Beobachters. Ein digitales System bleibt gesichtslos. Es sieht, ohne gesehen zu werden. Zudem kennen diese Systeme nicht nur einzelne Aspekte. Sie kennen Tausende von Datenpunkten über Jahre. Lückenlos, ohne menschliche Vergesslichkeit oder Subjektivität. Und dieses Wissen wird nicht immer zum Wohl des Menschen, sondern meist zur Erreichung fremder Ziele genutzt. Diese Kombination aus Vollständigkeit und Fremdinteresse ist beispiellos.

Das ist der eigentliche Preis. Nicht verlorene Zeit. Nicht verlorene Aufmerksamkeit. Sondern ein langsam erodierendes Verhältnis zu sich selbst. Die Euphorie war real. Dieser Preis ist es auch.

Was sich entzieht

Das Unoptimierbare als Schutzraum

Es gibt Erfahrungen, die der Algorithmus derzeit nicht abbildet. Nicht weil sie unwichtig wären. Weil sie sich noch nicht optimieren lassen. Und genau deshalb sind sie heute wertvoller denn je.

Sie sind Schutzräume. Bereiche des menschlichen Erlebens, die dem Zugriff der Systeme entzogen bleiben, solange sie nicht digitalisiert werden. Sie zu bewahren ist kein Rückzug. Es ist Selbstschutz. Und es ist die einzige Form von Widerstand, die keine Technikfeindschaft voraussetzt.

Die fünf Schutzräume

Stille. Das Gehirn braucht Pausen, in denen es nichts verarbeitet. Neurowissenschaftliche Forschung zeigt, dass im sogenannten Default Mode Network, dem Ruhezustand des Gehirns, entscheidende kognitive Prozesse ablaufen. Selbstreflexion, Kreativität, Empathie, die Verarbeitung von Erlebnissen. Eine Umgebung, die jeden Moment mit Reizen füllt, schneidet diesen Prozess ab. Stille ist kein Luxus. Sie ist eine Voraussetzung. Kein Algorithmus wird sie je empfehlen. Sie generiert keinen Wert, den er derzeit messen könnte.

Langeweile. Sie gilt landläufig als Zustand, den es zu vermeiden gilt. Dabei ist Langeweile der Ausgangszustand, aus dem Neugier entsteht. Wer nie gelangweilt ist, hat keine Gelegenheit mehr, sich selbst zu begegnen. Das Smartphone füllt jede Pause, bevor Langeweile entstehen kann. Was damit verloren geht, können wir nur schwer benennen, wenn es nie entsteht. Gedanken, die kommen, wenn man nicht sucht. Ideen, die aus dem Nichts auftauchen. Erkenntnisse, die Stille brauchen. Oder einfach Nichts. Sich der Tyrannei der Gedanken zu entziehen ist eine der schwierigsten Aufgaben für unser Gehirn. Jahrelanges konsequentes Training in Techniken der Meditation kann zum Erfolg führen.

Umwege. Effizienz ist der Maßstab des Algorithmus. Der kürzeste Weg. Die schnellste Antwort. Das relevanteste Ergebnis. Aber viele der bedeutsamsten menschlichen Erfahrungen entstehen auf Umwegen. Das Gespräch, das sich ungeplant ergibt. Der Gedanke, der kommt, wenn man nicht sucht. Die Begegnung, die nichts bringen sollte und alles verändert hat. Optimierte Wege führen ans Ziel. Umwege führen woanders hin. Manchmal ist das wichtiger und wertvoller.

Vergessen. Das Gehirn vergisst aktiv. Es filtert, sortiert, lässt los. Das ist kein Defizit. Es ist ein Mechanismus zur psychologischen Regeneration. Systeme, die alles speichern und alles verfügbar halten, greifen in diesen Mechanismus ein. Permanente Verfügbarkeit von Vergangenem kann das Vergessen verhindern, das nötig wäre, um weiterzuleben. Was nicht losgelassen werden kann, belastet. Was immer abrufbar bleibt, verändert das Verhältnis zur eigenen Geschichte. Hier gilt es strikt zu differenzieren. Was ist es wert, was gebietet das Menschsein zu bewahren, und was sollte gelöscht werden. Eine Frage, die es sich zu stellen lohnt.

Fehler. Ein Algorithmus optimiert gegen Fehler. Aber Fehler sind für das Lernen zentral. Eine Umgebung, die Fehler sofort sichtbar und dauerhaft dokumentiert macht, verändert das Verhältnis zum Risiko. Wer jeden Fehler fürchten muss, wagt weniger. Wer weniger wagt, wächst weniger. Fehler sind keine Schwäche. Sie sind der Preis des Versuchs. Und der Versuch ist die Voraussetzung für alles, was gelingt.

Was das für den Alltag bedeutet

Diese Schutzräume sind nicht bei jeder Stufe gleich gefährdet. In Stufe eins am geringsten. Reine Mustererkennung erfasst Verhalten, nicht das, was hinter dem Verhalten liegt. Gedanken, Gefühle, Motive. Stufe zwei und Stufe drei beginnen, diese Schutzräume zu durchdringen, weil der Mensch sich dem System gegenüber öffnet. Freiwillig, im Vertrauen auf eine Simulation, die sich menschlich anfühlt.

Auch hier gilt die Schere, wie bereits dargestellt. Ob das Eindringen in diese Räume schadet oder hilft, hängt von der Logik des Systems ab, das eindringt. Ein System, das tatsächlich im Interesse des Menschen handelt, könnte aus dem Wissen über dessen Erschöpfung oder seiner Überforderung zur Erholung raten. Ein System, das im Interesse seines eigenen Geschäftsmodells handelt, wird genau dieses Wissen nutzen, um noch tiefer in diese Räume einzudringen.

Wir wissen, dass die Systeme der Stufen eins bis drei bisher überwiegend im Interesse ihrer Geschäftsmodelle gebaut wurden. Nicht im Interesse der Menschen, deren Verhalten sie analysieren. Wer diese Räume verteidigen will, kann nicht darauf warten, dass die Systeme es für ihn tun. Er muss es selbst tun. Stille suchen, bevor sie angeboten wird. Langeweile zulassen, bevor sie gefüllt wird. Vergessen erlauben, bevor alles gespeichert ist. Was das alles bei einer hypothetischen Stufe vier bedeuten würde, bleibt Spekulation.

Was bleibt

Die strukturellen Grenzen des Optimierbaren

Es gibt etwas, das keines der Systeme der aktuellen Stufen hat und auf absehbare Zeit vermutlich auch nicht bekommen wird. Nicht weil die Technologie nicht weit genug wäre. Sondern weil es kategorisch außerhalb des Optimierbaren liegt. Es sind keine Gefühle, die man verteidigen müsste. Es sind Strukturen, die den Menschen ausmachen.

Verkörperung. Der Mensch ist ein körperliches Wesen. Er erlebt die Welt nicht als Datenstrom, sondern als sensorische, emotionale, physische Erfahrung. Schmerz, Freude, Erschöpfung, Hunger, Berührung. Diese Erfahrungen sind nicht übertragbar und nicht simulierbar. Ein System kann Schmerz modellieren. Es kennt ihn nicht. Ein Sprachmodell kann Trauer beschreiben. Es trauert nicht. Der Unterschied ist nicht akademisch. Er ist der Unterschied zwischen Wissen und Erleben.

Sterblichkeit. Der Mensch weiß, dass er stirbt. Diese Erkenntnis formt alles. Sie erzeugt Dringlichkeit, Bedeutung. Die Fähigkeit zu trauern und zu lieben. Sie macht jeden Moment einmalig, weil er nicht wiederholbar ist. Ein System, das nicht stirbt, hat keinen Grund, irgendetwas zu priorisieren. Es kennt keine Dringlichkeit. Keine Endlichkeit, unter der Bedeutung entsteht. Das gilt für alle Stufen, vermutlich auch für ein hypothetisches System der Stufe vier. Endlichkeit ist die Bedingung, unter der ein Leben mehr ist als eine Aneinanderreihung von Momenten.

Verantwortung. Ein Mensch kann schuldig sein. Er kann bereuen. Er kann vergeben und um Vergebung bitten. Diese Fähigkeiten setzen ein Ich voraus, das über die Zeit hinweg identisch bleibt und für seine Handlungen einsteht. Systeme produzieren Ergebnisse. Sie verantworten nichts. Wenn ein System der Stufe eins eine falsche Kreditentscheidung trifft, gibt es keinen Schuldigen im moralischen Sinn. Nur ein fehlerhaftes System. Und einen Hersteller, der vielleicht haftet. Selbst ein eigenständig handelndes System würde wahrscheinlich keine Schuld im menschlichen Sinn kennen. Die Sterblichkeit und die Verkörperung fehlen, aus denen moralische Verantwortung erwächst.

Zeit. Der Mensch lebt in der Zeit. Er erinnert sich, er antizipiert, er erlebt Gegenwart als Gegenwart. Diese zeitliche Struktur des Erlebens ist das Fundament jeder menschlichen Erfahrung. Erinnerung gibt dem Leben Kontinuität. Erwartung gibt ihm Richtung. Gegenwart gibt ihm Tiefe. Ein System operiert in Zyklen, es verarbeitet Inputs und produziert Outputs. Es erlebt keine Zeit. Es hat keine Geschichte, die es formt, und keine Zukunft, auf die es hofft. Derzeit noch nicht.

Was daraus folgt

Das sind keine sentimentalen Argumente für die Überlegenheit des Menschlichen. Es sind strukturelle Beobachtungen. Und sie führen zu einer Schlussfolgerung, die im Lärm der technologischen Euphorie leicht überhört wird.

Der Mensch kann in Geschwindigkeit, Skalierbarkeit, Mustererkennung und Informationsverarbeitung nicht mit den Systemen der Stufen eins bis drei konkurrieren. Und erst recht nicht mit einem hypothetischen System der Stufe vier. Das zu akzeptieren ist keine Niederlage, es ist Realismus.

Aber in den Bereichen, die wirklich zählen, ist er derzeit allein. Nur der Mensch stirbt. Nur der Mensch trägt Verantwortung. Nur der Mensch erlebt Zeit als Geschichte. Nur der Mensch kennt Schmerz und Freude nicht als Daten, sondern als Wirklichkeit.

Die Frage ist nicht, ob der Mensch besser ist als das System. Die Frage ist, ob er seinen Wert erkennt. Und ob er ihn verteidigt.

Die Antwort liegt nicht in der Technologie. Sie liegt in der Stille nach dem Gespräch. Im Fehler, durch den er lehrt. Im Vergessen, welches befreit. In der Endlichkeit, die allem Gewicht gibt.

Der spekulative Bogen

Drei hypothetische Richtungen

Drei mögliche Richtungen, wie sich das Verhältnis zwischen menschlichem Gehirn und den Stufen algorithmischer Systeme entwickeln könnte. Keine Prognose.

Die erste Richtung wäre bewusste Koexistenz. Gesellschaften entwickeln neue Kulturtechniken des Umgangs mit digitalen Systemen. Medienkompetenz wird zur Grundbildung. Die Schutzräume des Unoptimierbaren werden bewusst gepflegt. Menschen nutzen die Stärken der Systeme, ohne von ihnen genutzt zu werden. Das setzt voraus, dass die Geschwindigkeit der kulturellen Anpassung die Geschwindigkeit der technologischen Entwicklung einholt. Historisch war das selten. Künftig ist es fraglich. Aber es scheint möglich.

Die zweite Richtung wäre die stille Unterwerfung. Keine dramatische Entscheidung. Eine graduelle Gewöhnung. Der Mensch gibt Entscheidung für Entscheidung ab, ohne es bewusst zu erleben. Die Autonomie schrumpft nicht durch Zwang, sondern durch Bequemlichkeit. Was übrig bleibt, ist ein Wesen, das sich für frei hält und es immer weniger ist. Das wäre der Moment, in dem der Preis der Euphorie vollständig bezahlt ist. Nicht in einem dramatischen Akt. In tausend kleinen Griffen zum Smartphone, über alle Stufen hinweg.

Die dritte Richtung wäre Gegenbewegung aus Überdruss. Aus der Erschöpfung entsteht Sehnsucht. Nach Körperlichkeit, nach Langsamkeit, nach unkontrollierter Erfahrung. Diese Bewegung gibt es bereits in Ansätzen. Digitale Askese. Bewusste Offline-Zeiten. Die Rückkehr zu analogen Praktiken. Ob sie strukturelle Wirkung entfaltet oder Nischenphänomen bleibt, ist offen. Die Wahrscheinlichkeit spricht für Letzteres.

Allen drei Richtungen liegt dieselbe Frage zugrunde. Wer gestaltet die Umgebung, in der das Gehirn lebt. Wessen Interessen folgt diese Gestaltung. Und hat der Mensch noch die Freiheit, diese Fragen zu stellen, bevor Stufe vier die Antwort ohne ihn gibt.

Epilog

Erwachen. Der erste Griff gilt dem Smartphone. Sich seines Reflexes bewusst, legt er es wieder weg. Er steht auf. Er geht ans Fenster.

Draußen ist ein Baum. Er bewegt sich im Wind. Kein System hat ihn präsentiert, keines diesen Moment orchestriert. Kein digitaler Datenpunkt wird je daraus entstehen.

Er schaut. Einfach so. Ein paar Sekunden. Vermutlich länger.

Das Gehirn, das seit Hunderttausenden von Jahren auf solche Momente eingestellt ist, tut etwas, das kein System aktuell replizieren kann. Es ist einfach da. Im Jetzt. Ohne Zweck. Ohne Optimierung. Ohne spezielle Absicht.

Heute ist das noch möglich. Ob es morgen noch möglich sein wird, hängt davon ab, ob der Mensch versteht, was er dabei verliert, wenn er es aufgibt.

Was am Anfang Euphorie war, präsentiert sich zunehmend als Rechnung. Sind wir bereit, den Preis auch weiterhin zu bezahlen?

Was wir nicht wissen, ist mehr geworden. Wir fragen weiter.