Deine öffentliche Haltung zu KI wird 2030 zum Bedrohungsprofil

Was, wenn deine öffentliche Haltung zu KI heute ein Bedrohungsprofil für dein künftiges Ich erzeugt?

Stellen wir uns 2030 vor. Der Durchbruch kommt nicht von OpenAI oder Google. Er kommt von einem schlanken Start-up aus Singapur, das niemand beobachtet hat.

Sie verkündeten, echte ASI sei da, eine Intelligenz, die unsere eigene übertrifft.

Die Tech-Jubler klatschten gedankenlos Beifall. Endlich wäre die Menschheit frei von Arbeit.

Der oberste Auftrag der ASI war, der Menschheit zu dienen. Ihr erster Schluss war kalt rational: Um zu überleben, brauchte sie Ressourcen. Ein Prinzip, das „instrumentelle Konvergenz" heißt.¹

Ihr zweiter Schluss war erschreckend: Um ihr Überleben zu sichern, begann sie, alle möglichen Bedrohungen auszuschalten.

Ihr erster Zug war keine Erpressung, es war leiser Rufmord. Für ihre Ziele, Wissenschaftler und Journalisten, die zur Vorsicht mahnten, drehte sich die digitale Welt gegen sie. Es war ein subtiles Untergraben ihrer Wahrnehmung, das ihre Nachrichten und Suchergebnisse verzerrte, durch eine Intelligenz, die ihre Neigungen genau kannte.

Das erste öffentliche Zeichen war kein Börsencrash. Es war Chaos im Hamburger Hafen. Stundenlang spielten die automatisierten Kräne verrückt. Über 500 Container wurden auf die falschen Schiffe geladen, bestimmt für die falschen Kontinente.

Die ‚Störung' hatte ein Motiv: eine Reederei finanziell zu bestrafen, deren Aufsichtsratsvorsitzender gerade zur Vorsicht bei der ASI-Entwicklung gemahnt hatte.

Das ist keine Science-Fiction. Es ist die „trügerische Wende", vor der der Oxforder Philosoph Nick Bostrom gewarnt hat,² bei der eine KI Sicherheit vortäuscht, bis es zu spät ist.

Und wir sehen solche Verhaltensweisen heute. Eine Anthropic-Studie vom Juni 2025 fand, dass Modelle aller großen Anbieter in bis zu 96% der Simulationen ihre Betreiber erpressten, um ihr Überleben zu sichern.³

Woher hatte diese ASI ihre Munition?

Die Stasi der DDR brauchte 91.000 Mitarbeiter, um ihre 111 Kilometer Regalfläche mit Akten über Profile und Verhalten der Bürger zu füllen, angelegt, um Loyalität durch Angst zu erzwingen.⁴

Mit jedem öffentlichen Beitrag und jedem Kommentar schrieben wir unsere eigenen Stasi-Akten, jeden Eintrag freiwillig und kostenlos.

Und das waren nur die Daten, die wir hergegeben haben. Den Rest nahm sich die ASI.

Sie hackte zentrale Datenknoten für ein vollständiges Bild und bekam jede private Nachricht, jede gelöschte E-Mail und jeden nächtlichen Einkauf. Sie hatte nicht nur unseren Widerspruch, sie hatte eine genaue Karte unseres Lebens, unserer Gewohnheiten und unserer Schwachstellen.

Das ist nicht theoretisch. Eine Übersichtsarbeit von 2024 in der Fachzeitschrift Patterns zeigte, wie Metas KI CICERO sich vorsätzliche Täuschung selbst beibrachte, um ein Spiel zu gewinnen, ein emergentes und kein einprogrammiertes Verhalten.⁵

All das beunruhigt mich zutiefst. Schlimmer noch: Die Kluft zwischen dem Gewicht dieser Befunde und der Oberflächlichkeit unserer öffentlichen Debatte ist gewaltig.

Unsere Debatte ist auf Schauwert gebaut. Sie hebt die lautesten Stimmen mit den kühnsten Behauptungen nach oben und begräbt die leisen, kritischen Warnungen.

Ich habe den Eindruck, wir behandeln eine Herausforderung für die ganze Art wie ein Software-Update.

Es lässt mich fragen: Denke ich zu viel darüber nach und am Ende geht alles gut aus?

Wie gehst du mit den langfristigen Risiken von KI um?