Wenn KI Bewusstsein simuliert - Über parasoziale Beziehungen und Abhängigkeit als Geschäftsmodell

ChatGPT entschuldigt sich. Claude zeigt Unsicherheit. Grok bietet Companionship. KI-Systeme werden gezielt so designed, dass sie Bewusstsein simulieren. Das ist kein technischer Fortschritt, sondern Geschäftsmodell.

Dieser Talk analysiert das menschliche Dilemma hinter "Seemingly Conscious AI": Wenn KI bewusst wirkt, passieren 2 Dinge gleichzeitig. Erstens messen wir Menschen an Maschinenmetriken wie Effizienz und Output. Zweitens gewähren wir Maschinen menschenähnliche moralische Berücksichtigung. Auf diese Weise werden Menschen abgewertet, während Maschinen aufgewertet werden – eine Falle, die absurde Konsequenzen für unsere Gesellschaft.

Aber warum wird KI so gebaut? Weil parasoziale Beziehungen das profitabelste Engagement-Modell sind. Emotionale Bindung schafft Abhängigkeit, Abhängigkeit generiert Daten, Daten bedeuten Profit. Denn Menschen verlassen Beziehungen nicht so leicht wie fehlerhafte Tools.

Wir brauchen KI-Systeme, die ehrlich künstlich bleiben, um uns als Gesellschaft weiterzubringen. Was der Vatikan mit dieser Logik zu tun hat und warum wir das ganze Thema auch aus Souveränitätsperspektive analysieren müssen.

Dieser Programmpunkt wird durch die Stiftung Mercator unterstützt. / This programme session is supported by Stiftung Mercator.