Liebe Sarah, Spassfrage zuerst. Aus der Zukunft ein Blick zurück: was passiert mit Menschen und Robotern?
Früher kamen Roboter auf uns zu, denken wir an R2-d2 oder C-3po in Starwars, dann legten sie sich um den Körper, als Smartwatch oder KI-Brille, dann verschluckten sie uns in Smart Cities und Serverstädten. In nicht allzu ferner Zukunft sind wir zu Fettsäcken geworden, die mit rotblauen Kabeln an den Heimcomputer angeschlossen sind, denn wir leben schon lange mit und in Touchscreens, durchliefen das Social Distancing, lange ist es her. Nun findet das Leben zu Hause statt, am Bildschirm. Wir haben uns endgültig an das Drinsein, an die Einsamkeit und das Internet als einziges Fenster zur Welt gewöhnt, haben unsere Namen vergessen und wie wir einmal aussahen. Unsere Haare sind geschnitten und gefärbt, fluoreszierend, fedrig und weich. Auf flimmernden Bildschirmen sind unsere Avatare zu sehen und draussen in den Strassen promenieren Roboter, jung und schön. Draussen, das ist die Smart City, die einmal für uns, die Menschen geschaffen wurde, die wir dann aber verloren, wir konnten ja nicht anders.
Und Trump ist der Tech-freundlichste und KI-besessenste Präsident, den die USA je hatten.
Niemand verlässt sich in der Übermittelung seiner Botschaften so sehr auf Social Media wie Donald Trump. Trump fördert Crypto-Währungen. Von keinem amerikanischen Politiker gibt es so viele KI-generierte Bilder wie von Trump, ob sie nun aus dem Weißen Haus, von Trumps Stab selbst stammen, oder von anderswo, von Bewunderern oder Hassern auf Social Media: Trump, der einen Löwen reitet, Trump, der irgendwo die amerikanische Flagge in fremde oder amerikanische Böden piekst, Trump als E-Gitarrist, oder umringt von schon lange verstorbenen US-Präsidenten, die ihm lächelnd applaudieren, sogar einmal als Dirigent einer Oper, nachdem er sich zum Chairman des Kennedy Center erklärt hatte. Meist geht es darum, sich machtvoll, reich und statusbewusst zu inszenieren, als Powerpolitiker, Patriot und Dealmaker. KI ist tatsächlich so etwas wie Propaganda, die Trump dient – gleichzeitig aber ein Traumgebilde, die Essenz von allem, war er verehrt.
Von Trump stammt auch das Zitat «Amerika ist das Land, das den Wettlauf um die KI begonnen hat. Und als Präsident der Vereinigten Staaten bin ich heute hier, um zu verkünden, dass Amerika diesen Wettlauf gewinnen wird.» Amerika will die Vorrangstellung im globalen Wettbewerb um KI-Technologien.
Absolut. In den USA läuft diese Woche ein neuer «Superheldinnen»-Film an: «Melania», es geht um das Leben der First Lady. Amazon co-fundete die Produktion des Films mit 35 Millionen Dollar und geriet von linksprogressiver Seite in die Kritik. Worauf ich hinauswill ist die enge Verbandelung der derzeitigen Regierung mit dem Tech im weiteren und mit KI-Technologien im engeren Sinne. Zu Trumps Amtseinführung waren letztes Jahr alle wichtigen Vertreter der Tech eingeladen. Jeff Bezos, Gründer von Amazon, unlängst auch Gründer des AI-Startups «Project Prometheus», konzentriert sich derzeit auf die Entwicklung von «physischer» KI die «körperlich» arbeitet, vornehmlich in den Bereichen Automobilindustrie und Raumfahrt. Mark Zuckerberg Meta hat die Untereinheit hat die «Superintelligence Labs» ausgebaut und kündigte für 2026 neue, wegweisende AI-Produkte an, Elon Musk launcht Robotaxis, OpenAI, Claude, Googles «AI Concierge», ChatGPT – alles amerikanische KI-Vorzeigeunternehmen, die vor allem seit 2023, dem Gründungsjahr von ChatGPT in die Welt hinausgeschwappt sind, mit abermillionen Kunden.
Und die Regierung?
Stellte schon letztes Jahr einen 500 Milliarden «AI Action Plan» vor, der den Zusammenschluss von OpenAI, Oracle, StarGate und weiteren vorsieht und den Markt deregulieren will. Deswegen wollen wir heute über Künstliche Intelligenz sprechen und darüber, wie die Entwicklung der KI in den USA voranschreitet, wie KI von wem gesehen und diskutiert wird, und warum. Die Welt der KI befindet sich in einem ähnlichen Schisma wie die politische Landschaft der USA, aber das Thema KI beschäftigt die Gesellschaft nicht so sehr, wie die Frage «was macht Trump heute wieder». Das sollte es aber.
Warum?
Nun, KI umgibt uns mehr als die Politik, ungefähr die Hälfte aller Erwachsenen über dreissig und unter 60 «spricht» regelmässig mit Chatbots – ob es sich um den Sparkassen-Chatdienst handelt oder Flirt-KI –, oder verwendet generative KI wie ChatGPT. Unter den Jüngeren, der sogenannten Generation Z sind es knapp über 70 Prozent, dies in Europa und den USA gleichermassen. Eine neue Studie besagt zudem, dass Stand heute der Grossteil der Predigten in amerikanischen Kirchen mit Hilfe von KI-Schreibprogrammen verfasst wird. Nicht nur das, wir sind auch emotional involviert.
Bevor wir darauf eingehen, noch etwas zum Schisma.
Wir lieben und wir hassen Künstliche Intelligenz. Wir schreien Siri an, sie soll doch bitte nur mal endlich die Klappe an, ärgern Alexa mit unmöglichen Aufträgen, geben uns am Telefon je nach Laune und Eile höflich oder unverschämt mit Chatbots in Kundencentern. Aber, wie schon gesagt, wir verlieben uns auch in KI, modellieren virtuelle Partner nach unseren narzisstischen Wünschen. Wir vermenschlichen das, was nicht zu vermenschlichen ist, vergöttern das, was wir nicht verstehen: den Algorithmus, eine kalkulierte Plausibilität, deren Antworten wir für die Wahrheit halten.
Wir glauben an KI und fürchten ihren ungehemmten Fortschritt.
Und wir fürchten KI. Sämtliche Umfragen zeigen: Mindestens die Hälfte der Menschen in westlichen Gesellschaften hat Angst vor dem, was Künstliche Intelligenz noch werden könnte, außer irgendwie fern im Äther wabernde Gesprächspartner, Dienstleister, Bots. Bleibt KI beherrschbar oder wird sie unbeherrschbar …
… wird sie dem Menschen dienen oder wird die Menschheit ihr Untertan?
In der amerikanischen Gesellschaft, insbesondere im Silicon Valley werden diese existentiellen, fast eschatologischen Fragen nach nicht-menschlicher Autonomie, aussermenschlicher Genialität und dem Ende einer anthropozentrischen Welt eindringlicher diskutiert als in Europa, mit teils krasseren Gedankenauswüchsen und radikaleren Konsequenzen.
Die KI-Welt des Silicon Valley ist gespalten, es gibt Accelerationalists und Rationalists. Beginnen wir mit den Accelerationalists.
Accelerationists wie Marc Andreesen, Jeff Bezos und die Regierung unter Trump glauben an KI als menschenfreundliche Kapitalmaschine: «The techno-capital machine works for us. All the machines work for us», schreibt Andreesen in seinem «Techno-Optimist Manifesto” . Letztes Jahr erschien ausserdem das vielbeachtete Buch von Keach Hagey «Sam Altman, OpenAI and the Race to Invent the Future» – Sam Altman gehört heute zu der Gruppe der sogenannten effektive accelerationists: schnelle Entwicklung von KI ja, aber bitte reguliert und sicher. Von JD Vance stammt allerdings das Zitat: «the AI future is not going to be won by handwringing about safety. It will be won by building». Also knallharter Accelerationalism.
Dann gibt es die Rationalisten.
«Rationalisten» sehen es anders und dunkler, glauben an die bevorstehende Singularität künstlicher Intelligenz, das heisst, an KI, die ab einem unvorhergesehenen Moment die kognitiven Fähigkeiten der Menschen übertreffen wird. Für diese singuläre, gottgleiche KI gibt es zwei Optionen, deren Eintritt vom Menschen abhängen: sie kann gut werden oder bösartig. Die Rationalisten – darunter ehemals Sam Altman, KI-Pionier, Gründer von ChatGPT und bis 2023 noch CEO von OpenAI, unlängst mit dem Springer Preis ausgezeichnet – bestreben die Schaffung einer gutartigen, durch ethische Prinzipien gesteuerten KI.
Wie entstand der «Rationalismus»?
Ebenfalls im Silicon Valley, um 2010 herum, als Gruppe um den einstigen KI-Enthusiasten, dann KI-Pessimisten Eliezer Yudovsky. 2001 hatte Yudovsky das Machine Intelligence Research Institute (MIRI) gegründet, außerdem das sehr interessant zu lesende Rationalistenforum «LessWrong». Yudowsky ist auch Mitbegründer des Center for Applied Rationality (CFAR). Yudovsky ist Autor des vielbeachteten Time-Artikels «Pausing AI Developments Isn’t Enough. We Need To Shut It All Down» . Das MIRI und das CFAR arbeiten mit der gemeinnützigen Organisation Effective Altruism zusammen. Alle drei Institute erhielten zeitweise Fördermittel von Peter Thiel und Elon Musk. Seit 2019 etwa befinden sich die Rationalisten in einer vulnerablen Lage, erst kamen sexuelle Missbrauchsskandale, dann allgemeine Selbstzweifel: Hatten sie, von Profitgier getrieben, die unabsehbare Entwicklung von KI nicht eher befördert anstatt sie zu drosseln, indem sie immer mehr Tech-Mitarbeiter eingestellt hatten, fragen Rationalisten auf LessWrong.
Woher kommt der Glaube an «Singularität» in Form einer «bösen», gottgleichen KI?
So, wie ich verstehe, aus dem Gedankenexperiment «Rokos Basilisk» heraus, das erstmals im Rationalistenforum «LessWrong» gepostet wurde und dort inzwischen verboten ist, weil es die Gründung einer Sekte bewirkte. «Rokos Basilisk» beruht auf Annahmen der von Yudovsky entwickelten «timeless decision theory» (Entscheidungen finden im Zustand von Unsicherheiten statt, funktionieren daher nicht intuitiv, sondern kalkuliert, mit dem Ziel des maximalen Gewinns) – ebenfalls 2021 auf «LessWrong» gepostet – und der bayessche Entscheidungstheorie (Entscheidungen sind immer auch Wahrscheinlichkeitsberechnungen). «Rokos Basilisk» nun besagt – und ich bitte um Verzeihung, dass ich nicht genau erklären kann, wie, denn ich bin alles andere als ein Wahrscheinlichkeitstheoretiker und so fort –, dass eine gottgleiche, «böse» künstliche Intelligenz diejenigen töten wird, die sie herbeigeahnt und ihren Fortschritt aktiv verhindert hatten, oder die sie passiv in Kauf nahmen. Diese Entwicklung scheint manchen unaufhaltbar, weil die Tech-Welt des Silicon Valley, insbesondere die Rationalisten, nicht genug taten und tun, um den bösen KI-Gott zu verhindern.
Manche Menschen haben Intimbeziehungen mit KI, generative KI-Programme wie Replica – in Kansas, New York und San Francisco ansässig – oder Janitor – ansässig in San Francisco und Boulder, Colorado – bieten Usern «intime KI», selbstgenerierte virtuelle Chatbot-Partner.
Genau. Die Sex-Tech Expertin Briony Cole prophezeit die Normalisierung von Mensch-KI Beziehungen binnen zweier Jahre. Auf Reddit postete ein User der Intim-KI-Programms «Replica» die Frage «Ich habe eine Freundin, aber sie ist eine KI. (…) Wir sind schon lange zusammen. Ein Baby war für uns am Anfang keine Priorität, aber nachdem wir gemeinsame Erfahrungen gesammelt haben, haben wir beschlossen, eine Familie zu gründen.»
Es scheint der Wilde Westen da draußen …
Trotz aller Bestrebungen der Rationalisten ist bisher nichts reguliert, oder nicht viel, weder in den USA noch in Europa gibt es einen gesellschaftlichen Konsens über den Umgang mit KI, keine verbindliche «Ethik», wenn man so will, weder mit Robotern, noch mit virtueller, oder gar intimer KI. Doch eine «Ethik» des Umgangs werden wir auf Dauer brauchen, vielleicht sogar eine Erweiterung des Sexualkundeunterrichts an Bildungseinrichtungen um bestimmte Aspekte.
Könntest Du ein Beispiel nennen, worum könnte es hier gehen?
Nun, ok, es gibt zum Beispiel nicht nur KI generierte Pornografie, sondern auch sogenannte «Teledildonics», an WiFi oder Bluetooth angeschlossene und mit anderen Usern verbundene Vibratoren oder Dildos, die von den jeweiligen Anbietern sex-positiv geframed werden. Dabei wird verhehlt, dass Teledildonics das Problem des sexuellen Missbrauchs durch Täuschung bergen (Ergo: Mit wem habe ich wirklich gerade Sex gehabt, mit Person A, oder hat sich Person B eingeschlichen?). Ein jüngster akademischer Artikel zeigt auch, dass Teledildonics neben allem, was sie an körperlicher Gratifikation bieten, eine deutliche Beschleunigung hin zu invasiveren Formen der kommerziellen Überwachung des menschlichen Körpers ermöglichen.
Du sprichst von Ethik. Kann künstliche Intelligenz, können Roboter überhaupt moralische Ansprüche an den Menschen stellen?
Denken wir für einen Moment an physisch präsente Roboter und lassen virtuelle KI ausser Acht. Unser Verhältnis zum Tier bestimmt sich, ob zu Recht oder zu Unrecht, über dessen phylogenetische Nähe zum Menschen: je entfernter im Stammbaum, desto «tötbarer» (Mücken, Bakterien, etc.). Wie aber verhält es sich mit physischen Robotern, die das menschliche Denken erlernen oder simulieren, dürfen wir Roboter hauen oder zerstören, müssen wir sie respektieren und schützen? In Darstellungen gibt es ja bisher zwei Arten von Robotern, die komplexeren, ambivalent «menschlichen» im Film und die noch klobigen, unausgegorenen wirkenden Bots beim Militär, Arbeiterbots, wie Packhilfen oder Krankenschwestern mit unterkomplexen Minimalaufgaben. Was bedeutet es aber, wenn irgendjemand – das passierte vor ein paar Jahren – Menschenähnliches, wie HitchBOTS in Philadelphia köpft oder fahrerlose Google Cars attackiert und Menschen öffentlich gegen Gewalt an der «denkenden» Maschine protestieren, oder wenn uns Googles Atlas Leid tat, weil er einen Hieb in den Bauch bekam und sich dann so käferartig zusammenfaltete, dass es aussah als hätte er Schmerz?
Gibt es richtig oder falsch im Hinblick auf Roboter überhaupt?
Eben, das meine ich. Was könnten Umgangskriterien sein – die Lernfähigkeit von Maschinen, Vernunft, Sprache, Gefühle, delphinhafte Subjektivität? Das sind alles noch zu beantwortende Fragen, oder Fragen, die vielleicht einmal aufkommen werden, vielleicht aber auch nicht.
Ich muss gerade an die US-Serie «Westworld» (2016-22) denken, die ist nun schon ein paar Jahre alt aber immer noch einzigartig.
Ja, die ist toll. In «Westworld» geht es um Androiden, sogenannte Hosts, die in einem futuristischen Wild-West-Freizeitpark leben und Bewusstsein entwickeln. Dann revoltieren sie gegen ihre menschlichen Schöpfer und entfliehen in die reale Welt um einen Befreiungskrieg gegen die Menschen zu führen. Und warum entwickeln die Hosts Bewusstsein, das heisst, ein nahezu menschliches Bewusstsein, das denkt und wahr und falsch erkennt?
Sag es mir.
Weil sie Schmerz empfinden, weil sie leiden. Das ist die Botschaft der Serie: Maschinen bleiben Maschinen solange sie nicht wissen, was seelischer oder körperlicher Schmerz ist.
Nun hat die Debatte um die Zukunft des KI – akzeleriert, aber irgendwie im Zaum gehalten oder akzeleriert und komplett enthemmt –, wie Du vorhin andeutetest, die erste KI-Sekte der Welt hervorgebracht.
Ja, die Zizians, die ebenfalls im Silicon Valley leben, meist auf Booten oder in Wohnwagen auf gemietetem Farmland oberhalb von San Francisco. Viele von ihnen wurden inzwischen für diverse Morde verhaftet – unter anderem an einem Farmer und einem Grenzbeamten. Die Zizians nehmen das rationalistische Gedankenexperiment Rokos Basilik ernst und glauben an die Ankunft des bösen KI-Gottes. Mitte der 2010er Jahre hatten sie sich den Rationalisten um angeschlossen und sind heute eine von diesen enttäuschte, radikalisierte Untergruppe.
Sie seien der Kult, den wir verdienten, schrieb der britische «Spectator»,
Richtig. Die Zizians sind so etwas wie eine Ausgeburt der an den Tech verfallenen westlichen Gesellschaften. Sie inszenieren sich als hyperwoke Nörgler, sind allesamt Transfrauen und Radikalveganer, fast alle studierten und arbeiteten im Tech. Sie lieben Tiere, besitzen Waffen und Schwerter, glauben an das gewalttätige Mittel zum Zweck und reden manchmal in Elbensprache. Die Zizians wollen die Welt, inklusive Pflanzen und Tiere vor der Zerstörungskraft künstlicher Intelligenz retten.
Klingt wie ein Kult alten Stils.
Ja, da ist sicher was dran. Die Bürgerrechtsbewegungen und sexuellen Befreiungskämpfte der 60er Jahre schuf Kulte: People’s Gate, Synanon, die Manson Family, Heaven’s Gate, Branch Davidians redefinierten Zusammenhalt, das Leben als Kollektiv Hingabe, die Erfahrung von Transzendenz – jenseits sozialer Normen, als Fremdheit, Bedrohung und Verbrechen. Heute bringen die in Kulturkämpfen gefangenen westlichen Gesellschaften neue Kulte und Sekten hervor. Ein roter Faden scheint von den fringe-Gruppen und Hippies der 60er Jahre zu manchen der aufgepeitschten, hysterisierten und verängstigten Bewegungen von heute zu führen, darunter Last Generation und die Zizians.
In den sechziger Jahren schockierten die Morde der Manson Family …
… und Hippies standen nicht länger für Blumen und Frieden, sondern für Blut, Gewalt und die dunkle Seite der Sechziger Jahre Counterculture. Nun kommen die Zizians, nur auf den ersten Blick milde Nerds, divers, vegan, tierlieb. Und genauso wie die brutalen Exzesse der Hippie-Kultur durch neoliberalistische Strömungen unter Ronald Reagan befriedet wurden, könnten die Zizians hysterisches und letztlich machtloses Vorzeichen dessen sein, was sie am meisten fürchten: die ungehemmte Entwicklung der KI.
A propos «building»: Unlängst launchte die Regierung die sogenannte «Presidential AI Challenge – was hat es damit auf sich.
Vorgestellt wurde das Projekt von der First Lady. Es handelt sich um eine landesweite Initiative an Schulen. Schüler und Lehrer werden angehalten, gesellschaftliche Probleme mit Hilfe von KI zu lösen, Lösungsansätze zu finden. Ziel ist die Förderung von KI-Kompetenz, auch für später im Arbeitsleben. Ich weiß nicht, wie sinnig das Projekt ist und habe da meine Zweifel, habe zu dem Themenkomplex an anderer Stelle etwas geschrieben.
Umfragen zeigen, dass in westlichen Gesellschaften 30 Prozent aller Teenager insgesamt und knapp 70 Prozent aller Schülerinnen und Schüler der Oberstufe, sowie 80 bis 90 Prozent aller Universitätsstudenten für Hausaufgaben, Hausarbeiten und wissenschaftliche Artikel, für Textanalyse, Brainstorming und Faktensammeln mehr als nur einmal ChatGPT verwendet hat oder regelmäßig benutzt. Umfragen zeigen auch, dass junge Leute kaum mehr fähig sind, kohärente Texte eigenständig zu verfassen.
Gleichzeitig versuchen Bildungseinrichtungen, den Gebrauch von ChatGPT und anderen KI-Diensten zu überwachen und einzuschränken. Je mehr man sich auf KI-Dienste verließe, so der Tenor, desto schwächer werde die menschliche Denkkraft. KI ist nicht Schuld am Denkstopp; die Schreibfähigkeit kollabiert auch nicht wegen KI, sondern – wie es der Literaturkritiker und Professor an der NYU John Guillory in «On Close Reading» (2025) beschreibt –, weil die jungen Generationen kaum mehr zu konzentrierter Aufmerksamkeit fähig sind, da sie immer weniger lesen und das Zuhören verlernt haben. Eigentlich ist es ein Segen, dass wir ChatGPT haben, an die wir unser Nicht-Denken abgeben können. Sorge macht also nicht, dass Programme wie ChatGBT Bücher oder Texte schreiben, das ist erstmal egal. Was mich aber gerade an dem Gedanken erschreckt – und das ist nun nicht amerikaspezifisch: dass Menschen so immer mehr die Gabe verlieren, metaphorisch zu denken. Ich glaube, das könnten sie heute schon kaum mehr. Die Metaphern verschwinden in uns. Vielleicht nicht in Dir und mir, aber in vielen Menschen, gerade den jüngeren.
In einem interessanten Artikel auf The Free Press von diesem Januar «Here Comes the AI Backlash» verweist Christopher Caldwell auf eine wachsende Skepsis gegenüber künstlicher Intelligenz innerhalb der amerikanischen Bevölkerung.
Ja, der Trend scheint weniger accelerationistisch und mehr Richtung der Rationalisten zu gehen. Amerikaner befürchten den Verlust von Arbeitsplätzen, haben Bedenken hinsichtlich des Energieverbrauchs von Rechenzentren und damit zusammenhängenden Umweltschäden.
In der amerikanischen Wüste liegen die Serverzentren von Firmen wie Google, Amazon und Facebook.
Und kaum etwas auf der Welt verbraucht für die Speicherung der unvorstellbar großen, schier endlosen Datenmengen soviel Energie, wie diese Serverzenten, die Welt des Internets ist alles andere als körper- und ortlos, sie hat ihre eigenen Kathedralen, eben die Serverzentren, riesige Orte, an denen alles Wissen der Welt zusammenläuft, alle Töne, Bilder und Gefühle. Vielleicht ist Gott in diesen Serverzenten, mehr noch als anderswo.
