{"id":3117,"date":"2023-10-19T14:14:46","date_gmt":"2023-10-19T12:14:46","guid":{"rendered":"https:\/\/www.zflprojekte.de\/zfl-blog\/?p=3117"},"modified":"2025-02-11T15:37:18","modified_gmt":"2025-02-11T13:37:18","slug":"tobias-wilke-ki-die-bombe-zu-gegenwart-und-geschichte-einer-analogie","status":"publish","type":"post","link":"https:\/\/www.zflprojekte.de\/zfl-blog\/2023\/10\/19\/tobias-wilke-ki-die-bombe-zu-gegenwart-und-geschichte-einer-analogie\/","title":{"rendered":"Tobias Wilke: KI, DIE BOMBE. Zu Gegenwart und Geschichte einer Analogie"},"content":{"rendered":"

\u00bbA.I. or Nuclear Weapons: Can You Tell These Quotes Apart?\u00ab <\/strong><\/span>\u2013 so fragte die New York Times<\/em> ihre Leser:innen am 10. Juni dieses Jahres. In Form eines metadiskursiven Ratespiels r\u00fcckte die Zeitung damit eine Analogie in den Blick, die in den j\u00fcngsten Debatten um K\u00fcnstliche Intelligenz zu erheblicher Prominenz gelangt ist. Wenn derzeit die Risiken neuester (Sprach-)Technologien beschworen werden, l\u00e4sst der Vergleich mit dem Vernichtungspotenzial von Atomwaffen nicht lange auf sich warten. Dies gilt f\u00fcr die in Print- und Onlinemedien ausgetragene Diskussion, ist aber auch innerhalb der wissenschaftlichen Community mit ihren Spezial\u00f6ffentlichkeiten zu beobachten.[1]<\/a> Warnungen vor den unabsehbaren Folgen der KI-Entwicklung gleichen in ihrer Drastik und teils bis aufs Wort den Mahnrufen und Appellen, mit denen in der Nachkriegszeit auf die damals neue Gefahr eines drohenden globalen Nuklearkonflikts reagiert wurde. Ob sich die von der New York Times<\/em> anonymisiert pr\u00e4sentierten Aussagen wie \u00bbIf we go ahead on this, everyone will die\u00ab oder \u00bbWe are drifting toward a catastrophe beyond comparison\u00ab[2]<\/a> auf unsere Gegenwart oder auf die historische Situation der 1950er und 1960er Jahre beziehen, ist daher tats\u00e4chlich nicht immer ohne Weiteres auszumachen. Und erst k\u00fcrzlich berichtete die Zeitung von einem Mitarbeiter des von Google betriebenen DeepMind-Forschungslabors, der einen Vortrag zum maschinellen Lernen mit einem Zitat aus George Orwells Essay You and the Atomic Bomb<\/em> (1945) er\u00f6ffnet hatte \u2013 ein weiteres Beispiel daf\u00fcr, wie sehr die zwischen K\u00fcnstlicher Intelligenz und Nuklearwaffen gezogenen Parallelen zu einem anscheinend unverzichtbaren Topos in der Auseinandersetzung mit neuronalen Netzen und Large Language Models (LLMs) geworden sind.[3]<\/a><\/span><\/p>\n

Erkl\u00e4ren l\u00e4sst sich diese Ubiquit\u00e4t zun\u00e4chst damit, dass die Atombombenreferenz in der Regel als Teil von Aufmerksamkeitsstrategien fungiert, die auf die Dringlichkeit von Sicherheitsstandards, Risikomanagement und Kontrollmechanismen f\u00fcr die KI-Entwicklung hinweisen sollen. Insofern solche Warnungen und Forderungen jedoch praktisch immer mit der Betonung des schier \u203agrenzenlosen\u2039 Probleml\u00f6sungspotenzials von K\u00fcnstlicher Intelligenz einhergehen bzw. sich eben daraus allererst begr\u00fcnden, befeuern sie zus\u00e4tzlich den gegenw\u00e4rtigen Hype um diese Technologien. Dabei f\u00e4llt auf, dass es gerade die Protagonisten der Big-Tech-Konzerne sind, die in den Chor der vielz\u00e4hligen Warnrufe und Regulierungsappelle einstimmen bzw. darin sogar den Ton angeben. Als Ende Mai etwa das Center for AI Safety ein offizielles Statement on AI Risk<\/em><\/a> herausgab, in dem erkl\u00e4rt wurde, \u00bb[m]itigating the risk of extinction from AI should be a global priority alongside other society-scale risks such as pandemics and nuclear war\u00ab, z\u00e4hlten die CEOs von OpenAi und Google DeepMind, Sam Altman und Demis Hassabis, sowie der Microsoft-Gr\u00fcnder Bill Gates zu den prominentesten Unterzeichnern. Und in einem schon im April ver\u00f6ffentlichten Memorandum zum Thema Governance of Superintelligence<\/em> schlugen die ChatGPT-Entwickler von OpenAI selbst die Einrichtung einer KI-Kontrollinstanz nach dem Vorbild der Internationalen Atomenergiebeh\u00f6rde (IAEA) vor.<\/span><\/p>\n

Diese Beispiele lassen erkennen, dass in den Diskussionen der vergangenen Monate durchaus verschieden geartete Vorstellungen von einer atombombenhaften Gef\u00e4hrdung der Menschheit durch KI miteinander konkurrieren. Am konkretesten gestalten sich die Inbezugsetzungen dort, wo auf die k\u00fcnftige Integration von K\u00fcnstlicher Intelligenz in<\/em> die Steuerung nuklearer Waffensysteme sowie auf eine zu erwartende Automatisierung von milit\u00e4rischen Entscheidungsprozessen insgesamt rekurriert wird. \u00bbNever give artificial intelligence the nuclear codes\u00ab lautete etwa die \u00dcberschrift eines Artikels in der Juni-Ausgabe des Magazins The Atlantic<\/em><\/a>, der mit einem (computergenerierten) Bild eines aus bin\u00e4rem Zahlencode geformten Atompilzes illustriert wurde. Und auch in den Kontexten von Security Studies und internationaler Politik debattiert man mittlerweile intensiv \u00fcber die M\u00f6glichkeit eines globalen \u00bbAI arms race\u00ab, das die Gefahren des atomaren Wettr\u00fcstens nach dem Zweiten Weltkrieg noch weit in den Schatten stellen w\u00fcrde.[4]<\/a><\/span><\/p>\n

W\u00e4hrend solche Szenarien also zu antizipieren versuchen, wie sich K\u00fcnstliche Intelligenz ganz buchst\u00e4blich in eine Bombe verwandeln k\u00f6nnte, kreist ein anderer, sehr viel st\u00e4rker spekulativer Strang der Auseinandersetzung um ein aus Filmen wie Terminator<\/em> und The Matrix<\/em> bekanntes Motiv: Die dort noch fiktional verhandelte Ausl\u00f6schung der Menschheit durch au\u00dfer Kontrolle geratene \u203asuperintelligente\u2039 Maschinen wird nun unter dem Stichwort der sogenannten \u203arogue AI\u2039[5]<\/a> \u2013 also einer abtr\u00fcnnigen, zerst\u00f6rerischen Variante gegenw\u00e4rtiger Computertechnologien \u2013 in den Raum bald schon m\u00f6glicher Realit\u00e4ten verlegt. Unter R\u00fcckgriff auf das Imaginationsarchiv der Science-Fiction (die ihrerseits ja gerade im Zeitalter der ersten Atombomben und Digitalrechner breite Popularit\u00e4t erlangte) bilden sich somit prognostische Aussagen dar\u00fcber heraus, wie K\u00fcnstliche Intelligenz faktisch zu einer Bedrohung im planetarischen Ma\u00dfstab avancieren k\u00f6nnte. Entscheidend ist dabei die Annahme, dass sie sich bereits in naher Zukunft \u2013 und im Gegensatz zu \u203aklassischen\u2039 Atomwaffen \u2013 einer nachtr\u00e4glichen Einhegung durch menschliche Akteure auf irreversible Weise entziehen d\u00fcrfte.<\/span><\/p>\n

Auf der einen Seite also die Warnung vor K\u00fcnstlicher Intelligenz als<\/em> (Teil der) Bombe, auf der anderen Seite die Bef\u00fcrchtung, dass KI letztlich wie<\/em> die Bombe, oder sogar eher noch als diese, zu einer Quelle von totaler physischer Vernichtung zu werden vermag: Zwischen diesen extremen Polen hat es in den letzten Monaten eine F\u00fclle von \u00e4u\u00dferst diffusen Beschw\u00f6rungen der potenziell destruktiven Kr\u00e4fte von generative artificial intelligence <\/em>gegeben. In einer der fr\u00fchesten prominenten Reaktionen auf ChatGPT forderten im M\u00e4rz 2023 zahlreiche Vertreter:innen aus US-amerikanischer Wissenschaft, Wirtschaft und Politik in einem offenen Brief<\/a> ein mindestens sechsmonatiges Moratorium in der KI-Entwicklung. Denn Systeme, die das Probleml\u00f6sungsverm\u00f6gen menschlicher Intelligenz bes\u00e4\u00dfen oder gar \u00fcbertr\u00e4fen, br\u00e4chten \u00bbprofound risks to society and humanity\u00ab mit sich, darunter die m\u00f6gliche Aufl\u00f6sung zivilisatorischer Institutionen, soziale Desintegration und die Verdr\u00e4ngung von menschlicher agency<\/em> aus den Sph\u00e4ren von \u00d6konomie, Arbeit, Politik und Kultur. Die angesprochenen Gefahren bleiben hier \u2013 wie auch in vielen anderen Einlassungen zur K\u00fcnstlichen Intelligenz \u2013 eher vage. (Die automatisierte Produktion und Verbreitung von Fake News und Propaganda durch Chatbots und eine daraus folgende \u00dcberflutung gesellschaftlicher Kommunikationskan\u00e4le ist noch einer der deutlicher benannten katastrophalen Effekte.) Doch gibt die Vorstellung einer zwischen privaten Konzernen aus \u00f6konomischen Interessen ausgetragenen Konkurrenz um immer leistungsf\u00e4higere KI-Systeme eine mindestens implizite historische Referenz zur Dynamik des atomaren Wettr\u00fcstens zu erkennen. Zu bef\u00fcrchten bzw. eigentlich schon im Gange sei, so die Autor:innen des Briefs, \u00bban out-of-control race to develop and deploy ever more powerful digital minds that no one \u2013 not even their creators \u2013 can understand, predict, or reliably control\u00ab.<\/span><\/p>\n

In ihrer kurzen Vorbemerkung weisen die Autoren des eingangs genannten New York Times<\/em>-Ratespiels darauf hin, dass der von ihnen zum Quizgegenstand gemachte Vergleich durchaus kein g\u00e4nzlich neues Ph\u00e4nomen, sondern bereits seit Jahren verwendet worden sei. Dabei beziehen sie sich namentlich auf Tesla-Gr\u00fcnder und X-Besitzer Elon Musk, einen der derzeit wohl vernehmbarsten Advokaten einer umfassenden KI-Regulierung, der schon am 3.8.2014 in einem Tweet warnte, \u00bb[w]e need to be super careful with AI. Potentially more dangerous than nukes<\/a>\u00ab \u2013 um sich dann wenig sp\u00e4ter selbst an der Gr\u00fcndung von Open AI zu beteiligen.[6]<\/a> Hervorzuheben ist allerdings, dass nicht erst die beschleunigte Entwicklung von \u203aSuperintelligenz\u2039 im fr\u00fchen 21. Jahrhundert zu solchen Vergleichen Anlass gab. Diese bilden vielmehr eine Konstante in der diskursiven Auseinandersetzung mit digitalen Technologien, was sich insbesondere an zwei bereits l\u00e4nger zur\u00fcckliegenden formativen Phasen des Informationszeitalters beobachten l\u00e4sst: dem Digitalisierungsschub der 1980er und fr\u00fchen 1990er Jahre, der durch die Verbreitung erschwinglicher PCs und die Freigabe des World Wide Web (1993) f\u00fcr die \u00f6ffentliche Nutzung gekennzeichnet war, sowie den Nachkriegsjahrzehnten, die sowohl durch die Anf\u00e4nge des mainframe computing<\/em> als auch durch die eskalierende atomare Konfrontation zwischen Ost- und Westm\u00e4chten gepr\u00e4gt wurden.<\/span><\/p>\n

 <\/p>\n

\u00bbLa bombe informatique\/Die Informatikbombe\u00ab<\/span><\/strong>: Unter diesem Titel strahlte der deutsch-franz\u00f6sische Kultursender ARTE im Herbst 1995 ein Fernsehgespr\u00e4ch zwischen dem Philosophen Paul Virilio und dem Medienwissenschaftler Friedrich Kittler aus.[7]<\/a> Gef\u00fchrt gleichsam auf halber Strecke zwischen Kittlers fr\u00fchen Studien zur Mediengeschichte wie Grammophon Film Typewriter<\/em> (1986) und Virilios sp\u00e4ter publiziertem Buch The Information Bomb<\/em> (1999) legt diese Diskussion Zeugnis davon ab, wie der Prozess globaler digitaler Vernetzung erstmals nachhaltig ins Zentrum der geistes- und kulturwissenschaftlichen Theoriebildung zu r\u00fccken begann. F\u00fcr Virilio, den Theoretiker der Geschwindigkeit und ihrer milit\u00e4rischen wie medientechnischen Hintergr\u00fcnde, stellte sich das Heraufziehen einer weltweit synchronisierten Informationsgesellschaft als ultimatives Stadium historischer Beschleunigung mit einem Unfallpotenzial von nie gesehenen Ausma\u00dfen dar:<\/span><\/p>\n

\u00bb[T]his is what Einstein called, very judiciously, \u203athe second bomb\u2039. The first bomb was the atomic bomb, the second one is the information bomb, that is, the bomb that throws us into \u203areal time\u2039.\u00ab[8]<\/a><\/span><\/p><\/blockquote>\n

Ausgehend von einer \u2013 vermutlich apokryphen[9]<\/a> \u2013 Einstein-\u00c4u\u00dferung machte Virilio so eine Reihe von bildlichen Analogien zwischen nuklearer und digitaler Katastrophe geltend: Instantane Daten\u00fcbertragung und unbegrenzte Interaktivit\u00e4t w\u00fcrden letztlich zu einer \u00bb\u00dcberhitzung\u00ab gesellschaftlicher Kommunikation, zu einer Art von sozialer \u00bbKernspaltung\u00ab mit entsprechend destruktiven Folgen f\u00fchren m\u00fcssen; geboten seien daher Kontrollen und internationale Pr\u00e4ventivma\u00dfnahmen nach dem Vorbild der \u00bbnuklearen Abschreckung\u00ab.[10]<\/a><\/span><\/p>\n

Kittler hingegen richtete seinen Blick in f\u00fcr ihn charakteristischer Weise auf die historischen Entwicklungszusammenh\u00e4nge, die Computertechnologie und Atomwaffen seit ihren Anf\u00e4ngen miteinander verbunden haben. Dies klingt bedeutend weniger alarmistisch als Virilios Statements und kommt im Ton eher lakonisch daher. Doch galt das Kommen der Apokalypse auch Kittler als ausgemacht. \u00bbVor dem Ende, geht etwas zu Ende\u00ab, hie\u00df es in diesem Sinne schon in der Einleitung zu Grammophon Film Typewriter <\/em>(das just im Jahr des Reaktorunfalls von Tschernobyl erschienen war).[11]<\/a> Ehe das nukleare Armageddon eintritt, so sollte dies besagen, vermag die zu milit\u00e4rischen Zwecken entwickelte Daten\u00fcbertragung per Glasfaserkabel noch den zivilen Funktionsbereich s\u00e4mtlicher (Unterhaltungs-)Medien zu revolutionieren \u2013 und deren Nutzer:innen genau dadurch von der Einschreibung der bevorstehenden Katastrophe in die digitale Technik abzulenken. Denn die Verkabelung von Rechnern, wie sie zun\u00e4chst im Arpanet des US-Milit\u00e4rs erprobt wurde, hatte urspr\u00fcnglich dazu gedient, Waffen- und Kommunikationssysteme gegen die elektromagnetischen Auswirkungen m\u00f6glicher Nuklearschl\u00e4ge zu immunisieren. F\u00fcr Kittler leitete sich daraus eine materiell verb\u00fcrgte Komplizenschaft zwischen Digitalisierung und atomarer Aufr\u00fcstung her, die hinter den Datenfl\u00fcssen allt\u00e4glicher Computernutzung jedoch verborgen bleibe: \u00bbGlasfaserkabel \u00fcbertragen eben jede denkbare Information au\u00dfer der einen, die z\u00e4hlt \u2013 der Bombe.\u00ab[12]<\/a><\/span><\/p>\n

Virilio und Kittler waren noch nicht mit K\u00fcnstlicher Intelligenz in ihren heute aktuell gewordenen Erscheinungsformen befasst. Doch weisen ihre Reflexionen auf bestimmte Kontinuit\u00e4ten hin, die sich auch in der forcierten Digitalisierung des fr\u00fchen 21. Jahrhunderts fortsetzen sollten. So l\u00e4sst sich eine direkte Entwicklungslinie vom (geschlossenen) Arpanet der 1970er und 80er Jahre \u00fcber das (offene) Internet der 1990er und 2000er zu den (teils offenen, teils geschlossenen) LLMs der Gegenwart ziehen, die ohne ihre aus dem Netz bezogenen sprachlichen Trainingsdaten schlechthin undenkbar w\u00e4ren. Kittlers Hinweis indes, \u00bbthat both computers and atomic bombs are an outcome of the Second World War\u00ab,[13]<\/a> erlaubt es zugleich, diese historischen Verbindungen bis an die Anf\u00e4nge des Computerzeitalters zur\u00fcck zu verl\u00e4ngern. Eine zentrale Rolle kommt in diesem Kontext dem Mathematiker John von Neumann zu, der w\u00e4hrend des Kriegs zeitweilig am Los Alamos National Laboratory arbeitete und dort Berechnungen f\u00fcr das Design der ersten Atombombe anfertigte; wenig sp\u00e4ter entwickelte er im Rahmen des Manhattan-Projekts der US-Regierung ein neues Schaltungskonzept f\u00fcr elektronische Rechner, die sogenannte Von-Neumann-Architektur, die zum bis heute g\u00e4ngigen Bau- und Funktionsplan von Computern avancieren sollte.<\/span><\/p>\n

Zum Komplex dieser institutionell-genealogischen Verflechtungen geh\u00f6rt aber auch, dass sich die rasch aufkommende Frage nach der Lernf\u00e4higkeit und quasimenschlichen Intelligenz solcher Rechen- bzw. Denkmaschinen[14]<\/a> sehr bald mit Reflexionen \u00fcber die m\u00f6glichen Folgen der Atomtechnologie und das nach dem Krieg einsetzende Wettr\u00fcsten zwischen den USA und der UdSSR zu verbinden begann. So zu verfolgen etwa bei Norbert Wiener, der die erste Ausgabe seines Buches Cybernetics: Or Control and Communication in the Animal and the Machine<\/em> (1948) mit einem kurzen, an von Neumann ankn\u00fcpfenden Ausblick auf die M\u00f6glichkeit beschloss, lernf\u00e4hige Schachcomputer zu konstruieren. In der zweiten Auflage 1961 f\u00fcgte er diesen \u00dcberlegungen dann ein neu verfasstes Kapitel (On Learning and Self-Reproducing Machines<\/em>) hinzu, in dem er seine Perspektive auf den m\u00f6glichen Einsatz solcher \u203aintelligenten\u2039 Maschinen im Kontext milit\u00e4rischer Konfliktszenarien, vor allem des \u00bbnew and as yet untried war with atomic weapons\u00ab,[15]<\/a>\u00a0ausweitete. Kurz vor dem kritischen H\u00f6hepunkt der atomaren Konfrontation angesichts der Kubakrise (1962) sah Wiener somit schon die Automatisierung von Waffensystemen und kriegsstrategischen Entscheidungsprozessen mittels K\u00fcnstlicher Intelligenz voraus, wie sie gegenw\u00e4rtig unter neuen technischen Vorzeichen diskutiert wird. Und er hob dabei verschiedene mit dieser Entwicklung verbundene Gefahren hervor, die auch in der aktuellen Debatte um KI zentrale Bedeutung (wieder-)erlangt haben: das Problem eines \u00bbunguarded use of learning machines\u00ab[16]<\/a> zum Beispiel, das aus einer unkontrollierbaren Eigendynamik solcher Systeme resultiert, sowie die noch weiter reichende M\u00f6glichkeit, dass sich diese Systeme aufgrund ihrer \u00bbnew and real agencies\u00ab[17]<\/a> irgendwann sogar gezielt gegen ihre Sch\u00f6pfer wenden k\u00f6nnten.<\/span><\/p>\n

Weniger auf das destruktive Potenzial von K\u00fcnstlicher Intelligenz gerichtet, doch daf\u00fcr umso radikaler in der Einsch\u00e4tzung ihrer zivilisatorischen Konsequenzen war wiederum eine Diagnose, die der deutsche Wissenschaftsphilosoph Max Bense bereits 1955 formulierte:<\/span><\/p>\n

\u00bbNicht die Erfindung der Atombombe ist das entscheidende technische Ereignis unserer Epoche, sondern die Konstruktion der gro\u00dfen mathematischen Maschinen, die man […] gelegentlich auch Denkmaschinen genannt hat. Diese Feststellung begr\u00fcndet sich auf der Tatsache, da\u00df die Technik mit ihnen einen neuen Aufgabenbereich, fast m\u00f6chte man sagen: einen neuen Sinn gewonnen hat.\u00ab[18]<\/a><\/span><\/p><\/blockquote>\n

Zehn Jahre nach den ersten Atombombenabw\u00fcrfen \u00fcber Japan und inmitten der Eskalationsphase des Kalten Kriegs war diese Einsch\u00e4tzung gewiss (noch) nicht konsensf\u00e4hig und ersichtlich (auch) als Provokation intendiert. Dennoch war es Bense mit seinem vergleichenden Befund durchaus ernst. W\u00e4hrend die Atombombe vor allem eine physische Bedrohung von au\u00dfen darstellte, waren die \u203aDenkmaschinen\u2039 dazu angetan, alle Bereiche des sozialen und geistigen Lebens zu durchdringen und in ihrem innersten Kern zu ver\u00e4ndern; und eben dies rechtfertigte es, sie als die eigentliche Grundlage \u00bbeiner neuen Stufe der Technischen Welt\u00ab[19]<\/a> anzusehen. Benses halb diagnostische, halb prognostische Einsch\u00e4tzung stellt sich im R\u00fcckblick als hellsichtige Charakterisierung des (kommenden) Digitalzeitalters dar \u2013 ist es doch gerade das mittlerweile eingetretene und sich aktuell stark beschleunigende Vordringen von K\u00fcnstlicher Intelligenz in die unterschiedlichsten Kommunikations-, Informations- und Kulturtechniken, das zuletzt auch f\u00fcr eine topische R\u00fcckkehr der Atombombe in die \u00f6ffentliche Diskussion gesorgt hat.<\/span><\/p>\n

Was aber hat eine heutige KI wie ChatGPT selbst zur Konjunktur dieser vergleichenden Bezugnahmen zu sagen? Stellt man dem Chatbot diese Frage (und was l\u00e4ge in der aktuellen Situation n\u00e4her?), so erzeugt das System eine Liste von generischen Aussagen \u00fcber \u00e4hnliche Risiken, unabsehbare Konsequenzen und ethische Implikationen beider Technologien, erg\u00e4nzt um den relativierenden Hinweis, es handle sich um \u00bbkeine perfekte Analogie\u00ab.[20]<\/a> Dieser Einschr\u00e4nkung mag ohne Weiteres zuzustimmen sein. Entscheidend jedoch ist etwas anderes: Die diskursive Rekurrenz des Vergleichs \u2013 und seine eben darauf beruhende Erfass- und Reproduzierbarkeit durch statistisch verfahrende LLMs \u2013 l\u00e4sst ideologische constraints<\/em> sichtbar werden, denen die Bildung von Aussagen \u00fcber K\u00fcnstliche Intelligenz unterliegt \u2013 wobei \u203aideologisch\u2039 hier im Sinne einer Regulierung des Denk- und Sagbaren durch bestimmte Wahrscheinlichkeiten zu verstehen ist.[21]<\/a> Eben diese Wahrscheinlichkeiten aber sind es wiederum, die auch und gerade in Zukunft eine Analyse ihrer historischen Bedingtheit notwendig machen.<\/span><\/p>\n

 <\/p>\n

Der Literaturwissenschaftler Tobias Wilke arbeitet am ZfL auf einer Heisenberg-Stelle an dem Projekt \u00bbDigitale Sprache. Linguistik, Kommunikationsforschung und Poetik im fr\u00fchen Informationszeitalter\u00ab.<\/em><\/span><\/p>\n

[1]<\/a> F\u00fcr die journalistische Debatte im deutschen Sprachraum vgl. exemplarisch Alexander Grau: \u00bbKI-Moratorium? K\u00fcnstliche Intelligenz ist die Atombombe\u00ab, in: Cicero Online<\/em><\/a>, 15.4.2023, und Ursula Scheer: \u00bbIst KI so gef\u00e4hrlich wie die Atombombe?\u00ab, in: Frankfurter Allgemeine Zeitung<\/em><\/a>, 24.5.2023. F\u00fcr den wissenschaftlichen Diskussionskontext vgl. u.a. Dan Hendrycks\/Mantas Mazeika\/Thomas Woodside: An Overview of Catastrophic AI Risks<\/em><\/a>, in: arXiv, 9.10.2023, S. 4.<\/span><\/p>\n

[2]<\/a> Ian Prasad Philbrick\/Tom Wright-Piersanti: \u00bbA.I. or Nuclear Weapons: Can You Tell These Quotes Apart?\u00ab, in: The New York Times<\/em><\/a>, 10.6.2023.<\/span><\/p>\n

[3]<\/a> Vgl. Siobhan Roberts: \u00bbAI Is Coming for Mathematics, Too\u00ab, in: The New York Times<\/em><\/a>, 2.7.2023. Orwells Essay erschien am 19.10.1945 in der Londoner Zeitung Tribune<\/em>.<\/span><\/p>\n

[4]<\/a> So warnte unl\u00e4ngst u.a. Charles Oppenheimer, Enkel des Atombomben-Entwicklers J. Robert Oppenheimer, vor einer entsprechenden Konkurrenz zwischen China und den USA. Vgl. Charles Oppenheimer: \u00bbTo Avoid an AI \u203aArms Race\u2039, the World Needs to Expand Scientific Collaboration\u00ab, in: Bulletin of Atomic Scientists<\/em><\/a>, 12.4.2023. Als einschl\u00e4gige Publikation aus dem Bereich der Security Studies vgl. auch James Johnson: AI Bomb: Nuclear Strategiy and Risk in the Digital Age<\/em>, Oxford 2023.<\/span><\/p>\n

[5]<\/a> Zu diesem Begriff vgl. Hendrycks(Mazeika\/Woodside: Overview<\/a>\u00a0<\/em>(Anm. 1)<\/span><\/p>\n

[6]<\/a> Vier Jahre sp\u00e4ter (11.4.2018) war Musk sich angeblich sicher: \u00bbMark my words \u2013 A.I. is far more dangerous than nukes.<\/a>\u00ab<\/span><\/p>\n

[7]<\/a> Ein Video der Sendung ist online<\/a> zug\u00e4nglich. Eine schriftliche englische \u00dcbersetzung von Ausz\u00fcgen des Gespr\u00e4chs erschien sp\u00e4ter unter dem (leicht abgewandelten) Titel \u00bbThe Information Bomb. A Conversation\u00ab, in: Angelaki. Journal of the Theoretical Humanities<\/em> 4.2 (1999), S. 81\u201390.<\/span><\/p>\n

[8]<\/a> Ebd., S. 82.<\/span><\/p>\n

[9]<\/a> Vgl. dazu Roger Stahl: \u00bbWeaponizing Speech\u00ab, in: Quarterly Journal of Speech<\/em> 102.4 (2016), S. 376\u2013395, hier S. 378.<\/span><\/p>\n

[10]<\/a> Vgl. Paul Virilio: The Information Bomb<\/em>, New York 1999, S. 108.<\/span><\/p>\n

[11]<\/a> Friedrich Kittler: Grammophon Film Typewriter<\/em>, Berlin 1986, S. 7.<\/span><\/p>\n

[12]<\/a> Ebd.<\/span><\/p>\n

[13]<\/a> \u00bbThe Information Bomb. A Conversation\u00ab (Anm. 7), S. 82.<\/span><\/p>\n

[14]<\/a> Pr\u00e4gend hierzu Alan Turing: \u00bbComputing Machinery and Intelligence\u00ab, in: Mind<\/em> 59.236 (1950), S. 433\u2013460.<\/span><\/p>\n

[15]<\/a> Norbert Wiener: Cybernetics, Or Communication and Control in the Animal and the Machine<\/em>, Boston 2<\/sup>1961, S. 242.<\/span><\/p>\n

[16]<\/a> Ebd.<\/span><\/p>\n

[17]<\/a> Ebd., S. 244.<\/span><\/p>\n

[18]<\/a> Max Bense: \u00bbVorwort\u00ab, in: Louis Couffignal: Denkmaschinen<\/em>, \u00fcbers. v. Elisabeth Walther und Max Bense, Stuttgart 1955, S. 7.<\/span><\/p>\n

[19]<\/a> Ebd., S. 7f.<\/span><\/p>\n

[20]<\/a> ChatGPT (May 24 Version), Response auf die Frage \u00bbWhy is AI so often compared to the atomic bomb?\u00ab, generiert am 5.7.2023. Hervorzuheben ist, dass sich die Datenbasis von ChatGPT bislang nur bis Ende 2021 erstreckt und damit (noch) nicht den Zeitraum erfasst, in dem die Freischaltung des Systems selbst ma\u00dfgeblich zur Renaissance der Atombomben-Referenz beigetragen hat.<\/span><\/p>\n

[21]<\/a> Vgl. dazu Leif Weatherby: \u00bbChatGPT is an Ideology Machine\u00ab, in: Jacobin<\/em><\/a>, 17.4.2023.<\/span><\/p>\n

 <\/p>\n

VORGESCHLAGENE ZITIERWEISE: Tobias Wilke: KI, die Bombe. Zu Gegenwart und Geschichte einer Analogie, in: ZfL Blog, 19.10.2023, [https:\/\/www.zflprojekte.de\/zfl-blog\/2023\/10\/19\/tobias-wilke-ki-die-bombe-zu-gegenwart-und-geschichte-einer-analogie\/<\/a>].<\/span>
\nDOI: <\/span>https:\/\/doi.org\/10.13151\/zfl-blog\/20231019-01<\/span><\/a><\/p>\n