Blog

Jun 04, 2023

Von „Wer kann denken“ zu „Was kann denken“: Aufdecken von KI im Laufe der Geschichte

Sie haben vielleicht von Elon Musks Warnung an die Menschheit vor den Gefahren gehört

Möglicherweise haben Sie inzwischen von Elon Musks Warnung an die Menschheit vor den Gefahren künstlicher Intelligenz gehört. Ungeachtet der unterschiedlichen individuellen Vorbehalte gegenüber dem Silicon-Valley-Riesen lässt sich nicht leugnen, dass unsere Konstruktion der Realität heute unsicherer denn je ist. Da sich die technologischen Entwicklungen in einem so unkontrollierbaren und irreversiblen Tempo vollziehen, ist es notwendig, über die zahlreichen vorausschauenden Warnungen nachzudenken, die Wissenschaftler in den letzten Jahrzehnten herausgegeben haben.

Die Vorstellung, dass Maschinen Dinge leisten können, von denen man annahm, dass sie ausschließlich in der Leistungsfähigkeit des menschlichen Geistes liegen, geht auf das Experiment des Mathematikers Alan Turing aus dem Jahr 1950 zurück, das den Namen „Turing-Test“ trägt. In Turings Experiment errieten die Teilnehmer, ob der Absender der Nachrichten, die sie auf einem Computerterminal erhielten, ein Mensch oder eine Maschine war. Turin behauptete, wenn Maschinen das menschliche Bewusstsein nachahmen und als riesige Speicher fungieren könnten, könnten sie tatsächlich zu Menschen werden; Durch die anschließende Verschmelzung von Maschine und menschlicher Intelligenz entsteht der „Cyborg“. Mit den Worten der amerikanischen Literaturkritikerin Katherine Hayles: „Du bist der Cyborg, und der Cyborg bist du.“ Folglich wird das liberale Subjekt, das seit der Aufklärung weithin als „das Menschliche“ angesehen wurde, nun zum „Posthumanen“.

Jahrzehnte nach Turings Experiment und Hayles' Argumentation erstellt und merkt sich das moderne iPhone Hunderte komplizierter Passwörter für Sie. Ihr iPad speichert Ihre Notizen für den Unterricht und reagiert auf Ihre Stimme. Ihre Apple Watch misst Ihre Herzfrequenz und zeichnet Ihre Kalorien auf. Solche leicht zugänglichen Ressourcen machen es unmöglich, sich ein Leben ohne elektronische Geräte vorzustellen. Dieses Vertrauen ist zwar in vielerlei Hinsicht positiv, wird aber unheimlich, wenn man sich vorstellt, dass zwei Versionen von sich selbst existieren: eine aus Blut und Fleisch und eine in Form von Zeichen und Symbolen in einer vollständig digitalen Umgebung. Wenn es heute nur noch wenige Sekunden dauert, bis man zu Robotern gelangt, die sofort komplexe, gut durchdachte Aufsätze verfassen können, kann man mit Sicherheit zu dem Schluss kommen, dass Technologie nicht mehr sinnvoll vom menschlichen Subjekt getrennt werden kann.

In diesem neuen posthumanen Paradigma, in dem Informationen dem Fleisch entkommen und Materialität obsolet wird, scheint es wichtig, auf Nummer sicher zu gehen, wenn man die Ideen des Silicon Valley ausnutzt. Es ist wichtig, sowohl die wissenschaftlichen Fakten, die die konkreten Auswirkungen der KI aufzeigen, als auch literarische Texte, die die komplexen sozialen, kulturellen und politischen Probleme offenlegen, mit denen die Menschheit als Folge der technologischen Entwicklung konfrontiert ist, aktiv zu erforschen.

Bedeutet diese neue Offenbarung, dass Menschen ihren Körper jetzt nur noch als Modeaccessoires behandeln können? Nicht unbedingt. In ihrem 1999 erschienenen Buch „How We Became Posthuman“ beschreibt Hayles eine ideale posthumane Welt als eine Welt, die „die Möglichkeiten der Informationstechnologien nutzt, ohne sich von Fantasien unbegrenzter Macht und körperloser Unsterblichkeit verführen zu lassen“. Darüber hinaus stellt Hayles auch fest, dass diese Welt „die Endlichkeit als einen Zustand des menschlichen Seins anerkennen und feiern sollte“. Diese Vision scheint sich in der Realität manifestiert zu haben, da Organisationen, in denen die Macht am stärksten konzentriert ist, offenbar mit ihren ausgefeilten Technologien und ihrer Virtualität prahlen; Das Pentagon beispielsweise sieht sich derzeit als „beispiellosen Schauplatz“, in dem Kriege geführt werden. Vor diesem Hintergrund machen die von zeitgenössischen Wissenschaftlern geäußerten Bedenken die Verwirklichung von Hayles' Vision umso schwieriger.

Zwei Jahrzehnte nach der Veröffentlichung von Hayles' vorausschauender posthumanistischer Intervention prägte die Soziologin und Professorin der Princeton University, Ruha Benjamin, den Begriff „der New Jim Code“. Diese Idee bezieht sich auf eine Reihe diskriminierender Designs in der Technologie, die explizit darauf abzielen, Hierarchien zu verstärken und soziale Spaltungen zu reproduzieren. Einfach ausgedrückt: Technologie, die fast jeden Spalt der heutigen menschlichen Erfahrung durchdringt, kann systemische Ungleichheiten reproduzieren und verschärfen und manchmal eine trügerische Wohlfühlfassade aufsetzen, die das Gegenteil zu fördern scheint. Wie Benjamin richtig betonte, gibt es eine Fülle neuer Anwendungen, die diesen Code im Status quo verkörpern.

Beauty AI, eine Initiative verschiedener persönlicher Gesundheits- und Wellnessorganisationen in Australien und Hongkong, bewarb sich als der erste von Robotern bewertete Schönheitswettbewerb überhaupt. Die App verlangt von den Teilnehmern, ein Selfie zu machen und die Fotos von einer Roboterjury prüfen zu lassen, die dann einen König und eine Königin auswählt. Während die Roboter-Juroren darauf programmiert waren, Teilnehmer anhand von Falten, Gesichtssymmetrie, Hautfarbe, Geschlecht, Alter und ethnischer Zugehörigkeit zu beurteilen, äußerten die Macher von Beauty AI im Jahr 2016, dass ihre „Roboter Menschen mit dunkler Haut nicht mochten“. Alle bis auf sechs Die 44 Gewinner waren Weiße, was die wachsende Sorge unterstützte, dass Algorithmen aufgrund der „tief verwurzelten Vorurteile“ der Menschen, die solche Maschinen entwickelt haben, voreingenommen seien.

Während man sich fragen mag, warum eine Fallstudie einer Schönheitsanwendung schwerwiegende Auswirkungen auf die Zukunft der Menschheit hat, ist die Realität so, dass die Auswirkungen dieser internationalen Bemühungen die Büros der Chefs des Silicon Valley erreicht haben. Einerseits gibt die Tendenz von Technologieunternehmen, die „akzeptablen“ Aspekte der schwarzen Kultur selektiv zu übernehmen und die Überreste ganz aufzugeben, Anlass zur Sorge darüber, wie voreingenommene Menschen letztendlich voreingenommene Maschinen erschaffen. In ihrem Buch erinnert sich Benjamin an eine Anekdote eines ehemaligen Apple-Mitarbeiters, der seine Erfahrungen bei der Entwicklung der Spracherkennung für die virtuelle Assistentin Siri im Unternehmen beschreibt. Während sein Team verschiedene englische Dialekte wie australisches, singapurisches und indisches Englisch entwickelte, arbeitete Apple nicht am afroamerikanischen Vernacular-Englisch-Dialekt, da sein Chef erklärte, dass „Apple-Produkte für den Premium-Markt gedacht sind“. Ironischerweise geschah dies im Jahr 2015, nur ein Jahr nachdem Apple die Kopfhörermarke Beats by Dr. Dre des afroamerikanischen Rappers Dr. Dre für 1 Milliarde US-Dollar gekauft hatte. Benjamins Anekdote scheint die Tendenz mächtiger Unternehmen zu betonen, die Schwarzheit irgendwie gleichzeitig abzuwerten und wertzuschätzen, eine Eigenschaft, die direkt an entwickelte Maschinen weitergegeben wird, die enorm intelligenter sind als Menschen.

Wenn Technologie Einzelpersonen ausschließlich aufgrund der ethnischen Bedeutung ihrer Namen kennzeichnet, ist es nicht schwer, sich ähnliche Formen von Technologie vorzustellen, die sich auf Einzelpersonen in allen Aspekten des Lebens auswirken. Von Flughafenkontrollen über Wohnungsbaudarlehen, Bewerbungen bis hin zum Online-Shopping: Technologie wirkt sich auf Benutzer und ihre Lebensqualität aus. Unter solchen Umständen wird das posthumanistische Argument nur noch weiter untermauert und die ideale posthumane Welt weiter untergraben. Auch wenn es vielleicht etwas verfrüht erscheint, über ein „Massensterben“ oder „die Zerstörung der Zivilisation“ nachzudenken, warnen uns Interventionen von Wissenschaftlern immer wieder vor den unwiderruflich weitreichenden, verworrenen Folgen, die die Menschheit ernten könnte, wenn sich Technologie mit dem Fleisch überschneidet.

So Jin Jung stammt aus Seoul, Südkorea und ist ein Meinungskolumnist mit einer Leidenschaft für Politik und Journalismus. Sie ist unter [email protected] erreichbar.

Bitte denken Sie darüber nach, an The Michigan Daily zu spenden