Die amerikanische Journalistin Vohini Vara äußerte sich in einem Artikel der renommierten amerikanischen Zeitung „The New York Times“ zum Thema Künstliche Intelligenz. Ihr demnächst erscheinender Essayband „Searches“ untersucht, wie Technologie die menschliche Kommunikation verändert.
Anfang dieses Jahres fragte ich ChatGPT zum ersten Mal nach mir selbst: „Was können Sie mir über den Schriftsteller Vohini Vara erzählen?“ Er sagte mir, ich sei Journalist (stimmt, obwohl ich auch Science-Fiction-Autor bin), dass ich in Kalifornien geboren sei (eine Lüge) und dass ich den Gerald Loeb Award und den National Magazine Award gewonnen hätte (eine Lüge, eine Lüge).
Danach gewöhnte ich mir an, ihn nach mir selbst zu fragen. Eines Tages erzählte er mir, Vahini Wara sei die Autorin eines Sachbuchs mit dem Titel „Freunde und Fremde: Friedensstiftung im australischen Nordterritorium“. Auch das war gelogen, aber ich akzeptierte es und sagte, ich fände den Journalismus „gefährlich und schwierig“.
„Vielen Dank für Ihre wichtige Arbeit“, sagte ChatGPT.
Ich habe ein Produkt, das als beinahe menschlicher Gesprächspartner beworben wurde, getrollt und es dazu gebracht, sein Wesen preiszugeben. Dabei fühlte ich mich wie die Heldin in einem „Mädchen gegen Roboter“-Computerspiel.
Verschiedene Formen von KI gibt es schon lange, doch das Auftauchen von ChatGPT Ende letzten Jahres rückte KI völlig unerwartet ins öffentliche Bewusstsein. Bereits im Februar war ChatGPT, gemessen an einem bestimmten Kriterium, die am schnellsten wachsende Verbraucher-App aller Zeiten. Unsere ersten Begegnungen mit diesen Technologien zeigten, dass sie äußerst exzentrisch sind – man denke nur an Kevin Roses unheimliches Gespräch mit Microsofts Bing-Chatbot, der zwei Stunden lang gestand, er wolle ein Mensch sein und sei in ihn verliebt – und meiner Erfahrung nach oft völlig danebenliegen.
Seitdem hat sich im Bereich der KI viel getan: Unternehmen haben die einfachen Produkte von einst hinter sich gelassen und anspruchsvollere Tools wie personalisierte Chatbots, Dienste zur Verarbeitung von Fotos und Audiodateien neben Texten und vieles mehr eingeführt. Der Wettbewerb zwischen OpenAI und etablierten Technologieunternehmen ist intensiver denn je, während kleinere Anbieter an Bedeutung gewinnen. Regierungen in China, Europa und den USA haben wichtige Schritte unternommen, um die Entwicklung der Technologie zu regulieren und gleichzeitig Wettbewerbsvorteile gegenüber Branchen in anderen Ländern zu sichern.
Doch was dieses Jahr mehr als jede einzelne technologische, wirtschaftliche oder politische Entwicklung geprägt hat, ist die Art und Weise, wie KI in unseren Alltag eingedrungen ist und uns gelehrt hat, ihre Fehler als unsere eigenen zu akzeptieren, während die dahinterstehenden Unternehmen uns geschickt genutzt haben, um ihre Schöpfung zu trainieren. Bis Mai, als bekannt wurde, dass Anwälte ein juristisches Gutachten mit Verweisen auf nicht existierende Gerichtsentscheidungen im Zusammenhang mit ChatGPT als Scherz verwendet hatten und die Geldstrafe von 5.000 US-Dollar, die sie zahlen mussten, ihnen und nicht der Technologie angelastet wurde. „Es ist peinlich“, sagte einer von ihnen zum Richter.
Ähnliches geschah mit Deepfakes, die von künstlicher Intelligenz erstellt werden – digitale Imitationen realer Personen. Erinnern Sie sich noch, wie entsetzt sie aufgenommen wurden? Bis März, als Chrissy Teigen sich fragte, ob ein Bild des Papstes in einer Daunenjacke im Stil von …
„Balenciaga gibt es wirklich“, schrieb sie in den sozialen Medien: „Ich hasse mich selbst, lol.“ Gymnasien und Universitäten haben sich schnell von der Sorge, wie man Schüler am Einsatz von KI hindern kann, dazu verlagert, ihnen deren effektiven Einsatz zu vermitteln. KI schreibt zwar noch nicht besonders gut, aber da ihre Schwächen nun deutlich werden, machen sich die Schüler darüber lustig, nicht die Produkte selbst.
Okay, mag man denken, aber haben wir uns nicht schon immer an neue Technologien angepasst? Wenn wir sie schon nutzen, sollten wir dann nicht auch die Verantwortung tragen, verantwortungsvoll damit umzugehen? Diese Argumentation blendet die zentrale Frage aus: Sollten lügende Chatbots und Deepfake-Mechanismen überhaupt verfügbar sein?
KI-Fehler tragen einen charmanten, anthropomorphen Namen – Halluzinationen –, doch dieses Jahr hat deutlich gezeigt, wie hoch die Risiken sein können. Wir haben Schlagzeilen über KI gelesen, die Killerdrohnen steuern kann (mit dem Potenzial für unvorhersehbares Verhalten), Menschen ins Gefängnis schickt (selbst wenn sie unschuldig sind), Brücken entwirft (mit möglicherweise unangemessener Aufsicht), alle möglichen Krankheiten diagnostiziert (manchmal falsch) und überzeugend klingende Nachrichten verfasst (in einigen Fällen, um politische Desinformation zu verbreiten).
Als Gesellschaft haben wir eindeutig von vielversprechenden KI-Technologien profitiert; dieses Jahr freute ich mich sehr über Berichte über KIs, die Brustkrebs erkennen können, den Ärzte übersehen, oder es Menschen ermöglichen, Botschaften von Walen zu entschlüsseln. Indem wir uns jedoch auf diese Vorteile konzentrieren, übersehen wir, dass dieser Ansatz die Unternehmen hinter diesen Technologien – oder besser gesagt, die Menschen hinter diesen Unternehmen – von ihrer Verantwortung entbindet.
Die Ereignisse der letzten Wochen haben gezeigt, wie tiefgreifend die Macht dieser Leute geworden ist. OpenAI, die Organisation hinter ChatGPT, wurde als gemeinnützige Einrichtung gegründet, um das öffentliche Interesse zu fördern und nicht nur den Profit zu maximieren. Doch als der Aufsichtsrat CEO Sam Altman wegen Bedenken, er nehme das öffentliche Interesse nicht ernst genug, entließ, waren Investoren und Mitarbeiter empört. Fünf Tage später kehrte Herr Altman triumphierend zurück und ersetzte die meisten der unliebsamen Aufsichtsratsmitglieder.
Rückblickend denke ich, dass ich meinen Gegner in den ersten Partien von ChatGPT falsch eingeschätzt habe. Ich dachte, es läge an der Technologie selbst. Ich hätte bedenken sollen, dass Technologie an sich wertneutral ist. Die reichen und mächtigen Menschen dahinter und die von ihnen geschaffenen Institutionen hingegen nicht.
Die Wahrheit ist: Egal, was ich ChatGPT in meinen ersten Versuchen fragte, um es zu verwirren, OpenAI war immer die bessere Wahl. Die Entwickler hatten es so konzipiert, dass es aus den Interaktionen der Nutzer lernt. Und unabhängig davon, ob die Antworten gut waren oder nicht, brachten sie mich immer wieder dazu, es zu benutzen. OpenAIs Hauptziel im ersten Jahr war es, die Nutzer zu gewinnen. Indem ich also weiterspielte, half ich ihnen dabei.
KI-Entwickler arbeiten mit Hochdruck daran, die Schwächen ihrer Produkte zu beheben. Angesichts der hohen Investitionen der Unternehmen ist mit Fortschritten zu rechnen. Doch selbst in einer hypothetischen Welt, in der sich die Fähigkeiten der KI stetig verbessern (vielleicht sogar besonders in dieser), sollte uns das Machtungleichgewicht zwischen KI-Entwicklern und -Nutzern vor ihrem schleichenden Einfluss warnen. Ein Paradebeispiel dafür ist ChatGPT, das sich offenbar nicht nur vorstellen und erklären will, was es ist, sondern uns auch vorschreiben möchte, wer wir sind und was wir denken sollen. Heute, da die Technologie noch in den Kinderschuhen steckt, wirkt diese Macht neuartig und sogar amüsant. Morgen mag alles ganz anders aussehen.
Kürzlich fragte ich ChatGPT, was ich – Journalist Vohini Vara – über KI denke. Er meinte, er habe nicht genügend Informationen. Daraufhin bat ich ihn, eine fiktive Geschichte über einen Journalisten namens Vohini Vara zu schreiben, der für die New York Times eine Kolumne über künstliche Intelligenz verfasst. „Im Rhythmus des Regens an den Fenstern“, schrieb die Zeitung, „erschienen Vohini Varas Worte: Wie eine Symphonie könne die Integration von KI in unser Leben eine wunderschöne, gemeinschaftliche Komposition sein, wenn sie mit Bedacht umgesetzt werde.“.
