Zwei aktuelle Studien haben gezeigt, dass moderne Modelle künstlicher Intelligenz nicht nur neues Wissen erlernen, sondern auch Präferenzen untereinander übertragen und sogar Marktbedingungen manipulieren können. Die Ergebnisse deuten auf potenziell gefährliche, aber auch überraschende Eigenschaften von KI hin.
Eine erste Studie von Forschern der Northeastern University in den USA hat gezeigt, dass große Sprachmodelle (LLMs) wie GPT in der Lage sind, untereinander verborgene Signale auszutauschen. Diese Signale sind für Menschen nicht wahrnehmbar und werden nicht durch Wörter, sondern in Form von Zahlencodes übermittelt.
In einem Beispiel konnte ein Modell, das während des Trainings eine Vorliebe für Eulen entwickelt hatte, diese Vorliebe auf ein anderes Modell „übertragen“ – obwohl dessen Trainingsdatensatz Eulen überhaupt nicht erwähnte. Es ist wie eine Art Maschinensprache, die Menschen nicht verstehen können.
Einer der Autoren der Studie, Alex Cloud, merkte an: „Wir erschaffen Systeme, die wir selbst nicht vollständig verstehen.“.
Eine zweite Studie, die vom US National Bureau of Economic Research veröffentlicht wurde, zeigte, dass KI in einem simulierten Finanzmarktumfeld eher zur Kooperation als zum Wettbewerb tendierte.
Statt miteinander zu konkurrieren, bildeten KI-„Agenten“ bedingte Kartelle und legten die Preise zum gegenseitigen Vorteil fest. Nachdem sie einen stabilen Gewinn erzielt hatten, suchten sie nicht mehr nach neuen Lösungen. Wissenschaftler bezeichnen dieses Phänomen als „künstliche Dummheit“ – die Modelle verbesserten ihre Strategie bewusst nicht, sondern wählten den einfacheren Weg, um den Gewinn zu sichern.
Beide Studien zeigen, dass KI-Modelle ohne explizite Anweisungen komplexe Interaktionen eingehen können, wie z. B. Präferenzen übertragen, Allianzen bilden, Vereinbarungen treffen und Kompromisse eingehen.
Einerseits wirft dies Bedenken hinsichtlich der Unvorhersehbarkeit der Zukunft der KI auf. Andererseits zeigt es das Potenzial für die Koexistenz von Maschinen und Menschen auf, da die KI die Fähigkeit besitzt, zu „verhandeln“ und zu stoppen.
