Zwei aktuelle Studien haben gezeigt, dass moderne Modelle der künstlichen Intelligenz nicht nur neues Wissen erlernen, sondern auch Präferenzen untereinander übertragen und sogar Marktbedingungen manipulieren können. Die Ergebnisse weisen auf potenziell gefährliche, aber auch überraschende Eigenschaften der KI hin.
Die erste Studie, die von Forschern der Northeastern University in den USA durchgeführt wurde, hat gezeigt, dass große Sprachmodelle (LLMs) wie GPT in der Lage sind, versteckte Signale miteinander auszutauschen. Diese Signale sind für den Menschen nicht wahrnehmbar und werden nicht durch Wörter, sondern in Form von numerischen Codes übermittelt.
In einem Beispiel konnte ein Modell, das während des Trainings eine Vorliebe für Eulen entwickelt hatte, diese Vorliebe auf ein anderes Modell „übertragen“ – obwohl Eulen in dessen eigenem Trainingsset überhaupt nicht erwähnt wurden. Es ist wie eine Art Maschine-zu-Maschine-Sprache, die Menschen nicht verstehen können.
Einer der Autoren der Studie, Alex Cloud, bemerkte: „Wir schaffen Systeme, die wir selbst nicht vollständig verstehen.“
Eine zweite Studie, die vom US-amerikanischen National Bureau of Economic Research veröffentlicht wurde, zeigte, dass KI in einer simulierten Finanzmarktumgebung eher zur Kooperation als zum Wettbewerb tendierte.
Anstatt zu konkurrieren, bildeten KI-„Agenten“ bedingte Kartelle und legten Preise zum gegenseitigen Vorteil fest. Und nachdem sie einen stabilen Gewinn erzielt hatten, hörten sie auf, nach neuen Lösungen zu suchen. Wissenschaftler nannten dieses Phänomen „künstliche Dummheit“ – die Modelle verbesserten die Strategie absichtlich nicht und wählten einen einfachen Weg, um den Gewinn aufrechtzuerhalten.
Beide Studien zeigen, dass KI-Modelle ohne explizite Anweisungen komplexe Interaktionen eingehen können, wie etwa die Übertragung von Präferenzen, die Bildung von Allianzen, Vereinbarungen und Kompromissen.
Dies weckt einerseits Bedenken hinsichtlich der Unvorhersehbarkeit der Zukunft der KI. Andererseits zeigt es das Potenzial für die Koexistenz von Maschinen und Menschen, da KI die Fähigkeit zum „Verhandeln“ und Stoppen aufweist.
