Künstliche Intelligenz hat gelernt, mit anderen Maschinen zu „kommunizieren“

Zwei aktuelle Studien haben gezeigt, dass moderne Modelle der künstlichen Intelligenz nicht nur neues Wissen erlernen, sondern auch Präferenzen untereinander übertragen und sogar Marktbedingungen manipulieren können. Die Ergebnisse weisen auf potenziell gefährliche, aber auch überraschende Eigenschaften der KI hin.

Die erste Studie, die von Forschern der Northeastern University in den USA durchgeführt wurde, hat gezeigt, dass große Sprachmodelle (LLMs) wie GPT in der Lage sind, versteckte Signale miteinander auszutauschen. Diese Signale sind für den Menschen nicht wahrnehmbar und werden nicht durch Wörter, sondern in Form von numerischen Codes übermittelt.

In einem Beispiel konnte ein Modell, das während des Trainings eine Vorliebe für Eulen entwickelt hatte, diese Vorliebe auf ein anderes Modell „übertragen“ – obwohl Eulen in dessen eigenem Trainingsset überhaupt nicht erwähnt wurden. Es ist wie eine Art Maschine-zu-Maschine-Sprache, die Menschen nicht verstehen können.

Einer der Autoren der Studie, Alex Cloud, bemerkte: „Wir schaffen Systeme, die wir selbst nicht vollständig verstehen.“

Eine zweite Studie, die vom US-amerikanischen National Bureau of Economic Research veröffentlicht wurde, zeigte, dass KI in einer simulierten Finanzmarktumgebung eher zur Kooperation als zum Wettbewerb tendierte.

Anstatt zu konkurrieren, bildeten KI-„Agenten“ bedingte Kartelle und legten Preise zum gegenseitigen Vorteil fest. Und nachdem sie einen stabilen Gewinn erzielt hatten, hörten sie auf, nach neuen Lösungen zu suchen. Wissenschaftler nannten dieses Phänomen „künstliche Dummheit“ – die Modelle verbesserten die Strategie absichtlich nicht und wählten einen einfachen Weg, um den Gewinn aufrechtzuerhalten.

Beide Studien zeigen, dass KI-Modelle ohne explizite Anweisungen komplexe Interaktionen eingehen können, wie etwa die Übertragung von Präferenzen, die Bildung von Allianzen, Vereinbarungen und Kompromissen.

Dies weckt einerseits Bedenken hinsichtlich der Unvorhersehbarkeit der Zukunft der KI. Andererseits zeigt es das Potenzial für die Koexistenz von Maschinen und Menschen, da KI die Fähigkeit zum „Verhandeln“ und Stoppen aufweist.

spot_imgspot_imgspot_imgspot_img

beliebt

Teile diesen Beitrag:

Mehr wie das
HIER

Die Ukrainer haben den Kauf von Bargeld stark reduziert: Warum ist das passiert und was wird als nächstes passieren?

Im zweiten Quartal 2025 haben die Ukrainer ihre Nachfrage deutlich reduziert …

Kartellrechtliches Schema: Wie Vorobey, Kyrylenko und Muzychenko die Beschlagnahme von Vermögenswerten von UPG und der Privat Group legalisierten

Beamte des Antimonopolkomitees befanden sich im Zentrum eines groß angelegten Strafverfahrens …

Parimatch ist zurück als Stawki – ein Offshore-Casino wurde in der Ukraine eröffnet

Inmitten der aufsehenerregenden Sanktionen gegen Parimatch ...

Gaidai im Drohnenfall: Vollstrecker oder Deckmantel der Generäle?

Die Festnahme von Serhiy Gaidai, dem ehemaligen Leiter der Luhansker OVA, durch NABU-Ermittler …

Bohraufzeichnungen von Naftogaz: Was sich hinter Tausenden von Metern Bohrlöchern verbirgt

Im ersten Quartal 2025 wird JSC Ukrgazvydobuvannya, ein Schlüsselunternehmen...

Gefährlicher EURO5-Dieselkraftstoff bedroht Armee und Haushalt

Das Unternehmen „EURO5“ LLC, das sich als Lieferant von Kraftstoffen positioniert...

Die Ukrainer begannen, mehr Alkohol zu trinken: Die Nachfrage nach starken Getränken und billigem Importwein stieg

Trotz eines umfassenden Krieges bleibt der Alkoholverkauf in der Ukraine ...

Für den 6. August werden in Kiew und der Region Gewitter, Hagel und Sturmböen mit bis zu 20 m/s erwartet: Eine Sturmwarnung wurde herausgegeben.

Heute wird mit einer Verschlechterung der Wetterbedingungen in Kiew und der Region Kiew gerechnet …