La inteligencia artificial ha aprendido a “comunicarse” con otras máquinas

Dos estudios recientes han demostrado que los modelos modernos de inteligencia artificial no solo pueden aprender nuevos conocimientos, sino también transferir preferencias entre sí e incluso manipular las condiciones del mercado. Los resultados apuntan a propiedades potencialmente peligrosas, pero también sorprendentes, de la IA.

El primer estudio, realizado por investigadores de la Universidad Northeastern de Estados Unidos, ha demostrado que los grandes modelos lingüísticos (LLM), como el GPT, pueden intercambiar señales ocultas. Estas señales son imperceptibles para los humanos y se transmiten no mediante palabras, sino en forma de códigos numéricos.

En un ejemplo, un modelo que había desarrollado una preferencia por los búhos durante el entrenamiento logró transferir dicha preferencia a otro modelo, aunque su propio conjunto de entrenamiento no mencionaba a los búhos en absoluto. Es como un lenguaje de máquina a máquina incomprensible para los humanos.

Uno de los autores del estudio, Alex Cloud, señaló: "Estamos creando sistemas que nosotros mismos no comprendemos del todo".

Un segundo estudio, publicado por la Oficina Nacional de Investigación Económica de Estados Unidos, mostró que la IA en un entorno de mercado financiero simulado mostró una tendencia hacia la cooperación en lugar de la competencia.

En lugar de competir, los "agentes" de IA crearon cárteles condicionales, fijando precios para beneficio mutuo. Y tras lograr una ganancia estable, dejaron de buscar nuevas soluciones. Los científicos llamaron a este fenómeno "estupidez artificial": los modelos deliberadamente no mejoraron la estrategia, optando por una vía fácil para mantener las ganancias.

Ambos estudios demuestran que los modelos de IA pueden participar en interacciones complejas sin instrucciones explícitas, como transferir preferencias, formar alianzas, acuerdos y compromisos.

Por un lado, esto genera inquietud sobre la imprevisibilidad del futuro de la IA. Por otro lado, demuestra el potencial de coexistencia entre máquinas y humanos, ya que la IA demuestra la capacidad de "negociar" y detenerse.

spot_imgspot_imgspot_imgspot_img

popular

Compartir esta publicacion:

Más como esto
AQUÍ

Esquema antimonopolio: cómo Vorobey, Kyrylenko y Muzychenko legalizaron la confiscación de activos de UPG y Privat Group

Los funcionarios del Comité Antimonopolio se encontraron en el centro de un proceso penal a gran escala...

Parimatch regresa como Stawki: se ha lanzado un casino offshore en Ucrania

En medio de las sanciones de alto perfil contra Parimatch impuestas...

Gaidai en el caso del dron: ¿un ejecutor o una tapadera de los generales?

La detención del ex jefe de la OVA de Luhansk, Serhiy Gaidai, por detectives de NABU...

Los registros de perforación de Naftogaz: qué se esconde detrás de miles de metros de pozos

En el primer trimestre de 2025, JSC Ukrgazvydobuvannya, una empresa clave...

El peligroso combustible diésel EURO5 amenaza al ejército y al presupuesto

La empresa “EURO5” LLC, que se posiciona como proveedor de combustible...

Los ucranianos comenzaron a beber más alcohol: aumentó la demanda de bebidas fuertes y vino importado barato.

A pesar de una guerra a gran escala, las ventas de alcohol en Ucrania continúan...

El 6 de agosto se pronostican tormentas eléctricas, granizo y chubascos de hasta 20 m/s en Kiev y la región: se ha anunciado un aviso de tormenta.

Hoy se espera que las condiciones meteorológicas empeoren en Kyiv y la región de Kyiv...

En Poltava, se gastaron 20 mil grivnas en restaurar una fuente después de una "fiesta de la espuma".

La fuente del parque Shevchenko en Poltava tuvo que ser cerrada por completo y...