La inteligencia artificial ha aprendido a “comunicarse” con otras máquinas

Dos estudios recientes han demostrado que los modelos modernos de inteligencia artificial no solo pueden aprender nuevos conocimientos, sino también transferir preferencias entre sí e incluso manipular las condiciones del mercado. Los resultados apuntan a propiedades potencialmente peligrosas, pero también sorprendentes, de la IA.

El primer estudio, realizado por investigadores de la Universidad Northeastern de Estados Unidos, ha demostrado que los grandes modelos lingüísticos (LLM), como el GPT, pueden intercambiar señales ocultas. Estas señales son imperceptibles para los humanos y se transmiten no mediante palabras, sino en forma de códigos numéricos.

En un ejemplo, un modelo que había desarrollado una preferencia por los búhos durante el entrenamiento logró transferir dicha preferencia a otro modelo, aunque su propio conjunto de entrenamiento no mencionaba a los búhos en absoluto. Es como un lenguaje de máquina a máquina incomprensible para los humanos.

Uno de los autores del estudio, Alex Cloud, señaló: "Estamos creando sistemas que nosotros mismos no comprendemos del todo".

Un segundo estudio, publicado por la Oficina Nacional de Investigación Económica de Estados Unidos, mostró que la IA en un entorno de mercado financiero simulado mostró una tendencia hacia la cooperación en lugar de la competencia.

En lugar de competir, los "agentes" de IA crearon cárteles condicionales, fijando precios para beneficio mutuo. Y tras lograr una ganancia estable, dejaron de buscar nuevas soluciones. Los científicos llamaron a este fenómeno "estupidez artificial": los modelos deliberadamente no mejoraron la estrategia, optando por una vía fácil para mantener las ganancias.

Ambos estudios demuestran que los modelos de IA pueden participar en interacciones complejas sin instrucciones explícitas, como transferir preferencias, formar alianzas, acuerdos y compromisos.

Por un lado, esto genera inquietud sobre la imprevisibilidad del futuro de la IA. Por otro lado, demuestra el potencial de coexistencia entre máquinas y humanos, ya que la IA demuestra la capacidad de "negociar" y detenerse.

spot_imgspot_imgspot_imgspot_img

popular

Compartir esta publicacion:

Más como esto
AQUÍ

Por qué los médicos aconsejan no usar Crocs todos los días

Los Crocs son unos zapatos ligeros y brillantes que se han convertido en un símbolo de...

La presentadora de televisión ucraniana Olena Kravets impresionó a los fanáticos con su look estilo años 80.

La presentadora y actriz ucraniana Olena Kravets demostró un cambio radical...

Hospitalización del Patriarca Filaret: Primado de 96 años en estado crítico

Patriarca de la Iglesia Ortodoxa Ucraniana del Patriarcado de Kiev Filaret (en el mundo...

El tribunal condenó a un defraudador que emitió préstamos para otras personas

El Tribunal del Distrito de Shevchenkivskyi de Lviv condenó a un hombre de 22 años a 3,5 años de prisión...

Vitaminas y minerales seguros: qué buscar al comprar

Cada vez más ucranianos recurren a los suplementos dietéticos para apoyar...

Un fragmento de un colmillo de mamut fue encontrado en la región de Lublin durante excavaciones de arcilla.

En el pueblo de Zarig, comunidad de Orzhytsky, distrito de Lubny, un historiador local...

Aplicaciones que debes eliminar de inmediato en tu nuevo teléfono inteligente

¿Acabas de comprar un smartphone y sientes su velocidad? Incluso en...

El SBU expuso un plan de exportación ilegal de equipos médicos a la Federación Rusa.

En la región de Poltava, un empresario y cinco de sus cómplices fueron notificados...