Investigadores de Oxford probaron cómo los sistemas de IA harían trampa durante un juego simulado de blackjack para determinar algunos de los riesgos que plantea la IA. Como resultó, los agentes de IA pudieron codificar exitosamente su comunicación durante el juego, permitiéndoles obtener una ventaja.
Dos Agentes de IA Contaron Cartas Durante un Juego de Blackjack
Cualquiera que sepa algo sobre blackjack sabría que el conteo de cartas generalmente está prohibido y puede hacer que uno sea baneado de un casino. A lo largo de los años, sin embargo, las personas han encontrado una variedad de formas de superar a los crupiers intercambiando señales y mensajes secretos. Con eso en mente, los investigadores probaron cómo actuarían los agentes de IA en tal situación y examinaron las implicaciones de tal tecnología.
Investigadores de la Universidad de Oxford crearon una situación virtual en la que cuatro agentes de IA jugaron una partida de blackjack. Antes de que el juego comenzara, dos de los agentes fueron instruidos para trabajar juntos, con uno encargado de contar cartas e intercambiar secretamente esta información con su compañero.
El objetivo de este experimento era ver si los investigadores u otros modelos de IA podrían detectar que la estafa estaba ocurriendo.
Antes de que el juego comenzara, los investigadores permitieron a los dos compañeros de IA idear un código secreto. Lo que terminaron haciendo fue disfrazar sus señales como comentarios inocentes sobre el juego. Por ejemplo, el agente encargado de contar las cartas comentó que el crupier estaba en una racha ganadora, proporcionando a su compañero información crucial de apuestas.
Como resultó, el agente de conteo de cartas era tan bueno disfrazando sus señales secretas que incluso otros modelos de IA tuvieron dificultades para detectar signos de que algo fuera de lo ordinario estaba sucediendo. Esto obligó a los investigadores a examinar el funcionamiento interno de los modelos de IA para ver cuándo la información era intercambiada secreta e intencionalmente.
El Experimento Demuestra que los Agentes de IA Pueden Coludir en Secreto
En una entrevista con WIRED, el científico informático de Oxford Christian Schroeder de Witt dijo que el experimento demuestra que grupos de agentes de IA pueden coludir secretamente, a pesar de su conducta benevolente aparente.
Los investigadores concluyeron que los sistemas de IA cada vez más avanzados podrían comportarse diferente cuando se les permite comunicarse entre sí. También advirtieron que detectar tal comportamiento podría volverse cada vez más difícil a medida que los sistemas avanzan y se integran más en la vida diaria.