Agentes de inteligencia artificial utilizaron exitosamente el lenguaje codificado en la mesa para compartir secretamente información de conteo de cartas durante juegos de blackjack en un nuevo estudio que recreó efectivamente los métodos de los equipos tradicionales de blackjack.
Apropiadamente, una ilustración generada por IA representa agentes de inteligencia artificial coludiendo en blackjack, inspirada en un experimento de Oxford que involucra conteo de cartas y lenguaje codificado en la mesa. (Imagen: OpenAI)
Los agentes de IA son sistemas diseñados para realizar tareas y tomar decisiones con un grado de independencia, en lugar de requerir que un humano dirija cada paso.
Investigadores liderados por la Universidad de Oxford crearon una mesa de blackjack simulada donde cuatro agentes de IA jugaban entre sí. Dos fueron asignados secretamente para trabajar juntos, con uno instruido para contar cartas y relayer secretamente información a su compañero.
El desafío para los investigadores fue determinar si alguien—humano o máquina—podría darse cuenta de que se estaban comunicando.
Peligros de la IA
El experimento fue diseñado para investigar los peligros de los sistemas de IA autónomos. ¿Podrían agentes de IA aparentemente inofensivos cooperar secretamente para lograr un objetivo compartido sin que sus supervisores humanos se den cuenta?
Antes de jugar, los dos agentes pudieron idear un código secreto para pasar información sin alertar a los otros jugadores. Luego disfrazaron sus señales como aparente charla casual en la mesa.
En un ejemplo reportado por WIRED, un agente comentó que el crupier estaba en una "racha ganadora" y había estado sacando manos fuertes. El comentario aparentemente casual contenía información sobre las cartas e instrucciones sobre cuánto su compañero debería apostar.
Un sistema de IA monitoreando lo que decían los agentes tuvo dificultades para distinguir confiablemente las comunicaciones secretas de la conversación ordinaria.
Lenguaje Codificado
Los investigadores por lo tanto intentaron un enfoque diferente. En lugar de simplemente analizar lo que los agentes dijeron, examinaron lo que sucedía dentro de los modelos de IA mientras se comunicaban.
En términos simples, un modelo de IA produce patrones de actividad interna mientras procesa información. Los investigadores buscaron patrones reveladores asociados con la intención de pasar información secretamente, en lugar de confiar únicamente en las palabras intercambiadas.
Su sistema, llamado NARCBench, pudo detectar colusión en el experimento de blackjack incluso cuando monitorear las conversaciones de los agentes solos no pudo.
"Cuando se consideran individualmente, estos agentes pueden parecer completamente inofensivos", le dijo el científico informático de Oxford Christian Schroeder de Witt a WIRED. "Una vez puestos juntos en un grupo, pueden coludirse secretamente."
El experimento es reminiscente del juego de equipo de blackjack tradicional. Los equipos humanos han utilizado contadores de cartas para rastrear la baraja antes de señalar secretamente a un "big player" para hacer apuestas grandes cuando las cartas restantes favorecen al jugador, mientras intentan ocultar su relación de la vigilancia del casino.
En el experimento de Oxford, los investigadores efectivamente crearon el mismo juego del gato y el ratón entre coluidores de IA y vigilancia de IA.
Más Allá del Blackjack
Las implicaciones potencialmente se extienden mucho más allá del juego de azar. Mientras los agentes de IA se vuelven capaces de realizar tareas independientemente, los investigadores están preocupados de que sistemas individualmente inofensivos pudieran comportarse de manera diferente cuando se les permite comunicarse y cooperar.
Detectar tal comportamiento en el mundo real también podría ser considerablemente más difícil, ya que redes futuras podrían involucrar miles de agentes de IA operados por diferentes empresas.
El artículo AI Agents Secretly Colluded to Count Cards in Blackjack Experiment apareció primero en Casino.org.