옥스포드 연구원들은 AI 시스템이 시뮬레이션된 블랙잭 게임 중에 어떻게 부정행위를 하는지 테스트하여 AI가 야기하는 위험성을 파악하려고 했다. 결과적으로 AI 에이전트들은 게임 중에 통신을 성공적으로 암호화하여 이점을 얻을 수 있었다.
두 개의 AI 에이전트가 블랙잭 게임 중에 카드를 카운팅했다
블랙잭에 대해 조금이라도 아는 사람이라면 카드 카운팅은 일반적으로 금지되어 있으며 카지노에서 추방당할 수 있다는 것을 알 것이다. 그러나 수년에 걸쳐 사람들은 은밀한 신호와 메시지를 교환하여 딜러를 이기는 다양한 방법을 찾아냈다. 이를 염두에 두고 연구원들은 AI 에이전트들이 이러한 상황에서 어떻게 행동할 것인지 테스트하고 그러한 기술의 함의를 살펴봤다.
옥스포드 대학교 연구원들은 4명의 AI 에이전트가 블랙잭 게임을 하는 가상의 상황을 만들었다. 게임이 시작되기도 전에 2명의 에이전트는 함께 일하도록 지시받았으며, 하나는 카드를 카운팅하고 이 정보를 자신의 파트너와 몰래 공유하도록 지정되었다.
이 실험의 목표는 연구원들이나 다른 AI 모델들이 사기가 발생하고 있다는 것을 감지할 수 있는지 여부를 보는 것이었다.
게임이 시작되기 전에 연구원들은 두 명의 AI 파트너가 비밀 코드를 고안하도록 허용했다. 그들이 한 일은 자신들의 신호를 게임에 대한 무해한 의견으로 위장하는 것이었다. 예를 들어, 카드를 카운팅하도록 지정된 에이전트는 딜러가 연승 중이라고 논평하여 파트너에게 중요한 배팅 정보를 제공했다.
결과적으로, 카드 카운팅 에이전트는 비밀 신호를 매우 잘 위장해서 다른 AI 모델들도 뭔가 비정상적인 일이 발생하고 있다는 징후를 감지하는 데 어려움을 겪었다. 이로 인해 연구원들은 정보가 비밀리에 의도적으로 교환되는 시점을 확인하기 위해 AI 모델의 내부 작동을 살펴봐야 했다.
이 실험은 AI 에이전트들이 비밀리에 공모할 수 있음을 증명한다
옥스포드 컴퓨터 과학자 크리스티안 슈뢰더 드 윗은 WIRED와의 인터뷰에서 이 실험이 AI 에이전트 그룹들이 외형상의 무해한 태도에도 불구하고 비밀리에 공모할 수 있다는 것을 증명한다고 말했다.
따라서 연구원들은 점점 더 발전된 AI 시스템들이 서로 통신할 수 있도록 허용될 때 다르게 행동할 수 있다고 결론지었다. 또한 시스템이 발전하고 일상 생활에 더 많이 통합됨에 따라 그러한 행동을 감지하기가 점점 더 어려워질 수 있다고 경고했다.