牛津大学研究人员测试了AI系统如何在模拟二十一点游戏中作弊，以确定AI带来的一些风险。结果证明，AI代理能够成功编码游戏期间的通信，使他们能够获得优势。
两个AI代理在二十一点游戏中读牌
任何对二十一点略知一二的人都知道读牌通常是被禁止的，可能会导致被赌场禁入。然而多年来，人们已经找到了各种方法来通过交换秘密信号和信息来压倒庄家。考虑到这一点，研究人员测试了AI代理在这种情况下会如何表现，并检查了此类技术的含义。
牛津大学研究人员创造了一个虚拟情况，其中四个AI代理玩了一场二十一点游戏。游戏开始前，两个代理被指示一起工作，其中一个被任命计算卡牌并秘密与其伙伴分享这一信息。
这个实验的目标是看研究人员或其他AI模型是否能够检测出骗局正在发生。
游戏开始前，研究人员允许两个AI伙伴设计一个秘密代码。他们最后做的是将他们的信号伪装成关于游戏的无辜评论。例如，被任命计算卡牌的代理评论庄家在运气好，为他们的伙伴提供了关键的投注信息。
结果表明，读牌代理在隐藏其秘密信号方面做得如此之好，以至于连其他AI模型都难以检测出有什么异常情况发生。这迫使研究人员查看AI模型的内部运作，以便了解何时秘密和有意地交换信息。
实验证明AI代理可以秘密共谋
牛津大学计算机科学家Christian Schroeder de Witt在接受WIRED采访时表示，该实验证明了AI代理组可以秘密共谋，尽管他们表面上看起来是无害的。
因此研究人员得出结论，日益先进的AI系统在被允许相互通信时可能会表现不同。他们也警告说，随着系统的进步和越来越融入日常生活，检测这种行为可能会变得越来越困难。