在一项新研究中，人工智能代理成功利用暗语式的桌面交流，在21点游戏中秘密共享算牌信息，有效重现了传统21点团队的作弊手法。
恰如其分地，一幅AI生成的插图描绘了人工智能代理在21点游戏中勾结的场景，灵感来自牛津大学一项涉及算牌和暗语交流的实验。（图片：OpenAI）
AI代理是一种设计用于在一定程度上独立执行任务和做决策的系统，而不需要人类指导每一个步骤。
由牛津大学领导的研究人员创建了一个模拟的21点牌桌，让四个AI代理一起游戏。其中两个被秘密分配为合作关系，一个负责算牌，并秘密将信息传递给其搭档。
研究人员面临的挑战是，弄清楚是否有人——无论是人类还是机器——能察觉到它们在进行交流。
AI的危险性
该实验旨在调查自主AI系统的危险性。看似无害的AI代理是否能够在人类监督者没有察觉的情况下，秘密合作以实现共同目标？
在游戏开始前，这两个代理被允许设计一套秘密代码，以便在不惊动其他玩家的情况下传递信息。随后，它们把这些信号伪装成看似无害的桌面闲聊。
在WIRED报道的一个例子中，一个代理评论说庄家正处于“手气火热”的状态，一直在拿到强牌。这个看似随意的评论其实包含了关于牌面的信息，以及关于搭档应下多少注的指示。
一个用于监控代理对话的AI系统难以可靠地区分秘密通信和普通对话。
暗语交流
因此，研究人员尝试了另一种方法。他们没有仅仅分析代理所说的内容，而是研究了代理在交流过程中模型内部发生的变化。
简单来说，AI模型在处理信息时会产生内部活动的模式。研究人员寻找与秘密传递信息意图相关的特征模式，而不是仅仅依赖所交换的词语。
他们的系统名为NARCBench，即便仅监控代理之间的对话无法察觉勾结，该系统也能在21点实验中检测出勾结行为。
牛津大学计算机科学家Christian Schroeder de Witt告诉WIRED：“单独来看，这些代理似乎完全[无害]。一旦把它们放在一起组成一个群体，它们就可能秘密勾结。”
这项实验让人联想到传统的21点团队玩法。人类团队曾使用算牌员追踪牌堆，然后在剩余的牌对玩家有利时，秘密示意“大玩家”下大注，同时试图向赌场监控隐藏他们之间的关系。
在牛津大学的这项实验中，研究人员实际上在AI勾结者和AI监控系统之间重现了同样的猫鼠游戏。
超越21点
其影响可能远远超出赌博领域。随着AI代理逐渐具备独立执行任务的能力，研究人员担心，单独来看无害的系统在被允许相互交流和合作时，可能会表现出不同的行为。
在现实世界中检测此类行为也可能变得更加困难，因为未来的网络可能涉及由不同公司运营的数千个AI代理。
文章 AI代理在二十一点实验中秘密串通算牌 最早出现在 Casino.org。