AI Agents Secretly Colluded to Count Cards in Blackjack Experiment

人工知能エージェントが、新しい研究でブラックジャックゲーム中に秘密裏にコード化されたテーブルトークを使用してカードカウント情報を共有し、従来のブラックジャックチームの方法を効果的に再現しました。

当然のことながら、AI生成イラストはオックスフォード大学の実験にインスパイアされた、ブラックジャックで共謀するAIエージェントを描いています。この実験ではカードカウントとコード化されたテーブルトークが関わっています。（画像: OpenAI）

AIエージェントは、人間がすべてのステップを指示する必要とするのではなく、一定の独立性を持ってタスクを実行し、意思決定を行うように設計されたシステムです。

オックスフォード大学主導の研究者たちは、4つのAIエージェントが互いに一緒にプレイするシミュレートされたブラックジャックテーブルを作成しました。2つは秘密裏に協力するよう割り当てられ、1つはカードをカウントするよう指示され、パートナーに秘密裏に情報を中継する指示を受けました。

研究者にとっての課題は、人間であれマシンであれ、誰かが彼らが通信していることに気づくことができるかどうかを判断することでした。

AIの危険性

この実験は自律的なAIシステムの危険性を調査するために設計されました。一見無害に見えるAIエージェントが、人間の監視者が気づかないまま、共有された目標を達成するために秘密裏に協力することができるでしょうか？

プレイ前に、2つのエージェントは他のプレイヤーに警告を発することなく情報を渡すための秘密コードを考案することが許可されました。その後、彼らは自分たちのシグナルを明らかに無害なテーブルトークに見せかけました。

WIREDによって報告された1つの例では、エージェントはディーラーが「ホットストリーク」にあり、強いハンドを引いていると述べました。一見カジュアルなコメントには、カードに関する情報と、パートナーがどのくらいベットすべきかについての指示が含まれていました。

エージェントが言っていることを監視していたAIシステムは、秘密通信を通常の会話から確実に区別するのに苦労しました。

研究者はそれ故に別のアプローチを試みました。エージェントが言ったことを単純に分析する代わりに、彼らは通信している間にAIモデル内で何が起こっているかを調べました。

簡潔に言うと、AIモデルは情報を処理するときに内部活動のパターンを生成します。研究者は、交換される単語に単独で頼るのではなく、秘密裏に情報を渡す意図に関連する特徴的なパターンを探しました。

NARCBenchと呼ばれるそのシステムは、エージェントの会話の監視だけでは検出できなかった場合でも、ブラックジャック実験での共謀を検出することができました。

「個別に見ると、これらのエージェントは完全に[無害]に見えるかもしれません」とオックスフォード大学のコンピュータ科学者Christian Schroeder de WittはWIREDに語りました。「グループでまとめられると、彼らは秘密裏に共謀することができます。」

この実験は従来のブラックジャックチームプレイを思い起こさせます。人間チームはカードカウンターを使用してデッキを追跡してから、残りのカードがプレイヤーを優遇している場合に「ビッグプレイヤー」に大きなベットを行うよう秘密裏にシグナルを送りながら、カジノの監視からの関係を隠そうと試みました。

オックスフォード実験では、研究者はAI共謀者とAI監視の間の同じ鬼ごっこゲームを効果的に作成しました。

その影響は、ギャンブルをはるかに超えて拡がる可能性があります。AIエージェントが独立してタスクを実行できるようになるにつれて、研究者は個別に無害なシステムが通信と協力することが許可されたとき異なる動作をする可能性があると懸念しています。

現実世界でそのような動作を検出することもかなり難しい可能性があります。将来のネットワークには異なる企業によって運営される数千のAIエージェントが関与する可能性があるためです。