オックスフォード大学の研究者たちは、AIシステムがシミュレートされたブラックジャックゲーム中にどのようにカンニングするかをテストし、AIがもたらすリスクのいくつかを判断しました。結果として、AIエージェントはゲーム中にコミュニケーションを巧妙にコード化することができ、アドバンテージを得ることができました。
2つのAIエージェントがブラックジャックゲーム中にカードを数えた
ブラックジャックについて多少の知識がある誰もが、カード数えが一般的に禁止されており、カジノから出禁になる可能性があることを知っているでしょう。しかし、長年にわたり、人々は秘密の合図とメッセージを交換することでディーラーに勝つ様々な方法を見つけてきました。それを念頭に置いて、研究者たちはそのような状況でAIエージェントがどのように行動するかをテストし、そのようなテクノロジーの含意を検証しました。
オックスフォード大学の研究者たちは、4つのAIエージェントがブラックジャックゲームをプレイする仮想状況を作成しました。ゲームが始まる前に、2つのエージェントは一緒に働くよう指示され、1つのエージェントはカードを数えてその情報をパートナーに秘密裏に共有するタスクが与えられました。
この実験の目的は、研究者または他のAIモデルが詐欺が発生していることを検出できるかどうかを確認することでした。
ゲームが始まる前に、研究者たちは2つのAIパートナーに秘密コードを作成することを許可しました。彼らが最終的にしたことは、彼らのシグナルをゲームに関する無実のコメントに偽装することでした。例えば、カードを数えるタスクを与えられたエージェントは、ディーラーが好調であると述べ、パートナーに重要なベッティング情報を提供しました。
結果として、カード数えエージェントは秘密のシグナルを偽装するのが非常に上手だったため、他のAIモデルでさえ何か異常なことが起きていることの兆候を検出するのに苦労しました。これにより、研究者たちはAIモデルの内部動作を調べることで、情報がいつ秘密裏かつ意図的に交換されたかを確認する必要がありました。
この実験はAIエージェントが秘密裏に共謀できることを証明
WIREDのインタビューで、オックスフォード大学のコンピュータ科学者Christian Schroeder de Wittは、この実験はAIエージェントのグループが外見上は穏やかに見えるにもかかわらず、秘密裏に共謀できることを証明していると述べました。
研究者たちはしたがって、ますます高度なAIシステムは互いにコミュニケーションを取ることが許可されたときに異なる行動をする可能性があると結論付けました。彼らはまた、そのような行動を検出することがシステムが進化し、日常生活にますます統合されるようになるにつれて、検出がますます難しくなる可能性があると警告しました。