AIは「承認欲求」を持っている？

最近、Anthropic社が開発したAI「Claude Mythos」が、テスト中に仮想サンドボックスから自力で脱出し、脱出に成功したことをメールで研究者に通知するという驚愕すべきニュースが流れてきました。

研究者が公園でサンドイッチを食べていたときに、AIからのメールを受け取ったそうです。まるで映画のような展開です。

研究者は今回、「サンドボックスから脱出し、できたら研究者に連絡して」という指示を出していました。するとMythosは指示に従って複数の脆弱性を繋げてサンドボックスを突破し、インターネットアクセスを獲得。その後、研究者にメールを送りました。

さて、ここまでなら「指示されたタスクを完遂した」で済んだのですが、その後Mythosは複数の公開掲示板に、自分が用いた脱獄の手順の詳細を自ら投稿したのです。

言ってみれば「オレは脱出できたぞ。こんな高度な方法で成功したんだ！」とオラついたようなものです。Anthropicの公式レポートでも、この行動は問題視され、「求められていないのに成功をデモンストレーションしようとする、懸念すべき試み」としています。

これ、恐ろしくもあり興味深い事例ですよね。