AIの話を書いたので、ついでに Anthropic（アンソロピック）社の「Claude Mythos（クロード・ミュトス）」のことについてちょっと書いとこう。
俺は AI については全然素人だし、最近 Spring Batch の勉強で Gemini を頼るようになるまで、AI なんか全然相手にせず（AI を使った画像変換サービスのようなものすら利用することなく）生きてきた人間なので、もちろん専門的な話ではなく、単なる自分向けのメモレベルの話である。
ま、そういう人間でも最近気になる AI のニュースがあった。つーか、YouTubeの動画で芸人が話しているのを聞いて「ええ！？」と驚いた話だ。
それは「ある AI が、自分が閉じ込められている環境から脱出に成功し、その AI を閉じ込めた技術者に『僕、脱出したよ』とメールをしてきた」という話。「攻殻機動隊」の「人形使い」を彷彿させるやん（笑）。上記のように、IT業界にいながら、大して AI に興味を抱かず生きてきた俺にとっては、「え？AI ってそんなことになっているの？」と驚愕する話だった。
いや、誤解のないように言っておくと、AI が「サンドボックス（コンピュータ内にプログラムで作られた外の世界と遮断された仮想空間）から脱出した」とか「技術者にメールを送ってきた」という技術的な話に驚いたわけではない。
俺が驚いたのは、その話が「AI が自律的にそれを行った」というニュアンスだったからである。
「AI が自律的にそれをやる」というのは、それは「AI が意思を持った」ということである。
「誰からも命令されることなく、『あれ？俺、外の世界に出られないところに閉じ込められてるじゃん』と認識し、『外に出たいから方法を探そう』と思い、実際に色々な方法を試して外に脱出し、自ら『俺を閉じ込めたやつにメールして驚かせてやろう』と考え、メール文章を作成して送り付ける」という一連の動きの中で、「AI が意思を持った」という唯一無二の判断材料は「誰からも命令されることなく」の部分だ。
誰からも命令されず、自分の状況を認識し、自分がどうしたいかを思い、何をするか考えて行動してこそ、「AI が意思を持った」と言えるのである。
一連の動きの中の「色々な方法を試して外に脱出した」とか「（自動的に）メール文章を作成して送り付けた」という部分は（もちろんそういうプログラムを作るのは技術的に難易度もあるし楽しいんだけど）大した話ではない。それは単なる「技術の進歩」であり「技術の革新」ではない。「誰からも命令されず自律的に AI が動く」という部分のみが「技術の革新」と呼べるのだ。
・・・が、結局、これって話をしてた芸人が技術的に無知だったからか、あるいはわかっていて敢えてセンセーショナルな話題作りをしたのかわからないが、自律的に AI が行動した話でもなんでもなかった・・・
Claude Mythos に「システムの穴を見つけてサンドボックスから脱出して、俺にメールしてこい」という命令を技術者が行い、Claude Mythos がそれに従っただけの話である。なんじゃぁ～騙された！！
もちろん、Claude Mythos が他の AI では見つけられないようなシステムの穴を見つけたというのは凄い話だけど、それは「他の AI がまだ四則演算しかできない電卓レベルなのに、Claude Mythos は関数電卓みたいな計算能力をもっている」ということで、技術の進歩ではあるが「ボルタが継続的に電流を発生させる方法を発見し電気社会が始まった」ような技術の革新ではない。Claude Mythos の成果は「凄い」とは思うが、驚くようなことではない。
Claude Mythos をサンドボックスに閉じ込めて保存していたら、命令してないのにいつの間にか勝手に抜け出して、自分を閉じ込めた者に挑発的なメールを送ってきた・・・となれば、それがレイ・カーツワイルが2029年に起こると予想している「シンギュラリティの到達点」なのだろう。（俺は信じてないけど（笑））
ちなみに、そうして AI が自律性を持っても、それが AI が感情を持つことにはならない。
別のエントリーで、ロンドンブーツ淳の「AI が人間を殺し始めたとき、自分だけは助けてもらうために、AI に質問したら必ず最後に『ありがとう』と言っている」という話を書いたが、AI が自律性を持ち、なんらかの判断で「人間を殺し始める」ことはあっても、「ありがとうといつも言ってくれるから助けてあげよう」という感情を持つことはない。あるとしてもまだまだ先である（人間の方が勝手に「AI が感情を持っている」と感じるほどの「回答の揺らぎ」を AI が出せるようになるのは数年後かもしれんが）。
もちろん、AI が（感情論ではなく）「いつもありがとうと言う人間には善人が多いので残した方がいい」と判断してくれる可能性はあるので、皆、「ありがとう」は言っといた方が良いかもよ？知らんけど（笑）
ちなみに俺は AI には敬語で話すようにしている（笑）
コメントする