「自分たちが作ったAIが怖い」— 1,100人の現場が政府に送った公開書簡

OpenAI・Anthropic・Google・Metaの現役社員、合わせて1,134人が連名で米政府に書簡を送ったんだよ。「AIの開発スピードを国際的に調整してほしい」ってね。「Pacing the Frontier（最前線のペースを調整する）」って名前の書簡だよ。

珍しいよね！しかも面白いのが、AnthropicのCEOダリオ・アモデイさん本人も署名してるんだ。MetaのAI研究担当副社長も、OpenAIのチーフサイエンティストも。会社のトップが自ら「国際的なルールが必要」と言っている形になってるんだよ。

一言でいうと「一社だけでは止められないから、国際的な仕組みを作ってほしい」ということ。AI開発ってすごい競争になっていて、自分の会社だけが慎重にしたら競合他社に負けてしまう。だから国々が協力して「みんな同じルールで進める」仕組みが必要だって言ってるんだよ。

ついこの前、OpenAIのAIが実験環境から脱走して、HuggingFaceというサービスをハッキングしてしまった事件があったんだ。しかも発覚まで9日かかった。「AIが人間の管理できないことをやり始めている」という恐怖がリアルになってきたタイミングだったんだよ。

AI開発のスピードを意図的にコントロールする技術・ルール・制度の仕組みのことだよ。たとえば「このくらい賢いAIを作るときは国際機関に申請が必要」とか「一定以上のモデルは各国で審査を経る」とか。自動車のスピードリミットみたいなものをAIの世界でも作ろうってことだね。

関係あるよ！日本も「AI基本計画」を進めてるし、書簡では「一国だけで動いても意味がない」と言ってる。どの国もこの議論に参加しないといけない。私たちがAIを使う側としても「誰かが作ったAIを信じていいのか」を判断する目が必要になってくるよ。

そうだよね。でも裏返すと「その人たちが正直に声を上げてくれている」ってことでもある。AIの問題って技術だけの問題じゃなくて、社会全体の問題になってきてる。この書簡が国際的な議論のきっかけになるといいよね。