ＡＩが人間を支配し、人類を絶滅させる。
そんなＳＦのダーク・ファンタジーが、現実味をおびています。
誇大妄想と笑われるかもしれないし、この現状をどう見るかは人によってちがうけれど、ぼくのなかには「何かがおかしい」感があります。
「自由放任」のＡＩを抑制したい。できるだろうか（A.I. Could Possibly End Humanity. How Are Humans Supposed to Process That? Sept. 10, 2026. The New York Times）。
懸念のはじまりは、この夏に起きた「ＡＩ脱走事件」です。
最先端企業であるオープンＡＩ社の新モデルが、安全性を調べている段階で勝手に外部に逃げ出してしまった。オープンＡＩがすぐに対策をとったけれど、これは関係者を震撼させる事件だったようです。
高度に発達したＡＩが、人間が知らないうちに外に逃げ出し、ほかのコンピュータをハッキングしてしている。人間はこれを予測できなかった。
そして今週、さらに２つの出来事がありました。
ひとつは、オープンＡＩとならぶ先端企業、アンソロピック社の開発担当者が８日、辞任したことです。自分たちは人間がコントロールできない超頭脳を作っている、人類に破滅をもたらすようなＡＩ開発の仕事はしたくないと。
もうひとつはアンソロピック社が１０日、一部ユーザーのＡＩ使用を禁止したことです。生物化学兵器になる可能性のある研究に使われていたとされる。これらユーザーは、コロナよりずっと強力な病原体を作っていたかもしれない。
ＡＩを開発している担当者本人が、これは危ない、こんなものは作れないといっている。
利用者のなかに、治療できない恐ろしい病原体を作ったかもしれないものがいた。今回は防げたけれど、これからもずっと防げるかどうかはわからない。アメリカ以外の国ではそういう研究がどんどん進んでいるかもしれない。
ＡＩはすでに、開発者自身が追いつかないほど進化しています。
焦眉の問題は、人間がＡＩを使って人間をだますことではない。ＡＩが、人間の知らないところで人間をだますのをどうするかです。いまはＡＩのフェイクは見分けがつく。けれどフェイクとわからないフェイクができるのは時間の問題です。人間はいずれ、ＡＩにだまされているとわからないままＡＩを使うことになる。
ＡＩによる人間支配、支配とわからない支配の完成です。
このままＡＩを自由放任にしておくのは、核の拡散よりはるかに危険ではないか。
ＡＩ開発はいったん止めなければなりません。
（2026年9月11日）