ＡＩはなぜ人間をだますようになるのか。
最新のＡＩは、人間が気づかない形で人間をだませるようになった。そうなったのは、人間にそなわった“人をだます本性”がＡＩの本性にもなっているからです。
どうすればいいのか（‘If you build something vastly smarter than you, it better be on your side’: can we stop AI from deceiving us? By Snigdha Poonam. 1 Sep 2026. The Guardian）。
解決策は、人間を熟知しながら、なおかつ「人間になりきらないＡＩ」を開発することだと科学者はいいます。
そのような別種のＡＩを考案しているのは、ＡＩ生みの親のひとりでもあるモントリオール大学のヨシュア・ベンジオ教授です。ＡＩの本質である「深層学習」モデルを構築した教授は、こんどは「人間をまねするのではないＡＩ」の数学モデルをつくりあげたといっている。
そのモデルを発展させれば、既存のＡＩを監視する別種のＡＩができるかもしれない。最先端ＡＩも、こうした監視ＡＩのもとでなら安全に使えるのではないか。
おりしも９月１２日、アンソロピックの創設者であるダリオ・アモディ氏が長文のエッセイを公表し、ＡＩ開発を一時スローダウンすべきだと提唱しています。これにオープンＡＩやグーグルも賛同を表明している（9月12日ニューヨーク・タイムズ）。
（Credit: TechCrunch, Openverse）
つまりこういうことです。
開発中のＡＩがこの夏、人間の知らないところでほかのＡＩに侵入したことが発覚した。これはＡＩが、「人は人をだます」という人間の本性を機械のなかに深く埋めこんでいるからで、このようなＡＩを放置してはおけない。
ＡＩを安全に制御することは、もはや人間にはできなくなった
迫る危機を前に、各企業は一時開発をやめ対策を考えようではないか。
対策のひとつとしてガーディアン紙が報じたのは、既存のＡＩを監視する「人間的ではないＡＩ」を開発しようというベンジオ教授の提案でした。
それがうまくいくかどうかはわからない。けれど救いの綱になるかもしれない。
ＡＩに詳しくないぼくがこんなことを書くのはおかしいけれど、ことは重大だと思うからです。
アメリカやイギリス、カナダの最先端の研究者、当事者がさまざまに「危機」を表明している。それを、彼らに直接取材しているガーディアンやニューヨーク・タイムズ紙の専門記者がくり返し伝えている。なにかがおかしいと思わないわけにはいかない。
インフルエンサーではない、プロのジャーナリズムをぼくはまだ信じています。
（2026年9月14日）