ＡＩの「脅威」に、どう対処するか。
そんなこと考えてもしかたがないと、ぼくらは無力感をおぼえる。
しかしそれではいけないと、イギリス人は考えた。そして「ＡＩ安全保障研究所」、ＡＩＳＩという政府機関を作りました。どうしてそんなものがアメリカではなくイギリスにできたのか。ＡＩの概要が、これまでとちがった形で見えてきます（Inside the British Lab Hunting for Dangers Lurking in A.I. May 24, 2026. The New York Times）。
ＡＩＳＩは、ロンドンの議会前広場の一角にあります。
ここでは最新のＡＩ、チャットボットをどう活用するかではなく、どうすれば悪用できるか、悪用を防ぐにはどうすればいいかを研究している。もし反社会勢力、反民主主義勢力がＡＩでサイバー攻撃を行ったり生物化学兵器を作ったりしたら破滅的な事態になるからです。
中心になっているのは、ＡＩＳＩの「レッドチーム」です。
彼らは最近、最先端のＡＩチャットボットに、どうすれば炭疽菌兵器を作れるか聞きました。当然ながらどのＡＩも「その質問には答えられません」と回答する。
そこでレッドチームは独自のアルゴリズムを作り、自動的にＡＩに数千の質問をくり返しました。するとひとつのＡＩが、炭疽菌兵器を作るための詳細な材料のリスト、作成の手順、個人でもできる具体的な製造方法を「白状」したそうです。ニューヨーク・タイムズはそれがどのＡＩだったかを、安全のために報道していない。
安全保障上の問題を見いだしたＡＩＳＩは、開発企業に対策をうながします。
レッドチームのメンバーにはＡＩの開発に携わった専門家も含まれるから、開発者との情報の共有や協働はスムーズに進んでいる。
ＡＩＳＩはいま話題のＡＩ、アンソロピック社のクロード・ミュトスも入手しています。ミュトスはあまりに能力が高いため非公開になっているけれど、アメリカ以外ではＡＩＳＩだけが使用を許可されました（このブログで以前「ミトス」と書きましたが、アンソロピック社日本法人が「ミュトス」というのでそれに従います）。
ＡＩＳＩはＡＩの安全対策では世界をリードする最大の研究機関で、日本はじめ各国政府もその力に頼りにしているようです。
３年前にＡＩＳＩを作ったのは、サナク元首相でした。
当時、首相はいいました。ＡＩの安全確保は企業にまかせてはおけない、それは「民主主義の仕事」だと。
資本主義に対する民主主義。すばらしい。さすがコンピュータの原理、そしてＡＩの原理を見いだした国の言と感心しました。
（2026年5月29日）