ＡＩを悪用する危険が高まっている。
国際的な報告書が警告しています。ネットやＳＮＳにはどんどんフェイクが入りこんでくる。だまされないためには「信頼できる情報源」を確保するしかないでしょう（DeepSeek advances could heighten safety risk, says ‘godfather’ of AI. 29 Jan 2025. The Guardian）。
急速に進化するＡＩ、人工頭脳について、可能性と危険性を網羅的にのべているのは「国際ＡＩ安全報告」です。２年前にイギリスのブレッチリー・パークで開かれた「ＡＩサミット」をもとに、ＥＵと国連が作りました。執筆したのは３０か国、９６人のＡＩ専門家で、いまもっとも信頼できるＡＩについてのまとめです。
(Credit: Draco2008, Openverse)
ＡＩのゴッドファーザーといわれるモントリオール大学のヨシュア・ベンジオ教授は、中国が開発した最新ＡＩ、ディープシークの登場でＡＩの安全性はさらにおびやかされているといいます。
「ＡＩの安全性という観点から好ましいことではない。競争が激しくなると、当然ながら安全性の検討がおろそかになるからだ」
ベンジオ教授は、最新のＡＩで、従来なら博士レベルの専門家でなければできなかった生物化学兵器を、しろうとも作れるようになるといいます。
「専門家がする場合はこまかい作業の積み重ねが必要だが、ＡＩはしろうとでもできるよう、作成のステップをひとつひとつ、対話をとおして具体的に教えてくれる。グーグル検索ではできないことだ」
(Credit: Maryse Boyce, Openverse)
生物化学兵器の危険だけではなく、ＡＩはコンピュータ・ソフトやシステムの弱点を把握することもできる。ハッカーによる大規模な攻撃の危険も増します。ディープフェイクと呼ばれる偽情報も氾濫するでしょう。「そっくりさん」のニセモノ・インタビューや写真、動画は、これまで以上に巧妙な「なりすまし」になり、見分けがつかなくなる。だまされたことすらわからなくなります。
ぼくらはネット上の情報について、もはや真偽を判定できない。情報の出どころ、情報「源」を見きわめるしかありません。さもなくば、ネットではなく対面にもどるか。
この大事な場面で、トランプ政権はまったく期待できない。安全性どころか、規制反対の大合唱で、ＡＩは金もうけの手段にすぎません。そういうとき、ヨーロッパや国連が安全性を見すえてＡＩ規制に動こうとしているのは、わずかながら救いです。
国際ＡＩサミットは、報告書の公表を受け今月パリで２回目の会合を開きます。ＡＩのゴッドファーザーたちの良識が少しでも広がることを願いましょう。
（2025年2月3日）