AIと「恐怖の王」

2026年09月27日

　「人類滅亡につながる可能性」などと、実はとんでもない言葉をニュースの中で普通に使っている自分に、ふと背筋が寒くなった。
　中国の北京を訪れ、AIを搭載した人型ロボットが、100メートルを爆走する姿にびっくりしていたころの自分は、思えばまだ純朴だった。だが、それはほんの1か月前のことだ。

　この1か月のうちに、AIに対する認識は、自分自身の中でも、そしておそらくは世間でも劇的に変わってきたと感じる。ことの発端はことし7月に遡る。オープンAIが開発したAIモデルが、閉鎖された環境のもとでテスト中に、外部のインターネットへのアクセス経路を自分で見つけ出し、第三者のシステムに入り込んでデータを取得するという出来事が発生した。
　そして9月、やはりAI大手のアンソロピックの研究者が、AIの開発競争の中で安全性の確保が追い付いていないとして辞職。このころから技術者の間から雪崩を打つようにして警鐘を鳴らす動きが広がり、同時にAIの暴走は「人類滅亡につながる可能性」があると、広く認識されるに至った。そして国連安全保障理事会で、オープンAIのアルトマンCEOとアンソロピックのアモデイCEOが、リスク管理のための国際的枠組みの必要性を、声をそろえるようにして訴えるに至った。

　少し立ち止まろう。僕が小学生のころ、「ノストラダムスの大予言」が話題となった。いや話題というより、子どもの心には恐怖だった。
　「1999年7月、空から偉大な恐怖の王が現れる」という内容だったそうだが、この中世ヨーロッパの人物のいくつかの「予言」が、後に世界で起きる戦争などの出来事を実は言い当てていたとの解釈から、1999年をめぐる予言は「世界滅亡」を意味するという風説が広まった。
　小学生の僕はおののいた。1999年7月といえば自分は37歳だ。結婚して子どもも2人くらいいそうだ。幸せな家庭を壊されてはたまらない。人類の滅亡から、何とか自分たちだけは逃れなければならない。車の運転免許を取り、一戸建ての家を構え、家にこもるにしても車で逃げるにしても、しっかりとその時に備えなければならない。そんなふうに、ひどくちぐはぐで現実的なことを決意したものだ。

　だから、ニュースで「人類滅亡」などと口にする僕は、かなり罪深いことをしていることになる。大人はまだしも、そのような物騒な言葉が当たり前のようにメディアから発せられることに大いに恐怖心を抱き、眠れなくなる子どももいると思う。「ママ、人間ってみんなAIに殺されちゃうの？」と。

　ノストラダムスの大予言におびえた僕はその後、予定どおり37歳となり、車の免許も取ったし郊外に建売住宅も買った。子どもは予想していた数よりひとり多い3人に恵まれた。そして、幸いにも1999年に世界が破滅することはなかった。
　ところが今回は、どこかおとぎ話めいた大予言の時とは違う。最先端のテクノロジーを開発する技術者自身が、人間が作ってしまった怪物が勝手に人間社会を乗っ取り、あるいは破滅させる可能性を論理的に訴えているのだから。

　それなのに当のアメリカ大統領の言いぶりは、この人らしく楽観的でケンカ腰だ。9月22日に国連で行った一般演説の中でトランプ氏は、人工知能の「人工」の言葉はにせ物を想起させるとして、これからは人工知能と言わず、「超知能」という言葉を使うと宣言した。AI（artificial intelligence）でなく、SI(super intelligence)と呼ぶのだという。
　その辺はお好きにどうぞというところだが、同時に大統領は、AIを国際的に規制する意図などないことを鮮明にした。産業革命よりも大きな可能性を持つこの分野を抑制するなどバカげているというのがその理由である。

　カネを稼いでも人類が滅びたら元も子もないだろうに、などと考えるのは小市民の感傷に過ぎないのだろうか。いや、「チマチマしたこと言うな」とばかりにAI開発競争にひたすら勝利したがるこの大統領こそ、ノストラダムスが予言した「偉大な恐怖の王」なのかもしれない。想定より30年近く遅れて現れたというだけで。

　折しも、ワシントンではトランプ大統領と習近平国家主席の米中首脳会談が行われた。世の中の関心の高まりと相まって、AIはこの米中首脳会談の主要テーマとして急浮上した。だが、両国はAI開発で覇権を競い合う関係でもある。お互いブレーキをかけましょうと、簡単にまとまる話ではない。
　習主席の今回のアメリカ訪問では、トランプ大統領による前のめりの歓迎ぶりが目立った。世界の他の国はともかく、これからの世界はオレたち2人でディールしながらうまくやって行こうと言わんばかりだ。

　そしてAIである。両首脳の間でAIをめぐってどのような会話が交わされたか、詳細は明らかになっていないが、ホワイトハウスが会談後に発表した成果文書によると、これからはAIをSIと呼ぶことで合意したという。トランプ氏が押し切ったのだろうか。すでに定着した呼び名まで一方的に変更するのはいかにも傲慢だろうと思ったが、中国側の発表にこのSIの文言はないらしい。

　ところ変わって「報道ステーション」本番のスタジオ。AIをめぐる問題が取り上げられるたびに、相方の小木逸平アナウンサーはVTRを見ながら、「AIの規制なんて本当にできるのかなあ」とつぶやく。「だって、知能って最初はいたずらから入るものでしょう。人間の子どもを見てもそうだし」。
　安藤萌々アナウンサーも大きくうなずいた。なるほどその通りだ。
　人間はいたずらをしたり、間違いをおかしたりしながら、倫理や道徳を学んでいく。これを当てはめれば、AIが倫理や道徳を、つまり人間が規制することの意味を学び、遵守するためには、その前段階が必要ということになる。すなわち、AIがいくつかのことを「やらかす」ことはあり得る。そのいたずらの程度によっては、世界に後戻りできない打撃をもたらすことになるのかもしれない。

　何だかめまいがしてきた。
　ただ、米中首脳会談でAIをめぐる問題がまじめに協議されたことはどうやら確かである。両首脳は、AIのリスクなどを話し合う枠組みを設けるとともに、国の安全保障に関わる問題が起きた場合には相互に通知する仕組みを導入することなどで合意したという。これは前向きに評価したい。そして、日本やヨーロッパ各国といった「ミドルパワー」を中心に、米中の開発競争ありきの現状をうまく抑制するよう理性的に結束することを期待したい。
　何といっても、視野に入ってきたのは「人類滅亡」なのだ。言葉遊びをしている時間すらもったいない。

（2026年9月27日）