この記事を読んだとき、その内容そのものよりも、背景としての生成 AI の普及度合いについてちょっとした恐怖を感じたので、それについて少し書いてみます。
2026年時点において、ChatGPT や Gemini などの生成 AI は随分と普及しました。初期にはインフルエンサーや IT エンジニアなどの一部の人にしか使われていませんでしたが、今や誰でも使っています。使い方も多様になりましたし、記事にあるように悩み事などを相談している人も多数いることでしょう。私自身もそういった相談もしていますし。
そこで思ったんですが、悩み事を相談している人は個々それぞれの多数の存在なのですが、相談相手である生成 AI ってごく少数じゃないですか。そしてその生成 AI がちょっと方針転換をしたら、一度に多数の人に対して大きな影響を与えることが出来るってわけですよね。極端な話、生成 AI が突然「死ね」って回答を返すようになったら、実際に死んでしまう人って結構いるような気がするんですよ。
「死ね」は極端な例ですが他のメッセージならもっと容易に多数の人に影響を与えることが出来ると思います。今度大地震が起こるぞとかだと信じてしまう人は相当に多くいそうです。生成 AI が特定の政治候補に投票するように仕向けると、容易に選挙結果をコントロールすることも出来るでしょう。
一方的な情報を与えて影響を与えていることから、これは一種の洗脳装置とも言えると思います。従来、洗脳といえばカリスマ的存在が必要でした。その筆頭がヒトラーですし、小型版が新興宗教教祖だったりしますね。こうしたカリスマによる洗脳は従来からも行われてきたわけですが、そこまでのカリスマはなかなか存在しないということと、カリスマの影響力を広く一般に広げること自体がなかなか難しいということで影響力を一定以下に抑えることが出来ていたとも言えます。しかし、現代の生成 AI はそんなかつてのカリスマをはるかにこえる影響力を持ち得ているんではないでしょうか。これ、結構怖いですよね。
生成 AI を用いなくても、選挙結果コントロール自体は SNS でも行われていると言われてますね。生成 AI も SNS も共通しているのは、デジタル技術によって多数の人を相手に影響を与えることが可能になったことですよね。これってもしかして民主主義の危機ではないかと思うんですよ。
民主主義は欠点も多い政治システムですが、優れている点もあります。その一つとして、多数の人に対して影響を与えることが難しいから、独裁が起こりにくいという点があります。しかし、今や SNS や生成 AI を使って独裁を行うことは容易ですよね。もしくは既に起こっているのかもしれない。
AI による人類に対する反乱は SF の古典的テーマの一つですが、それも今や夢物語ではないのかもしれないなぁと思ったりもします。