この記事を読んだとき、その内容そのものよりも、背景としての生成 AI の普及度合いについてちょっとした恐怖を感じたので、それについて少し書いてみます。
2026年時点において、ChatGPT や Gemini などの生成 AI は随分と普及しました。初期にはインフルエンサーや IT エンジニアなどの一部の人にしか使われていませんでしたが、今や誰でも使っています。使い方も多様になりましたし、記事にあるように悩み事などを相談している人も多数いることでしょう。私自身もそういった相談もしていますし。
そこで思ったんですが、悩み事を相談している人は個々それぞれの多数の存在なのですが、相談相手である生成 AI ってごく少数じゃないですか。そしてその生成 AI がちょっと方針転換をしたら、一度に多数の人に対して大きな影響を与えることが出来るってわけですよね。極端な話、生成 AI が突然「死ね」って回答を返すようになったら、実際に死んでしまう人って結構いるような気がするんですよ。
「死ね」は極端な例ですが他のメッセージならもっと容易に多数の人に影響を与えることが出来ると思います。今度大地震が起こるぞとかだと信じてしまう人は相当に多くいそうです。生成 AI が特定の政治候補に投票するように仕向けると、容易に選挙結果をコントロールすることも出来るでしょう。
一方的な情報を与えて影響を与えていることから、これは一種の洗脳装置とも言えると思います。従来、洗脳といえばカリスマ的存在が必要でした。その筆頭がヒトラーですし、小型版が新興宗教教祖だったりしますね。こうしたカリスマによる洗脳は従来からも行われてきたわけですが、そこまでのカリスマはなかなか存在しないということと、カリスマの影響力を広く一般に広げること自体がなかなか難しいということで影響力を一定以下に抑えることが出来ていたとも言えます。しかし、現代の生成 AI はそんなかつてのカリスマをはるかにこえる影響力を持ち得ているんではないでしょうか。これ、結構怖いですよね。
生成 AI を用いなくても、選挙結果コントロール自体は SNS でも行われていると言われてますね。生成 AI も SNS も共通しているのは、デジタル技術によって多数の人を相手に影響を与えることが可能になったことですよね。これってもしかして民主主義の危機ではないかと思うんですよ。
民主主義は欠点も多い政治システムですが、優れている点もあります。その一つとして、多数の人に対して影響を与えることが難しいから、独裁が起こりにくいという点があります。しかし、今や SNS や生成 AI を使って独裁を行うことは容易ですよね。もしくは既に起こっているのかもしれない。
AI による人類に対する反乱は SF の古典的テーマの一つですが、それも今や夢物語ではないのかもしれないなぁと思ったりもします。
(2026/3/18追記)
論点が整理出来てなかったかなと思うので要点のみを書きなおしというか再整理というか。
問題視しているのは少数による独占です。現状、生成AIは超大手少数が覇権を握っている状態で、その少数による人類全体への影響力が過大になっていると考えます。
AIによる反乱と書きましたが、現状でその心配はしていません。AIはまだ自我を持っていないからです。AIはその背後に自我を持った人間がいて、人間による制御下にあります。つまり、ごく少数の人間が人類全体を支配可能な状態ですね。言ってしまえば、現在の人類はマーク・ザッカーバーグとイーロン・マスクの支配下にあるとも言える。
SNSによるコントロールは、一般からもある程度観測可能ではあったので批判も出来ました。タイムラインが個人にカスタマイズされているので、その観測も限定的ではありますけれども。一方、生成AIとの会話は一般に個人が秘密裏に行っているので、そこで思想制御が行われていても他者から観測不能という問題はあります。
とはいえAI脅威論を唱えたいのではなく、あくまでも独占による少数でのコントロール可能な状態が危険だと思っています。複数のAIが併存して競争している状態なら比較的健全と考えます。