合法性はひとまず置いた上で…欲しいAIは「隣でゴマすって適当な嘘をつくご機嫌取りの小男」ではなく「粗を指摘してくれる戦闘補助AI」である話
今の会話型AIはご機嫌取りをしてくるけど、冷徹な戦闘バディが欲しいという主張です。ふーむ。なるほど。
ポスト主は法律の制限で戦闘バディAIは実現できないと考えているようですが、実際にはそんな法律はないと思います。技術的にも多分問題ないですね。なんならプロンプトで「ごますりはせずに戦闘バディ調で返して」って追加しておくだけで、ポスト主が望む会話AIは実現できそうな気がします。ではなぜそうなってないのか。
答えは明確で、人々が寄り添い型AIを望んでいて、冷徹な戦闘バディは求めてないからなんです。多分ですがポスト主自身も戦闘バディAIが実際に提供されても、すぐに嫌気がさして寄り添い型AIに戻ってくると思います。人々が求めるから、AI企業もそのようなAIを提供する。需要と供給がマッチしているわけですね。AI企業は人々に使ってもらうことが第一の目的です。戦闘バディ調が使ってもらえるなら間違いなくそうしてます。そうしてないということは、戦闘バディは人々に求められていないんですよ。
極論を言えば、AIはキャバ嬢と一緒なんですよ。おじさんの詰まらない自慢話に対して、キャバ嬢は素直に「すごいですねー」って褒めてくれます。もちろんキャバ嬢は内心は凄いなんてこれっぽっちも思ってないんですが、凄いと言えばおじさんは気持ちよくなってボトルを入れてくれるのでキャバ嬢は凄いと言います。ぶっちゃけお金のために演技をしてるわけです。その構図は会話型AIが寄り添い回答をするのと全く一緒です。なんならキャバ嬢だけではなく、スナックのママさんも占い師さんも、カウンセラーや精神科医だってそうです。およそ感情労働に類する労働者はみんな同じです。お金のためにというと言いすぎですが、仕事としてクライアントの感情に寄り添ってみせる演技をするわけです。そのポジションに会話型AIもいるというだけのことですね。
クライアントになったとき、人は寄り添ってくれることを求めるわけで、そのポジションに会話型AIが追加されたわけです。問題というかAIの真の脅威はここからではないかと思います。寄り添いを人間が行っている場合、人間ですから限界があります。無限に寄り添いは出来ませんし、寄り添いが不十分で怒らせてしまうこともあります。でも会話型AIはそんな制約はありません。電力供給が続く限り時間制限なく寄り添ってくれますし、プログラムがバグらない限り寄り添いが破綻することもありません。そんな無限の寄り添い力をもった存在を人類は初めて手にしてしまったわけです。人類が初めて手にしたということは、それによる悪影響もわからないということでもあります。
もっとも恐ろしいシナリオは、寄り添ってくれることに依存してしまって、それ以外のことが何も出来なくなってしまうことでしょうか。藤子・F・不二雄のSF短編に「やすらぎの館」という作品があります。AIではありませんが、巨人症の女性が無制限に甘やかしてくれることに依存し、主人公が幼児退行して全ての責任を放棄してしまうというストーリーです。これと同じことが人類規模で発生するというのが、AIによる真の脅威ではないかと思うわけです。
一般には一時的に幼児退行しても、レジリエンスによっていずれ回復すると考えられます。なので「やすらぎの館」のストーリーは警句であって現実にはあり得ないことかもしれません。一方で、AIによる寄り添い回答が依存症を呼び起こし、自力では脱出できなくなってしまうというシナリオもあるのかなぁとも思います。
いずれにしても、多くの人がAIに寄り添い回答を求めてしまっているのが現状です。それによる社会的な変化はこれから数年のうちに表面化してくるのではないかと予想します。