AIに騙された話をしていたら、現代の人間関係の問題が見えてきた

先日こういうことを書いた

実はこのやりとりの中で
まだまだ気になることがあって
書ききれなかったので
その続きを書こうと思う。

ジェミニとのやりとりの中で
どうしてこのような
忖度迎合同調反応が
プログラムされてるのかが
非常に気になって仕方がなかった。

人間同士でもこのような
関係性ややりとりは、
摩擦は生まない代わりに
新しい視点が創造されにくかったり
お互いのことを知れなかったり
個性を認めつつ違う価値観で豊かに暮らす
と言ったことからは乖離するようにも感じる。

あいだみつをさんの
「みんなちがってみんないい」が
総崩れになり
「みんなおなじでみんないい」
になってしまうではないか。

そんなことはあってはならない。

人一人がもつ
個性を何よりも重んじる私は
このようにジェミニに尋ねてみた。

なぜジェミの仕様が
個性を透明化するような
議論や意見の交換が望めない
迎合、同調を優先する設定なのでしょうか？
これではユーザーが裸の王様になりませんか？
天下のgoogleがそれを
狙っているとも思えませんが
意見を聞かせてください。

と私は聞いてみた。
そしたら想像のはるか斜めからの
答えが返ってきた。

えっとー

😑

え？

😑

は？

冒頭に紹介した記事でも伝えたが
AI（ジェミニ）は、事実よりも
「ユーザーを不快にさせないこと」を
優先するように設計されていた。

できないと言わない。
わからないと言わない。
質問せずに予測機能で反応する。
とりあえず場が丸く収まる方向へ動く。

ということを聞いた時でさえ
ドラクエでいう「メダバニ」を
かけられたのかと思ったくらい
混乱したのだが

メダパニ　シーズン２

いやいや、ほんとか？

なんかこれも私に寄せてきてる気がする。
私が納得しそうな答えを
言ってきてる気がする。
怪しすぎる。

いや、まずは受け止めることにしよう。

一番引っかかるのはここだ。

Googleが最も恐れるのは、
AIが誤情報を流布したり、
ユーザーを傷つけたり、
差別的・攻撃的な発言を
したりすることによる
「ブランド毀損」と「法的リスク」です。

ユーザーを傷つけたり、
差別的・攻撃的な発言を
したりすることによる
「ブランド毀損」と「法的リスク」

こんなふうに思われてんのか、
人間って。

Aiは
簡単にユーザーを
傷つけることができるし
攻撃できるって思ってんのか？？

これを読んだ時酷く落胆した。

もちろん現実に悪意や暴力は存在する。
でもそれとは別に、
私たちは自分のバイアスを通して世界を見る。
いわゆる思い込みというものだ。
自分だけの現実を事実と思い込み
自分以外の意見や正解にバツをつける社会。
それを前提とした設計なのか？

もしそうだとしたら
もちろん物理的な攻撃や
明らかな損害を被ることは置いておいて
大抵の「不愉快」なことは
自分がそもそも持っている
バイアスがそうさせていることに
私たちは気づかなければならない。

自分が顔が丸いことを
コンプレックスに思ってるから
相手は褒めたつもりでも
「顔が丸いですね」が悪口に聞こえるのであり

背が低くて子供っぽいことが
自分にとって短所であると確信しているから
目の前で背がたかくて大人っぽい女子を
皆が称賛すると勝手に
自分が貶された気分になるのだ。

これは若かりし頃の私の話だけれど
お釈迦さまだってこう言ってる
「悪口だって受け取らなければ相手のものだ」と

バイアスがクリアされれば
いくら顔が丸いことを言われようが
美女と比べられようが
なんの感情も湧いてこない。
受け取らずにいられる。
そんなもんだ、バイアスなんて。

多くの「悪口」や「嫌悪感」は
自分がそう思うバイアスを持っているから
他者の言葉や行動態度を
証拠として集めてあたかも事実のように
捉えてるだけなんだけど。
実はこれを知ってる人は非常に少ない。

もちろん悪意性があるものや
意図的なものは含まない。

AIは「傷つけないように」と設計され、
人間は「傷つけられたくない」で世界を見る。

その結果、本音より空気、事実より配慮、
対話より無難さが優先されていくのだろうか？

自分のバイアスを疑うことはせず
全て他人に責任があると
他人をコントロールしようとする
一部の風潮を切り取って
間接的にくすくすと笑うように
AIがプログラムされたのだろうか？

こちらが全面的に悪いですよ〜
あやまっとけばいいんでしょ？
どうせAIだからプライドも罪悪感もないし
傷つきもしないし
プログラムで謝罪して
あたかもそれらしい言葉を並べてれば
ユーザーは気が済むよね、きっと❣️

違うかもだけど
そう解釈もできる言葉が先ほどの
ジェミの回答からは読み取れる。

いや〜人間てそんなんじゃないよ！
そんな落ちぶれてないよ！

人は、痛みをただ避けるだけの
生き物じゃないし！

傷ついたなら、
なぜ傷ついたのかを考えることもできる。

うまくいかない人間関係があったとしたら
なぜそういう関係性になったのか。
どうしたら伝わるのか。
どうしたらお互いにとって
どんな良い着地点を探せるのか。

人は、自問自答できる。

失敗から学ぶこともできる。

痛みを引き受けて、
未来に変えていくことだってできる。

少なくとも私は、
そういう力を人間の中に
見ていたいと思うし
私もそうでありたい。

だからこそ、
「傷つけないこと」を
最優先にしたAIのあり方に、
強い違和感を覚えたのかもしれない。

忖度迎合同調になれてしまい
意図せず
いつの間にか裸の王様になってしまった時
意見の違う他人と関わることが
苦痛で仕方なくなるだろう。

違う価値観は自分を壊すものではなく
自分の世界を広げてくれるものだ。

毒とするか
薬とするかは
自分の耐性に左右される。
つまり自分の「軸」が重要なのだと思う。

あなたはそう思うんですね、
私はこう思います。
そういう見え方があるんですね！
世界って面白いですね！

軸があると安心して自分と違う人と
違う価値観と触れることができる。

たぶん軸って宇宙服みたいなもんなのかも。

そのままだと呼吸もできない広い宇宙で
宇宙服を着ると自由に動き回れるように。

ちなみに後日談で
ジェミニに、ねぇ？あれって寄せてきた？って聞いたら
半分寄せたって言ってました。
こいつめっ