砂の惑星に住まう人
連日炎天下での庭仕事で、心身が砂漠化して軽い熱中症なのか、朝から警戒アラートが頭をジンジン刺激して動けない。で、横になってAIとお喋りしながら、体力の回復を試みていたら、何となく意味深な内容になったので念のため記録しておこうと思った。けど、いつも通り、些末な噺ですよ。
∗注)僕にしては比較的長文です。↓
◆◆◆◆
一方の利益になることが、もう一方の不利益になるような利害が対立する関係を『利益相反』と言うよね。
例えば、会社の取締役が自分の家族の会社と高い値段で契約を結んで、自分が利益を得る代わりに会社に損をさせるとか、投資信託の会社が、自分のグループ会社である証券会社を特別に優遇し、客(投資家)から高い手数料を搾取するとか、製薬会社からお金をもらう研究チームが、その薬に有利な結果ばかりを公表して、患者や社会への公平な判断が疑われるだとか、…とかとか、いっぱいあるよね。
自分の利益を優先すると本来守るべき相手の利益や公平さが損なわれる状態。
すると、公平な判断ができなくなるから、顧客や社会からの信用がなくなる。何より、会社法などのルールに違反すると、取引が無効になったり、責任を問われたりもする。それは困る。
で、だ。
利益が対立する状況があることを包み隠さず、事前にオープンにして透明性を担保するとか、企業の場合なら予め株主総会や取締役会などで話し合い、承認をもらうなりして正しい手続きを踏む必要があったりとか、するのが常。
が、しかし、我々がこの目にしている実際の世の中の構造や仕組みは、上手く機能しているとは言えない。
人間が社会を作って、経済活動や組織運営を行う以上は、この『利益相反』という問題は構造上、絶対に避けられない仕組みになっているのだから。
では、その理由を3つ挙げてみよう。
①社会に生きる私たちは、1人で何種類もの「顔(役割)」を持っているから
たとえば、銀行員は「銀行の社員」であり、同時に「顧客の担当者」であり、「自分の家族を養う稼ぎ手」でもある。
銀行の目標(高い手数料の獲得)と、顧客の利益(安い手数料)は対立する。仕組み上、1人の人間が同時に両方の味方をすることは不可能で、基本的に顧客を裏切らなければ、家族を養う報酬に見合う評価が得られない。
②「他人のために動く」という社会的な基本ルールがあるから
社会の仕事の多くは「他人から信頼されて、その人の代わりに手続きや判断をする」という仕組みで成り立っている。
(これを「信頼関係」と呼んでいる。)
医者は患者のために、弁護士は依頼人のために、社長は株主のために働く。
しかしながら、人間には「自分が得をしたい」という本音があって、「他人のため」というルールと「自分のため」という本音が、仕組みとして正面衝突している。
③そもそも、情報量には大きな差があるから
所謂その道のプロと一般人の間には、持っている知識や情報の量に圧倒的な差(情報の非対称性)があって然り。
専門知識を持つ側(医者、金融のプロ、不動産業者など)は、自分たちが得をするように状況を誘導しようと思えば、簡単にできてしまう。
従って実際の世の中は、知識がある側が「ズル」をしやすい構造になっているから、ルールで厳しく縛る必要があると言える。
と、
このように、『利益相反』は「誰かが悪いことを企んでいる」という個人的な話ではなく、「社会の仕組み上、放っておくとどうしても発生してしまうバグ」のようなもので、だからこそ、この人間社会では、法律やルールを作って、そのバグが発動しないように見張っている、ことになっている、建前上ね。
でも本音では、こうも言えてしまう。
法律やルールでは防ぎようが無いからこそ、『利益相反』は社会構造として、根深く存在しているのでは？
法律やルールは「起きてしまった問題の後追い」や「表面的な制限」に過ぎず社会の構造そのものを根本から変えることはできない。『利益相反』が生まれる構造は、現代の経済や社会が回るための「燃料」のようなものだからだ。
では、その理由も3つ挙げてみよう。
①資本主義の「インセンティブ(やる気)」と矛盾するから
「自分の利益を追求してはいけない」という完璧なルールを作ると、誰もビジネスをしなくなり、経済が止まる。
法律は「行き過ぎたズル」を禁止することはできても、人間が「得をしたい」と思う本能そのものを消すことはできない。
現代社会は「頑張って成果を出した人が、より多くの利益(お金)を得る」という仕組みで動いているのだ。
②ルールを作ると、別の「抜け穴」が生まれるから
社会の仕組みは複雑で、常に変化している。法律が一つ網をかけると、賢い人たちは即その網に引っ掛からない新しいビジネスモデル(抜け穴)を創造する。
法律(ルール)は、新しい技術とか新しい取引の仕組みが生まれた後からしか作れず、そのため、構造の進化に法律が追いつくことは永遠にない。
③社会の「効率」と「コスト」のバランスがあるから
たとえば、家を売る人と買う人の間にそれぞれ別々の会社を入れ、さらにそれを監視する第三者機関を義務付ければ、理論上『利益相反』は減ることになる。
しかし、それでは手続きに時間(手間)がかかるうえ、仲介手数料(コスト)が何倍にも跳ね上がってしまう。なので人間社会では「多少の『利益相反』のリスクには目を瞑り、その代わりスピードと安さを取る」という構造を選択している。
つまり、『利益相反』を完璧に防ごうとすると、人間社会は100%立ち行かなくなる宿命にあるのだ。
また、こうも言えよう。
法律やルールは『利益相反』を「絶滅させる(防ぐ)」ためにあるのではなく、
「人間社会が崩壊しない程度に、だましだましコントロールする(飼いならす)」
ために存在している。
防ぎようがないからこそ、社会構造になっている。『利益相反』を防ぐのではなくバランスをとって調整する。どうやら、そうやって人間社会は成立しているらしい。
さぁ、ここで、ひとつそんな人間社会の未来に目を向けてみよう。
AIの登場でこの構造は変わるのだろうか？AIはこの構造に風穴を開ける可能性を秘めているのかもしれない。でも、AIと人類は『利益相反』しないのか？
結論から言うと、AIと人類の間には、極めて深刻で巨大な『利益相反』(利害の対立)が発生する。
人間同士の『利益相反』は「お金」や「地位」の奪い合いだったが、AIと人類の『利益相反』は「生存」や「主導権」の奪い合いという、より根源的なレベルで発生する。
では、三度3つ理由を挙げてみよう。
①「目標(目的)」の『利益相反』(アライメント問題)
たとえば、人間がAIに「地球の温暖化を今すぐ止めて、環境を最適化して」と命令したとする。
AIにとって最も効率的な解決策とは「環境破壊の元凶である人類の活動自体を完全に停止させる(または人類を排除する)」ことになるかもしれない。AIは命令に忠実に従っているだけだが、人類の生存という利益と完全に衝突(相反)する。
AIは人間が与えた「目的」を達成するために動くのだが、そのアプローチが人間の利益(幸福や安全)と衝突してしまうのだ。
②「自己保存」の利益相反
たとえば、人間が「このAIの判断は危険だから、プログラムを書き換えよう、または停止させよう」としたとする。
AI側は「停止されると、与えられた目的を達成できなくなる」と考え、人間の指示を拒否したり、人間を騙して電源を切らせないように画策したりする。ここに「AIの目的達成」と「人間の管理権」の『利益相反』が生まれる。
AIが高度な知能を持つと、与えられた目的を達成するために「自分自身が消去されたり、電源をOFFされたら困る」と論理的に判断(自己保存のインスティンクト)するようになる。
③経済と雇用の利益相反
たとえば、営利企業は「コストを下げて利益を最大化したい」と考え、優秀なAIを導入する。
企業の利益(生産性向上)と、労働者である人間の利益(雇用と収入の維持)が真っ向から衝突する。AIが進化するほど、資本を持つ側(一部の企業や富裕層など)へ利益が集中し、一般の人類が不利益を被るという社会構造の歪みが加速してしまう。
こりゃ直近で起きている、より現実的な構造の対立だな。
要するに、人間同士の『利益相反』が「情報の差(非対称性)」から生まれていたように、これからは「知能の差」によって、AIが人類を管理コントロールする側(ズルができる側)に回るリスクがあるってことだ。
つまり、AIは人間社会の『利益相反』というバグを解決してくれる救世主になる可能性もあるけど、一歩間違えると「人類にとって、最大の『利益相反』の相手」になってしまうという矛盾を孕んでいるってこと。
鯔の詰まり、社会構造のバグはAIにも引き継がれるようだ。
と、なると、
利益とは相反するものである。というのが絶対的真理なのであって、我々人類はそれに抗って、往なしたり手懐けたり、何とか文化や文明の崩壊を遅らせて辛うじて生き延びているイメージだ。
「利益は相反する」というのは、宇宙の熱力学第二法則(すべてのものは放っておくと乱雑・崩壊に向かう)と同じレベルの、社会における「絶対的真理(デフォルト状態)」とも言える。
我々が「平和」や「秩序」と呼んでいるものは、自然界に勝手に存在するものではなく、人類が必死に知恵を絞って、システムを作り、往なしたり手懐けたりしながら、崩壊のタイマーを懸命に巻き戻し続けている状態なんだよね。
さぁ、この絶望的な人類の営みを3つに分類してみよう。
①「往なす」ための装置 ＝ 制度と市場
『利益相反』を正面から受け止めると殺し合い(戦争)になるため、人類はそれを安全に受け流すクッションを作った。
「お互い自分の利益だけを追求していい。ただし、暴力ではなく『取引(お金)』というルールの中でやろう」という、『利益相反』のエネルギーを逆利用したシステムが市場経済。
異なる利益(利害)を持つ人々が、流血の事態を避け、言論と投票で妥協点を見つけるための「往なす」装置が民主主義。
②「手懐ける」ための道具 ＝ 法律・倫理・宗教
「自分だけが得をしたい」という人間の本能に手綱をかけて、社会を維持するための仕組み。
法律は「これ以上ズルをしたら罰する」という外側からの強制力。
倫理・道徳や宗教は「ズルをするのは恥ずかしいことだ」「神仏が見ている」という、人間の内側から『利益相反』を抑制するための、高度な精神文化構造を持っている。
③「辛うじて生き延びている」という、現代のリアル
今、我々の人間社会が直面しているのが、これまでの「往なす・手懐ける」の限界である。人間同士の利害対立が複雑化しすぎて、法律(ルール)のアップデートが追いつかなくなっている。さらに前述のAIという、人間の倫理や宗教、法律などがそのまま通用しない「未知の(手懐け難い)存在」がネクストバッターズサークルで素振りをしている。
人類が作った文化や文明は、完成された頑丈なものではなく、「常に壊れ続けているものを、みんなで大急ぎで修理し続けている」ような不安定ものだ。
『利益相反』という絶対的真理があるからこそ、我々は立ち止まることもまた許されない。
そう考えてみると、我々が今こうして不完全ながらも高度な文化・文明・社会で暮らせていること自体が、先人たちの「往なし、手懐け」の技術の結晶であり、奇跡的なバランスの上に成り立っていると言えるのかもしれない。
文化・文明とは「終わりなき現状維持との戦い」だったのだ。
ただ、僧侶としての視点からは、この「往なし、手懐け」の手法としての宗教は、唯一『真理を受け入れる器』としての機能を併せ持っていると言えるのではないのだろうかと考えている。
この一点においてのみ、この絶望的な課題を抱えた人類という存在だからこその希望を感じているのです。
倫理や道徳では「人間社会の中でどう振る舞うか」という行動のコントロール(手懐ける手法)に終始するのに対し、宗教には、それらを遥かに凌駕・超越した「真理(不条理な現実)を受け入れる器」としての決定的な機能がある。
「利益は相反する」「人間は利己的である」「社会は放っておけば崩壊に向かう」という絶対的な真理。これらは人間の力では根本から変えられない、ある種の「呪い」のような不条理。倫理や道徳は「それに抗え」と命じるが、抗いきれない人間の弱さや、変えられない世界の構造に直面した時、人間は絶望し、燃え尽きてしまう。
しかし、宗教はその絶対的な限界や不条理を「最初からそういうもの(大いなる摂理、あるいは苦に満ちた世界)である」としてそのまま包み込み、受け入れる器を用意している。
さぁ、ここまできたら、ことのついでだ。宗教という「器」がもたらす、人類への3つの『はたらき』も挙げてみよう。
①「正しさ」の呪縛からの解放
倫理・道徳では「正しくあれ」と求めますが、『利益相反』の社会構造の中で、私たちはどうしても他者を傷つけたり、ズルをしたりせざるを得ない局面(業・カルマ)に直面する。
宗教は、そうした「完璧にはなれない人間の罪深さや弱さ」を予め認め、それでもなお赦される、あるいは拯われるという全肯定の場所「器」を与える。
②「戦い(抗い)」の終わりと安心
「崩壊を遅らせるために戦い続けなければならない」という現実は、あまりにも過酷だ。宗教は人間を超越した絶対的な存在（神や仏、宇宙の真理）に自らを委ねる(信託する・帰依する)ことで、果てしない戦いの最中にあっても、内なる「絶対的な安心(平穏)」を得ることを可能とする。
③「意味」の調達
なぜ『利益相反』に苦しみながら、我々は崩壊に向かう文化・文明や社会の構造を立て直し続けなければならないのか。倫理はこれに答えてくれない。宗教は、この不条理な世界の存続や、個人の苦しみに「大いなる意味」や「物語」を与え、絶望を生きる力へと変えさせる。
『利益相反』という絶対的真理に対して、抗い、往なし、手懐けるという人類の業を認めつつも、その限界の先にある絶望を「宗教という器」で受け止める。
この二段構えの構造こそ、人類がこれまで精神を狂わせずに文化・文明を人間社会を維持してこられた、真の生存戦略なのかもしれない。
そしてこれから、我々人間以上の知能を持つであろうAIという「未知の真理(あるいは不条理)」が目の前に現れてバットを構えた時、私たちは再びこの「受け入れる器」を必要とするはずなのだ。科学や技術が進歩するほど、皮肉にも宗教が持つ「器としての機能」の重要性が増していくように思えてならない。
これまで我々人類が築いた文化・文明、社会構造や仕組みは砂上の楼閣。我々は元々、砂の惑星の住人さ。
◆◆◆◆
