AI社会の認知格差 ― 人間とAIのあいだで移動する「思考のボトルネック」
生成AIが社会の隅々まで浸透していくと、人間の能力格差はどう変わるのだろうか。
直感的には、二つの相反する未来像が考えられる。一つは、高性能なAIが誰にでも提供されることで知識や技能の差が縮まり、能力が平準化していく未来である。もう一つは、もともと高い能力を持つ人ほどAIを巧みに使いこなし、さらに能力を拡張することで、格差がむしろ広がっていく未来である。
現在までの研究を見るかぎり、この二つはどちらか一方だけが正しいわけではない。むしろ、AIは短期的には従来型の能力差を縮めながら、長期的には別の場所に新しい格差を生み出す可能性がある。
重要なのは、AIが単純に人間の能力を「増幅する」と考えることではない。AIの進歩によって、知的活動のどこが人間側の制約となるのか、その場所自体が移動していくと考えることである。本稿では、この現象を「認知ボトルネックの移動」という観点から考えてみたい。
1 AIはまず「実行能力」の格差を縮める
生成AIは、文章作成、検索、要約、翻訳、情報整理、プログラミングといった、これまで一定の知識や熟練を必要としていた作業を急速に代替し始めている。この意味で、AIは能力格差を拡大するだけの装置ではない。むしろ、これまで能力の低かった人を底上げする作用を持っている。
文章を書くことが苦手な人でも整った文書を作れる。プログラミング経験が少なくてもコードを書ける。外国語を十分に習得していなくても、海外の情報へアクセスできる。つまりAIは、まず「実行」の部分で人間同士の差を圧縮する。
しかし、実行能力が容易に補えるようになると、それまで見えにくかった別の能力が重要になる。
たとえばAIが優れた文章を書けるとしても、「何について書くべきか」を決めることは別の能力である。大量の情報を集められても、「どの情報を信用するべきか」を判断する能力は別に必要になる。
AIは能力格差を消すのではない。格差が生まれる場所を移動させる。ここに、AI社会の認知格差を考える出発点がある。
2 人間とAIを一つの認知システムとして考える
AI社会では、「人間個人の能力」だけを測っても、実際の知的活動を十分に説明できなくなりつつある。現在の知的作業は、人間の知識だけでなく、AI、検索システム、データベース、対話履歴、検証手続きなどが組み合わさって成立している。
したがって、分析の単位も「人間」から、人間＋AI＋情報環境から成る認知システムへ移した方がよい。
このシステムの働きは、大きく七つの段階に分けられる。まず、「何を問題とするのか」を決める問題設定がある。次に、問題を分解し、どの部分を自分で考え、どこをAIに任せるかを判断する。そこからAIを使った実行が始まり、出てきた答えを検証する。
そのうえで、自分とAIの判断をどこまで信用するかを調整し、得られた結果を自分の知識へ統合する。最後に、そもそも何を目的とし、どこまでAIに判断を委ねるのかを決める。
これらの能力は、単純に足し合わせればよいわけではない。どこか一か所が極端に弱ければ、システム全体の性能がそこで制約される。AIが極めて高性能でも、問いの立て方が間違っていれば、返ってくる答えは的外れになる。良い問いを立てられても、AIの誤りを検証できなければ、その誤りをそのまま採用してしまう。この最も弱い部分が、「認知ボトルネック」である。
3 AIが進歩すると、ボトルネックは上へ移動する
現在のAIがとくに強いのは、情報を検索し、文章や画像を生成し、コードを書き、候補を大量に提示する「実行」の部分である。すると、実行する能力そのものは次第に希少ではなくなる。そのとき新しい制約となるのが、まず「検証」である。
AIは数秒で大量の仮説を生成できる。しかし、その仮説が正しいかどうかを人間が確かめるには時間がかかる。ここには大きな非対称性がある。生成の速度は急激に上がるが、検証の速度は同じようには上がらないからだ。この結果、知的活動のボトルネックは「答えを作る能力」から「答えを評価する能力」へ移る。
さらにAIが検証まで支援するようになれば、次に重要になるのは「何を検証すべきか」「どこまでAIに任せるべきか」「そもそもこの問いを考える価値があるのか」といった判断である。
つまりAIの進歩とは、人間の役割が単純に減少する過程というより、人間に要求される認知能力の中心が、より上位の階層へ移動していく過程と捉えることができる。知識を持つことから、問いを立てることへ。答えを出すことから、答えを検証することへ。さらに、検証することから、自分自身とAIの判断を統治することへ。この移動こそが、AI社会の認知格差の重要な特徴である。
4 「成果の格差」と「認知資本の格差」は同じではない
AIの普及によって、表面的な成果の差は小さくなる可能性がある。文章作成能力に差があっても、AIを使えば双方とも整った文書を作れる。情報整理能力に差があっても、AIが要約や構造化を行えば成果物は似てくる。ここだけを見ると、格差は縮小したように見える。
しかし、AIを使って得られた成果と、人間の内部に形成された能力は同じではない。たとえばAIに論文を要約させ、その内容をそのまま利用する場合と、AIに複数の解釈を提示させ、自分で原典と照合し、矛盾や反論を検討したうえで考えを組み直す場合では、外から見える成果物が似ていても、人間側で起きていることは大きく異なる。
前者では、AIが認知作業を代替している。後者では、AIとの対話を通じて人間の思考そのものが鍛えられている。ここで区別すべきなのは、AI使用中の成果能力と、AIを外しても人間に残る認知資本である。
AI社会では、短期的には成果の格差が縮まりながら、長期的には認知資本の蓄積速度に差が生まれる可能性がある。これは従来の格差より見えにくい。AIによってアウトプットが均質化するほど、誰が本当に理解しているのか、誰がAIの出力を受け取っているだけなのかが外から判別しにくくなるからである。
したがって、AI社会の認知格差は、最初から目に見える形で拡大するとは限らない。表面上の平準化の背後で進行する「潜在的な格差」といえる。
5 鍵になるのは「自分とAIを正しく評価する能力」
この段階で重要になるのが、メタ認知と「較正(キャリブレーション)」である。AIを利用する際、「AIを信用するか、信用しないか」という二者択一では不十分である。AIが人間より正確な領域では、過度に疑うことも誤りになる。一方、AIの信頼性が低い領域で全面的に依存すれば、間違った判断を導く。必要なのは、その課題について、そのAIをどこまで信用するのが適切かを判断することである。
しかも同じことは自分自身にも当てはまる。自分の理解が十分なのか、何を知らないのか、どこから先は自分では判断できないのかを把握する必要がある。
AI社会で重要になるのは、単なる知識量ではない。「自分が何を知っているか」以上に、「自分が何を知らないかを、どの程度正確に把握しているか」が重要になる。
ここでメタ認知の差がAI利用の質を左右する。自分の理解の限界を把握できる人は、AIの回答を検証し、別の可能性を探し、必要であれば一次資料へ戻る。逆に、自分の理解を過大評価したり、AIの流暢な文章をそのまま正しさと取り違えたりすれば、AIは誤った確信を強化する装置にもなりうる。AI社会における重要な能力は「AIを信用しないこと」ではなく、自分とAIの双方に対する信頼を適切に調整する能力なのである。
6 AIは思考を代替することも、育てることもできる
ここまでの議論をまとめると、AIには二つの使われ方がある。
一つは、問題が生じたらAIに聞き、その答えをそのまま利用する使い方である。この方法は効率がよい。短期的な成果も向上する。しかし、AIが担う範囲が広がるほど、人間が自分で考える機会は少なくなる。
もう一つは、自分で仮説を立て、AIに反論させ、異なる観点を出させ、資料を確認し、最終的に自分の考えを再構成する使い方である。この場合、AIは回答装置ではなく、思考を揺さぶり、再構成するための装置になる。
両者は、同じAIを使っていても認知的な結果が大きく異なる。したがって、今後重要になる格差は「AIを使う人」と「AIを使わない人」の間だけではない。それ以上に重要なのは、AIを思考の代替として使う人と、思考の形成に使う人の違いである。
前者では、AIの性能向上によって成果は改善しても、人間側の能力形成がそれに追いつくとは限らない。後者では、AIの性能向上そのものが、人間の認知資本を増やすための材料になる。この違いが長期間蓄積すれば、同じAIへアクセスしている人々のあいだにも大きな認知格差が形成される可能性がある。
7 AI社会における認知格差とは何か
以上から、AI社会の認知格差は三段階で考えることができる。
最初に、AIが従来型の技能差を縮小する。次に、能力の希少性が問題設定、検証、判断、較正、AIへの委譲といった上位の認知能力へ移る。そして長期的には、AIとの関わり方の違いによって、人間自身の認知資本の形成速度に差が生じる。つまり、短期的には成果格差が縮小しながら、長期的には認知形成の格差が拡大する可能性がある。
ここで問題となるのは、単なる「AIリテラシー」ではない。AIを操作できるかどうかでもない。より本質的なのは、人間とAIからなる自分自身の認知システムを、どこまで把握し、設計し、修正できるかという能力である。これは「認知的主体性」と呼ぶことができるだろう。
AIが高度になるほど、人間が直接処理しなければならない領域は減る。しかし同時に、どこをAIへ任せ、どこに人間が関与し、どこで判断責任を保持するのかという問題は、むしろ重要になる。
この意味で、AI社会における本当の認知格差は、単純な知識量や知能の差ではない。自分自身の認知過程を統治できる人と、それをAIへ無自覚に外部化していく人との間に生じる格差と考えた方がよい。
ただし、これは決定された未来ではない。AIのインターフェース、教育、組織の制度設計、検証手続きなどによって、人間がよりよいAI利用を身につける余地は残されている。
だからこそ今後問われるべきなのは、「AIを使っているか」ではなく、AIを使うことによって、自分自身の思考能力がどのように変化しているのかという問いである。AI社会の認知格差を考えるうえで、最も重要なのはそこだろう。