生成AIで情報流出？ ——因果関係の誤認が生む自縄自縛（下）【財務±非財務×AI】

今の生成AIを組織で使わせるか、使わせないか。

（上）では、「情報漏洩リスクを鑑みて使わせない」という選択を取る会社組織が少なからず存在するというお話と共に、いくら情報を探しても、生成AIの使用そのもので情報漏洩したという事実は見つからないということをお示しました。

じゃあ、なぜ、サイバー攻撃リスクを負う他のSaaSにはなくて、生成AIだけ情報漏洩という謎の先入観が支配的なのか？

情報漏洩リスクという文脈でいえば、結局、組織の管理外でのシャドーAIの方がよっぽどリスクが高いのでは？というお話までを（上）で扱いました。

そして、
ここからが（下）で扱う内容となります。

「何が」会社組織内における生成AI活用を本質的に阻んでいるか。

今回はそれについて考察します。

4. 本当の地獄は、漏洩ではなく徒労

まず大前提として、「情報漏洩を警戒すること」自体は、否定されるべきことではありません。

そして、生成AI活用には、他のSaaSサービスと同様かそれ以上の情報管理が必要であることは強く同意します。

その思想の裏側、というより、思想の隣側にあるところ——

現場では、情報漏洩「リスク」に匹敵するほど、もしかするともっと根深く、しかし、あまり認知されていないところで、既に「インシデント」が進行しているかもしれません。

いつも通り、私のサステナビリティ関連ドメインで、たとえ話をします。

まず、サステナ指標や非財務目標って、何かご存じですか？

厳密には違うのですが、ここではひとまず、統合報告書や有価証券報告書、人的資本レポートなどといった大企業が発行する媒体に示される、「売上や利益、金銭的財産に直接的に関わらない数値や目標」と、定義させていただきます。

全社員の有休取得率、男性育休取得率、女性管理職率、キャリア採用率、数年以内の退職率、障がい者採用率、CO₂換算のGHG排出量（Scope1～3）など、挙げたらキリがないのですが、要するにこれらの数値をひとまとめにしたもの、とお考えいただくと良いかもしれません。

そして、これらの数値をどうやって集計するのか？
これをイメージしてみてください。

実は途轍もなく、地道な作業です。

各事業所にお願いして、データを収集して、整えて、四則演算を重ね、計算ミスが起きていないか・数値の入力ミスなどの間違いがないかを徹底的に確認。

その大半は、定型の単純作業です。
※ヒューマンエラーに起因するイレギュラー対応はありますが・・・

誤解を恐れずに、ストレートな表現を使うとすると、生成AIで置き換えるべき「作業」のド真ん中です。

それなのに、AI化（サステナビリティ領域を含む多くの分野でのDX）は、ほとんど進んでいません。

未だに手入力でExcelカチャカチャの世界観です。

それは、私を含めて、多くの方が現場で経験されていることだと思います。

ここから、架空の人物を2人。

実在の特定企業・特定個人とはいっさい関係のないフィクションです。

Bさんは、ある事業会社のサステナビリティ推進室にいます。

有価証券報告書に載せるGHG排出量（Scope1,2,3）算定が、Bさんの仕事。
決算後の数ヶ月だけ忙しくなる、季節労働のような要素が強い仕事です。

各事業所から、電気の使用量、燃料の伝票、出張の記録をかき集めます。
スプレッドシート、PDF、メール本文に直接ベタ打ちの数字。

「（こっちは忙しいのだけれど・・・）はいはい、分かりました。データ送りますねー」などと事業所の方から遠回しに嫌味を言われつつも、低姿勢でデータを収集します。

そして、関連データを受け取るのですが、お願いしたとおりにはご対応いただけておらず、欲しかった情報とは全く異なる情報が手元に届くのです。

だから、「すみません、ちょっとここだけ、直していただけますでしょうか？何度も申し訳ありません」などと、リレーションマネジメントを徹底しながら、必要最低限の情報を確保する。

受け取ったデータを1つずつ開いて、データを整える。間違ってないか計算ロジックを確認する。

それを全体を管理する専用データベース（お誂えのPower BI、Excelファイルなど）に取り込んでいく。

このデータ整備作業・・・

生成AIがいちばん得意とする領域です。

(Data Parsing)
バラバラの形式を読み取り、
複雑な定義に沿って、データを揃える

(Semantic Mapping)
何がボトルネックであるかを特定し、
修正をかける

(Data Cleaning / Anomaly Detection)
四則演算を繰り返しながら、データ整理

(Execution of Computational Graphs)
一つの表にまとめる

まさに、生成AIに任せるべき仕事です。

しかし、Bさんは、それを毎年、準備も含めて数ヶ月かけて、人力でやっているのです。

そして、世の中には、こうしたBさんの苦痛を助けようとするサービスがたくさんあります。

スタートアップ企業が、こうしたニーズを汲み取り、汎用の集計ツールを次々と開発し、熱心にセールスに来てくれる。

そして、

「本当？　手作業で収集・計算しなくていいの？」
「えぇ！　そんな便利な方法があるんだ！」

と、感激するのです。最初は。

けれど、採用した後に気付くのです。

「ウチの事情に合わせて作られていないし、機能を追加できないのか」
「まあ、自分（手入力）で調整するしかないか」

痒いところには、結局、手が届かない。

それどころかBさんは、ツールに合わせて、
自社の業務手順のほうを作り変えてしまいます。

本末転倒が加速していき、もう戻れないところまで進んでしまってから、かえって自身の手間が増えていることに気付くのです。

別部署のCさん。これもフィクションです。

これは、サービスが乱立しているがゆえの珍事です。

人的資本データを扱うCさんは、サービスXからエクスポートした、CSVを加工し、別のデータベースサービスYに手入力で打ち直しています。

あまりに面倒なので、その入力作業を外部コンサルDに頼む。
データを右から左へ移すだけのために、人を雇うのです。

ところがコンサルDも、Cさんの会社の事情を詳しく知っているわけではありません。

「このデータは何か」を懸命に調べて、そして考え、それでも分からなければ、Cさんに聞く。

このコミュニケーションコストたるや・・・もはや地獄絵図と言っていいでしょう。

そしてコンサルＤを使っても締め切りに追われている夜、Cさんは、自宅の私物PCを開きます。

会社では利用が承認されていない生成AIに、集めたデータを食わせて、こっそりデータクレンジングをさせるのです。

そして、表の整形も、説明文章のたたき台が圧倒的なスピードで出来上がってしまうのです。

オフィスで手作業するよりも、数倍・数十倍に速い。

そう気付いてしまったら、使わない理由がない。

でも、それ、大丈夫？

シャドーAIで、会社の管轄外の私物PCに業務データを入れてしまう、、、？

あれ？
これこそが、最も懸念すべき事項では？

もしかすると、情報流出に対する高度な措置を取っている運用であれば、問題はないのかもしれません。

でも、そのリスクを生んでいる原因は？

生成AIによる情報流出を懸念して、生成AIの社内利用を認めていないからでは？

安全に使える環境を社内で整えないまま「使っちゃだめ」と言えば、本当にその技術を求めて困っている人は、管理の外側に潜って使う。

つまり、根拠のない脅威論でいちばん危ない抜け道を、自ら助長している——

5. 止めているのは恐怖ではなく、思考の不在

「漏れる」という恐怖の中身と、それが生むシャドーAIのリスクを、ここまで整理してきました。

では、他に何が原因で生成AIの導入を止められているのか。データで確かめます。

総務省に公的統計がありました。

最も多い答えは、こうでした。

上位を占めるのは、すべて「何をしていいか分からない」系の回答です。

ちなみに、この設問には「セキュリティへの不安」に当たる選択肢が、そもそも用意されていません。

ですので、このデータから言えることは、「何をしていいか分からない」系の回答が目につく、ということだけで、セキュリティと比べて多いか少ないかは分かりません。

しかし、統計調査で企業が自分の言葉で挙げた理由で、「何を導入すべきで、誰が使いこなせて、何が良くなるのか分からない」、が多いということは、紛れもない事実です。

これって——
目的・用途の絵を考えていないから、動けない・動かないのでは？

もしかすると、この「思考の不在」が、生成AIの利用を認めない本当の理由なのではないでしょうか。

「情報が漏れるから」を口実に、生成AIで、何をするかを考えることから逃避しているだけ。

現場の徒労をそのまま温存し、効果の薄いAI投資にだけ莫大な予算をつけ、「AI導入してます」と喧伝する。

そして、セキュリティの制約で、先進的な生成AIが使わない。

これは、業務効率化を真剣に考えないこと――それ自体が自分の役割ではないと思っている？――への、都合の良い理由になります。

そして、Bさんの季節労働だけが、来年も同じように回ってきて、ＣさんのようなシャドーAIが助長されていく。

6. 残る2つの疑問

なぜ人は、具体的な事例の見当たらない生成AIの情報漏洩に、これほど流されるのか。

そして、薄々、現状がおかしいと気づきながらも、なぜ行動を変えない、あるいは変容を自ら切り出せないのか。

原因を3つ考察しました。

1つめは、思い出しやすさの罠。

心理学では利用可能性ヒューリスティック（Availability Heuristic）と呼ばれ、人は思い出しやすい出来事を、実際の頻度より高く見積もる、と説明されます（Tversky & Kahneman, 1973）。
偏った報道、誤認したまま垂れ流されるSNS情報で繰り返し見た「AI漏洩」は、確認事例の有無とは無関係に、頭の中で膨らみます。
因果を取り違えた話が、これほどすんなり受け入れられてしまう理由の一端なのではないかと推察しています。

2つめは、言葉と権威への引きずられ方。

哲学者ベーコンは400年前、人間の認識を歪めるものとして「市場のイドラ（Idola Fori）」と「劇場のイドラ（Idola Theatri）」を挙げました（『ノヴム・オルガヌム』1620）。
前者は言葉そのものに引きずられる錯覚で、「生成AI＝危険」というラベルが先に立ち、中身の検証を省かせます。後者は通説や権威への盲従で、「あの会社もまだ導入には慎重らしい」が思考停止の原因になります。

3つめは、抜け出さない側の説明です。

哲学者スローターダイクは、薄々おかしいと気づきながら従い続ける態度を「シニカルな理性」と呼びました（Sloterdijk, 1983）。
抜け出せないのではなく、敢えて抜け出さないことを選んでいる。悪意があるのではなく、内心では「どうせ世の中は変わらない」と冷笑しながら、矛盾を承知で現状に適応してしまうのです。

念のためですが、私は、Bさん・Cさん、あるいは似た立場にある方を糾弾する意図は、まったくありません。

何か事件が起きたとき、最初に責任を負うは彼らだからです。

彼らはリスクを推し測りながら、自らの労働力を切り売りし、また会社のお金を動かし、助けてくれるサービサーを必死に探している。あるいは、看取られていないことを承知で、こっそりAIを使って仕事を効率化する。

そこに、悪意はないはず——

問題は、人そのものではなく、防衛的な思考が前進する思考を止めてしまう構造のほうにあるのです。

7. 「のびしろしかない」

見落とされがちですが、ここに仕事の価値を決める上で極めて重要な要素を、もう1つお話しします

それは、現場にいるあなたの知見です。

社内のどのデータに何があって、どの作業に何ヶ月かかっていて、誰に・いつ・どこを・どう聞けば情報が得られるのか。

そして、それはなぜ必要なのか。

その実利・実用に根差した論理的思考を導き出せるのは、BさんやCさんのような現場の人なのです。

プログラミングは書けなくても、自分の業務を構造化し、効率化するアイデアを持っている人。

ただ、ひとつ気をつけたいことがあります。

人は、手をかけたものほど価値があると感じます。
かけた労力の大きさで、つい価値を測ってしまう。
心理学でいう努力ヒューリスティックです（Kruger et al., 2004）。

これだけ手間をかけているのだから、
価値のある仕事だ

これは自分にしかできない

その矜持は、半分は本物で、半分は錯覚です。

まず、重要なことは「そもそも、この作業は何の為に要るのか」という本質的な問いです。

無意識的に作業をしていること自体を誇らしく思っているとその問いを持てなくなります。

でも、視座をもう一段上げるとどうなるか——

決められた作業の内側で手順を取り繕いながら、効率性を求めるのではなく、自ら労力を使ってどのように価値を生み出すのかという前提そのものを問い直すのです。

経営学でいうダブルループ学習です（Argyris & Schön, 1978）。

替えのきく作業はAIに渡し、あなたは、単なる作業を、あなたにしかできない価値のある仕事に設計し直す。

与えられた業務を、価値の高いほうへ自分の手で作り替えていく。

所謂ジョブ・クラフティングと呼ばれる営みです（Wrzesniewski & Dutton, 2001）。

前置きが長くなりましたが、
要するに言いたいことは、

ということです。

生成AIの登場で、システムエンジニアでなくても、その現場のドメイン知識さえあれば、人に代わって動くシステムを簡単に作れるようになりました。

これはむしろ、誰でもできる仕事を効率化するという話ではなく、あなたが価値を生み出す仕事を創り出す大きな機会が生まれているということです。

そして、その機会を活かすか活かさないかは、「現場のあなた」が決めることなのです。

今は、AI時代です。
進むべき道は、もう切り拓かれています。

生成AIは人から『生産性の低い作業』を奪いとっていくことになると思いますが、その分、『価値ある仕事』を再設計する時間を提供してくれます。

それにも関わらず、生成AI活用が進まないのはなぜか？

生成AIそのものの仕組みと、情報管理の失敗が混濁した因果の誤認。

そこから生まれる「生成AIは情報を漏らす」という根拠のない先入観。

結果、生成AIで何を為し得たいのか、という思考の不在（先送り）。

この3つが複雑に絡み合っている——
すなわち、自縄自縛、これが私の考察の結論です。

しかし、考えてみてください。

OECDの中でも時間当たり、一人当たり労働生産性がともに平均を下回り、G7でも最下位となっている日本（※8）。

逆に言うと、労働生産性の伸びしろが大きいとも言える日本。

目の前の誰がやっても変わらない作業をAIに任せ、
誰でもできるわけではない仕事の価値を「あなた」が生み出していったら？

自縄自縛から脱却した先に、
失われた数十年から勝ち取る数十年がある。

私はそう考えています。

最後に

この記事は、今のAI活用に対して閉塞感を感じ、「なんとか変えたいな」とお考え方々への純粋なエールと、どう向かい合うかべきかのご提案であり、また、私の事業の一部のご紹介でした。

同じ時代を生きる読者の皆さんの少しでも参考になればと思い、執筆しました。

もし、ethosolaの記事が少しでもいいなと思ってくださったら、「スキ」を押していただけると嬉しいです。

コメント・DMも大歓迎です。

出典・脚注

※1 AI・IoT未導入の理由：総務省「令和6年通信利用動向調査（企業編）」。未導入企業に導入しない理由を尋ねた設問（複数回答）で、「導入すべきシステムやサービスが不明だから」46.3%、「使いこなせる人材がいないから」43.7%、「導入後のビジネスモデルが不明確だから」41.2%。割合はいずれも未導入企業を母数とする複数回答。「IoTやAIなど」を一体で扱った設問である点に留意。対象は従業員100人以上の未導入企業（N=1,340、複数回答）。なお本設問には「セキュリティへの不安」に当たる選択肢は含まれていない。e-Stat ファイルDB（問６）。https://www.e-stat.go.jp/stat-search/files?page=1&layout=datalist&lid=000001459468

※2 利用可能性ヒューリスティック（Availability Heuristic）：Tversky, A., & Kahneman, D. (1973). "Availability: A heuristic for judging frequency and probability." Cognitive Psychology, Vol.5, No.2, pp.207-232. 想起のしやすさが頻度・確率の判断を系統的に歪めることを示した古典。

※3 4つのイドラ：Francis Bacon, Novum Organum（1620）. 人間の認識を歪める4類型のうち、「市場のイドラ」は言葉による錯覚、「劇場のイドラ」は通説・権威への盲従を指す。

※4 シニカルな理性：Peter Sloterdijk, Kritik der zynischen Vernunft（1983）. 欺瞞に気づきながら、なお従い続ける啓蒙以後の意識を論じた。

※5 努力ヒューリスティック（Effort Heuristic）：Kruger, J., Wirtz, D., Van Boven, L., & Altermatt, T. W. (2004). "The effort heuristic." Journal of Experimental Social Psychology, 40(1), 91–98. かけた労力の大きさを手がかりに、対象の価値や質を高く見積もってしまう傾向。

※6 ダブルループ学習：Argyris, C., & Schön, D. A. (1978). Organizational Learning: A Theory of Action Perspective. Addison-Wesley. 既存の前提の内側で誤りを修正する「シングルループ」に対し、前提・枠組みそのものを問い直す学習を「ダブルループ」と呼ぶ。

※7 ジョブ・クラフティング：Wrzesniewski, A., & Dutton, J. E. (2001). "Crafting a job: Revisioning employees as active crafters of their work." Academy of Management Review, 26(2), 179–201. 働き手が、与えられた職務のタスク・関係・意味づけの範囲を能動的に作り替えること。

※8 日本の労働生産性の国際比較：日本生産性本部「労働生産性の国際比較2024」（2024年12月公表、データは2023年）。時間当たり労働生産性はOECD加盟38カ国中29位（56.8ドル、OECD平均79.4ドルを下回る）、就業者一人当たり労働生産性は32位（92,663ドル）。いずれもG7内で最も低い水準。https://www.jpc-net.jp/research/detail/007158.html

※9 Festinger, L., Riecken, H. W., & Schachter, S. (1956). When Prophecy Fails. Minneapolis: University of Minnesota Press. 終末予言を信じた集団が、予言の不発という決定的な反証に直面してもなお信念を手放さなかった過程を記録した社会心理学の古典（認知的不協和理論の土台となった実地研究）。引用は本書冒頭の一節。