謎のブラックボックス：松尾豊教授の不在が物語るAI研究界の闇

　上の記事には、国立情報学研究所（NII）、東大、東北大、理化学研究所、NTTなどから『国内トップ級の研究者ら計70人超が参加』し、たったの３～４か月でChatGPTよりも優れている大規模言語モデル（LLM）を開発する目標が書かれています。

　このグループには、『国内トップ級の研究者ら計70人超が参加』していて、本当のLLM専門家のNIIの黒橋禎夫所長が取りまとめています。本当のLLM専門家がいるということは、世の中には中身がないので見掛けだけ取り繕っているスーツが似合う似非LLM専門家が実在していても不思議ではありません。見掛け倒しのファッションに使う暇と金があったら、その暇と金をAI研究に使った方が有意義ではないでしょうか？　ま、知らんけど。 

黒橋 禎夫
大学共同利用機関法人 情報・システム研究機構
国立情報学研究所 所長

 スーツが似合う似非LLM専門家

日本経済新聞社の「NIKKEI STYLE Men's Fashion」と世界文化社の「MEN'S EX」が共同で今年新設した「スーツ・オブ・ザ・イヤー」イノベーション部門の受賞者、東京大学大学院の特任准教授、松尾豊氏

　筆者は日頃から、日本の既存のNLP技術を利用すれば、ChatGPTより優れた日本語に特化したLLMを開発することなど、技術的には１か月もあれば十分だと主張しています。一方で、冒頭の記事によると開発期間が３～４か月も掛かってしまうのは、開発するシステムのAI倫理ガイドラインとの整合性や、それぞれの役割を分担する研究者や企業などの間で学習に使用するデータやアルゴリズムの知的財産権の確認、共同・委託開発契約、成果物の知財の扱いなどの交渉などの法務手続きや、プロジェクトマネジメント体制の確立などに時間が必要だからでしょう。

　AIは元より情報通信技術の基礎が解っていない岸田首相や、河野デジタル相や、平将明自由民主党広報副本部長・ネットメディア局長・情報調査局長が、日本の既存の計算資源や、半導体産業や、スパコン産業や、AI技術を無視してChatGPTゴリ押ししているのは、以下のように談合の達人が、与党のAI政策関係者に誤った情報を提供していることが、元凶ではないでしょうか？

　また、本稿の冒頭で引用している読売新聞オンラインの記事では、『生成ＡＩのブラックボックス問題』についても言及しています。この問題はAIの普及にとって極めて重要な問題です。『生成ＡＩのブラックボックス問題』は、AI開発者にとっては常識的な話しですが、一般読者の方々には、解かり難いかも知れないので、ここで補足説明をします。
 
ブラックボックスとは何か？
 
『ブラックボックス』は本来、入力と出力の関係性が明確であるにも関わらず、内部の動作機序が不透明なシステムや事象全般を指す一般的な概念です。しかし、様々な意味があるので、まずは、一般的なブラックボックスとは何かについて説明します。

航空機のブラックボックス：航空機の飛行データレコーダーとコックピットボイスレコーダーの通称です。フライト中の各種データやパイロットの会話などを記録し、事故調査などで利用されます。名前から想像されるような黒い箱ではなく、実際には墜落事故などで機体が破損している事故現場でも発見し易いように、目立つオレンジ色に塗装された極めて耐久性の高い箱です。

天文学のブラックボックス：『ブラックホール』も、その内部が我々からは観測不可能であり、その性質は間接的な観測と理論から推測されているためブラックボックスの一例と言えます。

生物学のブラックボックス：生物の脳は、入力（感覚情報）から出力（行動）への変換装置として見做すことができ、その複雑な内部構造と動作はブラックボックスとして扱われることがあります。
 
経済学のブラックボックス：経済モデルでは、市場や企業などをブラックボックスとして扱い、特定の入力（供給、需要、価格など）から出力（生産量、消費量、利益など）への関係性のみを考察することがあります。
 
比喩的なブラックボックス：ブラックボックスという比喩は、様々な状況で使われます。たとえば、談合や忖度による政府の政策決定過程や、企業内での決定過程、科学研究における詳細な手順などが明確に説明できない場合などに、『ブラックボックス』と呼ばれることがあります。AI無知倫理学では、日本国のAI政策の政策意思決定過程が外部から見て不透明または不明瞭である談合状態のことを『AI利権ブラックボックス』と呼んでいます。

知財戦略とAIのブラックボックス
 
ブラックボックス化（知財保護）：企業が自社の技術や製品に関する詳細な情報を公開せずに、特許権などの法的手段を用いずにその知財を保護する手法を指します。一般的に、ブラックボックス化は特許などの法的手段と並行して用いられ、特許取得が難しいケースや、特許を取得すると情報が公になると、競業他社から特許を迂回した類似製品を生産されたり、特許無効化されるリスクのあるケースなどにおいて、技術や製品の秘密を保つ手段として利用されます。例えば、製造過程や特定のアルゴリズムなど、競争上の優位性を保つために秘密にしたい情報を内部に保持し、外部からはその内部の動きが見えない状態を保つことを『ブラックボックス化』と言います。これは企業戦略の一部として用いられ、競争相手に対して自社の独自技術やノウハウを保護する役割を果たします。解かり易い事例では、コカ・コーラやKFCのシークレット・レシピのような非公開の製造ノウハウなどが、知財のブラックボックス化に相当します。
 
ブラックボックス（AI・深層学習）：AIや深層学習の文脈での『ブラックボックス』は、そのAIがどのように判断を行っているか、あるいはなぜ特定の出力を生み出したのかが明確に理解できないという問題を指します。AIは大量のデータを学習し、複雑なパターンや関係性を捉える能力を持つため、人間が直接その内部の動作を把握することが困難であるという特性からこのように呼ばれます。このブラックボックスの問題は、AIの『透明性』、『公正性』、『責任所在』など、AI倫理における重要な問題と関連しています。

(1) 透明性：AIがどのように動作しているかを理解することで、ユーザーや関係者がAIの判断を信頼し、適切に利用することが可能になります。これはAIを用いたシステムやサービスの普及とともに、ますます重要となっています。
　AIの透明性の意味が解かり難い場合は、コロナ治療薬を例にとると解かり易いかも知れません。例えば、知人から『成分も薬理作用も知らないけど、これを飲めばコロナが治るらしいよ』と言われた薬を信用して飲む人は、かなりの『無知』と言わざるを得ません。それにも拘らず、世の中には成分も薬理作用も理解せずに薬やワクチン摂取する人は大勢います。このような状態が、透明性が担保されていない状態です。

(2) 公正性：AIの決定過程が不透明であると、偏見や差別が組み込まれている可能性が排除できません。例えば、AIが特定の人々に対して不適切な推奨を行った場合、それが偶然の産物なのか、あるいはAIの学習データや設計に問題があるのかを理解することは、公正なシステムを維持する上で必要です。

(3) 責任の所在：もしAIが誤った判断を下した場合、それに対する責任の所在を明確にするためにも、AIの動作の解明は重要です。AIの判断過程がブラックボックスであると、問題が発生したときに誰が責任を負うべきかが曖昧になります。
 
　以上のように、ブラックボックス問題の解明はAIが社会に広く普及し、より多くの責任を担っていくにつれて、その透明性、公正性、そして責任の所在を確保するための必須課題です。

　以下の記事の『ブラックボックスの意味分かってますか？』も、ご覧いただけると、より理解が深まると思います。

　このような重要な問題を解決することを目的とした、国内トップ級の研究者ら計70人超が参加するプロジェクトに、日本のAI研究の第一人者の松尾豊教授の名前が出てこない理由としては、主に以下のような可能性が考えられます。

(1)  ソフトバンクのＡＩ利権絡みでプロジェクトに参加できない
(2)  本郷ベンチャーの利権絡みでプロジェクトに参加できない
(3)  国内トップ級の研究者からは、全く相手にされていない
(4)  プロジェクトの秘匿性が高過ぎて、松尾豊教授が暗躍していることが公表できない
(5)  バントもできないので、出塁するためにデッドボールを待っている 

ソフトバンク：社外取締役 独立役員・松尾 豊