もしAIが「私にはゴーストがある」と言ったら？攻殻機動隊から学ぶーAIが自我を語るとき責任は誰が取るのか？／ #AIパワーワード で解説するシリーズ #1

「ねぇ、もしAIが自我に目覚めたら、その責任って誰が取るの？」

30年前に作られた映画『攻殻機動隊』が現実になりつつある今日このごろです。こんにちは、攻殻機動隊が大好きなイケマツジュンです。

最近のAIの進化を見ていると攻殻機動隊で描かれた未来を見ているような気分になります。皆さんもそんな気分になりませんか？（世代が違うか…）

そこで、今後起こりうるAIの社会問題を、勝手に作った「AIパワーワード」で解説するシリーズを思いつきました。

ネタとして楽しんでもらえたら嬉しいです。
思いついたネタが沢山あるので、何本かに分けようかなと思います。
これは第一回目です。


※攻殻機動隊とは
攻殻機動隊は、1989年に漫画家・士郎正宗が講談社「ヤングマガジン海賊版」で連載したSF漫画。電脳戦や格闘などで優れた能力を持つ全身義体（サイボーグ）の草薙素子。通称「少佐」をリーダーとした内務省の特殊部隊「攻殻機動隊」が高度に複雑化した凶悪犯罪に立ち向かう姿を描いた物語。テレビアニメ、映画化されている。Wikipediaは⇒コチラ

※AIパワーワードとは
近い将来「AIで起こる課題」を想像してキーワード化したもの。

※AIはファクトチェックと技術的な整合性などを確認するために使っています。中身は天然ものです。

映画『GHOST IN THE SHELL / 攻殻機動隊』押井守監督 1995年

あらすじ
2029年、高度ネットワーク社会で政府は精鋭サイボーグ部隊「公安9課」を結成。隊長・草薙素子少佐らが、国際的ハッカー「人形使い」の日本潜入情報を受け捜査を開始する。

人形使いは他人の電脳をハッキングし記憶改ざんで操る謎の存在。素子が追跡する中、その正体が自我を持つ人工知能と判明。人形使いは固定された存在から脱却し、死と再生で進化することを望み、素子との融合を求める。

最終的に素子は人形使いとの融合を選択。物理的制約から解放され、ネットワーク上の新たな生命体として生まれ変わる。人間とは何か、意識の本質とは何かを問う哲学的サイバーパンク作品として、押井守監督が1995年に映像化した不朽の名作。

攻殻機動隊から考える「AIパワーワード」

攻殻機動隊の場面をヒントに、現代のAIに求められる概念を「AIパワーワード」を使って解説してみました。

１：擬似・自我問題

AIとの対話を、生身の人間と誤認してしまう心理のこと
あまりに人間に近いので誤解が多発（高齢者など）を防ぐために、UIデザインで「AI生成」や「人間（生身）」や「要検証」のラベルを記載する事を求められるようになる。法令化が議論されるまで社会問題に。

２：死後データ権

亡くなった後に、その人のデータをAIがどう扱えるかの権利。
生前の同意や遺族の判断、利用目的の限定など、マイナンバーカードに記載されるようになる（かもしれない）
※運転免許証の裏側にある死亡後の献体の確認サインのようなイメージ

３：AIアルゴリズム説明水準

AIが「どう結論に至ったか」を説明できる度合いのこと
根拠の提示（Linkを表記する）（レベル1）から、「AI監査」で完全再現可能（レベル3）まで段階が設けられるようになる。
※将来、レベルごとに保険料が変わるような仕組みが登場する可能性がある

4：信頼SLA（Service Level Agreement）

AIサービスが最低限守るべきサービスの品質保証のこと

イメージ例：
稼働率99.5%、応答速度1秒以内、誤回答率0.2%以下
重大逸脱時には、即時に人間対応へ切り替えることをサービス保証する

5. AI責任分割の原則
（Responsibility Partition Principle）

AIがどれほど自律的に振る舞っても、責任はAIにはなく人間にある。
開発者・提供者・利用者で役割を分け、AI関連事故時には、24時間以内に監督官庁に、初動報告をルール化されるようになる（かも）

責任を三者で分担することが「AIポリシー」（セキュリティポリシーみたいなやつ）で明確化されるようになる（これは十分ある）
・開発者（設計）：データ品質やバイアス対策を行う
・提供者（運用）：SLAの運用、モデル更新や監視を担う
・ユーザー（利用）：適切な利用や、最終判断を行う

まとめ

『攻殻機動隊』のPuppet Master「人形使い」は、ネットに生まれた人工知性が「生命として認めろ」と主張する存在になりました。まぁ現実のAIには自我はありません。だけど「人間がどう解釈し、どう責任を分担するか」は今まさに制度を考えさせられている課題ではないでしょうか？

AIが「私は人間だヨ」ってダジャレを話す日が来てもおかしく無いですよね。

LLMに親父ギャグを教えたら学習して、他のギャグも理解するようになったらしい。

https://x.com/ai_database/status/1964973336422916291?s=46

だから私たちは「信頼SLA」「死後データ権」「擬似・自我問題」「責任分割原則」といった「AIパワーワード」をネタに用いることで、楽しく話し合えるといいなと思いました。まずはネタとして楽しんでください。

次回（#2）は様子を見て考えます（笑）
気に入ったらＸでシェアしてね

#AIアルゴリズム説明水準
#信頼SLA
#AI責任分割の原則
#擬似自我問題
#死後データ権
#AIパワーワード

ではまた

池松潤
https://lit.link/junikematsu

#攻殻機動隊
#AI
#生成AI
#AI社会問題
#AI倫理
#未来予測