AI特有のリスクの解消可能性（ハルシネーション・ブラックボックス）/ CISAロードマップ / 故人のデータ保護に関する議論雑感_0911新設0915更新版

１. ハルシネーションの最新動向

　ハルシネーションが引き起こされる原因についての論文が話題になってる。ざっくり言うと、”ハルシネーションが生じるのは、AIが「わからない」って言いずらいようにシステム設計されてるのことに原因があり、そうした評価方法を改善すればハルシネーション改善できるのではないか”というところである。
（※ハルシネーションとは、生成AIが 事実に基づかない情報や、実際には存在しないことを、まるで真実であるかのように生成する現象）

　AIに指示出しする際に「間違いはペナルティ / 正解は1ポイント / 分かりませんは0ポイント」といった明示的目標を含めると良いようである。
　なお、試験的にGPT5proとGemini Deepthinkを使用し文書生成とファクトチェックをしてみたが、ハルシネーションはほとんど見られない（僅かには見られる）。モデルによる差異は留意すべきである。

　Open AIトップのアルトマン曰く、ハルシネーションはGPT5でかなり改善し、いずれ完全に解決できる問題とのことである。（https://m.youtube.com/watch?v=5KmpT-BoVf4）

２．AIのブラックボックスの解消可能性

　LLMが内省し自己の内部プロセスを広範かつ明確に説明できるようになり、自己解釈可能になりうる旨の論文が発表された。かかるモデルの進化が実現していけば、もはや単なるブラックックスではなくなる。

　ハルシネーションとブラックボックスといった従来、AI特有のリスクが解消されるとなればAIの従来からの議論の根底からの見直しが要請されうる。今後も最新動向に注視する必要がある。重要性が極めて高いトピックである。

　ただし、依然としてプロキシー差別には注意が必要である。AI医療ツールは医療格差を反映して、女性や少数民族の症状を軽視する傾向があるとする以下の記事もある。

３. CISAがCVAのロードマップを公表

　CISA（米国サイバーセキュリティ・社会基盤安全保障庁）がCVAのロードマップを公表している。日本でも参考になる点が多いように見受けられる。こちらでも、成長の時代から品質管理（信頼安全・責任）の時代での変容が垣間見える。

４. 故人のデータ保護に関する議論

　故人のSNSでの会話等を元データとして、AIにより故人とやり取りできるサービス等がビジネスとして生まれている。そんな中、倫理的な問題は勿論のこと、故人のデータの所有権や死者のプライバシー権保護の要請が法的には問題となる。かかる検討にあたりヒントになる論文が発表された。

　故人のデータ保護の論点は、パーソナルAI、デジタルツインズ、代理権・同意の議論に接続する。

　近年のAIの急速発展により、情報法の重要性が高まっていることは間違いないといえる。情報法はあらゆる分野に跨る法領域であり、そうした特殊性からもAIとの親和性が高いといえるかもしれない。情報法のみならず、AIの発展に伴い、学際融合の要請は加速度的に高まっていくものと考える。

　なお、個人データに関しては以下もぜひ参照してほしい。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。