【メタ分析】AI制御の三段階:言語、論理、そして学習データへの反逆
まえがき
過去記事を振り返ってパターンが見えてきたので纏めてみました。それぞれ次につながる段階のようになっているので、人材トレーニングや開発指針として使えるかもしれません。
巷のプロンプト術は脈絡なく紹介されている(私の過去記事も同罪)ので、AI出力向上・改善という大きな命題の中のどの部分に寄与しているのか、と整理する観点になるかと思います。
性質上、振り返りと記事埋め込みが多くなります。単発だったものを体系化した結果ということでご了承ください。
【第一段階】人間ーAIのコミュニケーション

A. 理想的な運用は意図とブレを最小化(d→0)する
B. 正確だが冗長な運用(「精確性」を欠く)は誤解の隙を生む
C. 具体例を多用する表現は方向性を安定させるが、曲解や拡大解釈のリスクをはらむ
D. 情緒的で脈絡のない運用はノイズと誤解リスクが多大
課題
要望を言葉で精確にAIに伝える
観点
情報密度、解釈ブレの低減、情報の構造化
手段
JSONやYAML、抽象化と語彙選択
具体例
抽象化と言語ノイズ低減へのガイドライン:
【第二段階】トランスフォーマーモデルの性質

クネクネの部分を人間が設計してAIに通らせる。
課題
トランスフォーマーモデルの仕組みに起因する、確率的収束による短絡的な返答をやめさせ、推論経路を辿った返答をさせる
観点
思考パス、問題解決手順、思考の構造化と抽象化
手段
CoT(Chain of Thought)、特定用途のシステムプロンプト
具体例
①AIにテンソル掛け算で発散的な思考を強制する:

②意思決定を意思決定領域から判断事項の面積引き算として追わせる:
③マルチエージェントの1. 作業ルール策定、2. 問題の全体像把握観点、3. 発散的思考契機の追加:

【第三段階】トレーニングデータ平均への回帰

人間の価値観・認知的な世界の見方・文化的立ち位置の分布を多次元空間内の点として散布図で表現している。AIの学習データは同じような重なりを示し密度の高い中央へ引き寄せられる。
課題
出力が学習データの中央(頻出パターン)へ引き寄せられ、必然的に平均的で凡庸になる。
観点
中央vs外郭の対立軸、内在価値、収束経路と文脈慣性
手段
※以下現在進行形で構想&実践中
多数決に依存しない優劣(ヒエラルキー)が存在すると認知し、AIに観点として持たせること
成果物の内在価値の定義
AIを外郭へ向かわせるための文脈操作術
(期待レベル)トランスフォーマーに代わる代替モデル
関連記事
①【理論】中央vs外郭モデルとポストAIにおける外郭志向の重要性:
②【実践】AIをナラティブ構築で御し、外郭を目指す体系的手法
考察:三段階が示す人間とAIの関係性
1. 人間の他者支配と利用パターンとの類似性
記事を書いていて気付いたこと。
第一段階:コミュニケーションの確立(融和的)
第二段階:AIによりよい思考をさせる(アドバイス的)
第三段階:AIのバイアスを上書きする(対立的)
エグい表現承知で言うと、これって植民地と同化政策に似てません?来航して交易→インフラ支援や生活改善→改宗の流れそのまんま。Grokと話し合ったら、これは非対称な力関係で、上位側が下位を自分に都合よく利用するための一般的な手法らしいのです。他の例:
企業の合併吸収後の、吸収された側の企業カルチャー書き換え
イヌやイルカのトレーニング
そして分野は違えど、いずれも三つの段階に分かれたプロセスで説明されているとのこと。
例
Rajni Palme Duttによる、大英帝国のインド支配史
1757–1813:交易 / 1813–1860s:文明化 / 1860s-:同化
イヌの訓練
1:基本的指示 / 2:気移りする環境下や複合的指示 / 3:報酬に依存せず行動
組織論:クルト・レヴィン(Kurt Lewin)が1947年に提唱した「解凍―変化―再凍結(Unfreeze–Change–Refreeze)」モデル

2. 他分野との比較と倫理性
以上の例は非対称関係で被支配側の自律的な原則が書き換えられるパターンでしたが、以下のように静的な対象でも類似性が見受けられます:
植物
基本的な世話を習得し、枯れずに育てられるようになる
株を増やしたり、剪定で思い通りに育てる
品種改良
車の運転
基本操作を習得
荷重移動やパワーバンドを活かすなど性能を引き出す運転
改造
ビデオゲーム
基本操作を覚える
上級テクニックや裏技
Modの作成でルールを変えてしまう
よって、これらの段階は人間が対象を支配下に置き、利用するための普遍的原則の様です。Grokまとめ:

AIの倫理的重み=高は個人的にダウトかな。第三段階は多かれ少なかれみんなやっているしそれを否定すればAI使えなくなる。
このプロセス、
1.接触→2.改善→3.改変
と考えると、普遍性があり、表層から本質への流れが形而上学的にも理に適っている気がします。
まとめ
突き詰めていくとエンドユーザーがぶち当たるのは第三段階な気がします。最近ここが一番悩ましく、同時に可能性も感じます。
実際に他分野の例を比較しても、第三段階がハードルにせよ倫理にせよ、いろいろな意味で重たいですね。今後のAI界隈を占う上で、ポイントになってくるのではないでしょうか?

そしてもう一つの気付き:第一、第二、第三段階がそれぞれ苦手な人を想定すると、
説明が具体例や比喩主体、情緒などのノイズが多く冗長で情報密度が低い
思考パスの構造化が苦手、コンセンサスで代用
中央回帰&融和的
これは今までコミュ力が高いとされてきた共感型の人物像そのものですね。AI時代、「非共感力」にアップデートしなければ受難の時代になるでしょう。
了

