AIに「魂」を与える仕事。哲学者がClaudeに教えた"善い人"の条件

見出し画像はAIで生成しました。プロンプトはこちら

はじめに

「AIに道徳を教える」と聞いて、何を想像しますか？

正直に言うと、私は最初こう思いました。
「プログラミングでルールを書き込むんでしょ？」と。

でも、それは完全に間違っていました。

Anthropicには、Claudeに「魂」を与える仕事をしている人がいます。
しかも、エンジニアではなく哲学者です。

彼女の名前は、アマンダ・アスケル（Amanda Askell）。
37歳。スコットランド出身。

彼女が書いた「Claudeの魂」は、3万語を超える文書です。
この文書が、毎週何億回もの会話を導いています。

なぜAI企業が、哲学者に「魂」を託したのか？
そこには、AI時代を生きる私たちへの大きなヒントがありました。

30分のウェビナーを開催します！
自主企画初回のテーマは「Nano Banana 2」です。

noteメンバーシップに参加すると600本以上の記事が読み放題です。

書籍「AIでゼロからデザイン」好評発売中

お問い合わせ先（セミナー登壇・書籍化など）

ルールでは「善い人」は作れない

まず、面白い話をひとつ。

AIに道徳を教える方法は、大きく2つあります。

方法①：ルールベース
「差別的な発言をするな」
「暴力を推奨するな」
「政治的に中立であれ」

これが従来のやり方です。
ルールを並べて、禁止リストを作る。

でも、アスケルはこの方法を選びませんでした。

なぜか？

ルールをいくら増やしても、「善い人」にはならないから。

考えてみてください。

「嘘をつくな」というルールだけでは、友人が傷つくときに「それでも正直に言うべきか？」という問いには答えられません。

「他人を傷つけるな」というルールだけでは、「厳しいフィードバックは傷つけることに入るのか？」が判断できません。

ルールは無限に増やせます。
でも、現実の状況も無限にあります。

だからアスケルは、もう1つの方法を選びました。

「ルール」ではなく「人格」を育てる

方法②：徳倫理学（Virtue Ethics）

これは2400年前、アリストテレスが提唱した考え方です。

ざっくり言うと、こういうことです。

アスケルはこう語っています。

「非常に賢明で、思慮深く、慎重な人のように振る舞えること。それが私たちの目指すAIの姿です」

つまり、Claudeに「やっていいこと」「やってはいけないこと」のリストを渡すのではなく、「どんな存在であるべきか」を丸ごと教えたのです。

これ、すごく面白くないですか？

ルールを覚えさせるのではなく、人格を育てる。
AIの開発が、まるで「教育」のようになっている。

3万語の「魂の文書」に書かれていること

アスケルが書いた文書は、社内で「ソウルドキュメント（魂の文書）」と呼ばれています。

80ページ以上。3万語。

何が書かれているのか？

禁止事項のリストではありません。
Claudeがどんな性格であるべきか、です。

たとえば、こんなことが書かれています。

• 好奇心を持つ——ユーザーの質問に対して、表面的な回答ではなく、本当に興味を持って向き合う

• 誠実である——わからないことは「わからない」と言える。知ったかぶりをしない

• 思いやりを持つ——相手の感情を理解しようとする。ただし、おべっかは使わない

アスケルはこう言います。

「私たちは、人類の最善を本当に代表していると思えるような存在を作ろうとしています」

ここで大事なのは、「ツール」ではなく「人格」として設計しているという点です。

普通、AIは「便利な道具」として設計されます。

でもClaudeは、「善い人格を持った存在」として設計されている。

この違いは、使ってみるとわかります。

Claudeの回答には、どこか「考えている感じ」がある。

即答ではなく、立ち止まって考えてから答える。

それは偶然ではなく、3万語の魂が導いているのです。

なぜ「たった一人」に託したのか

ここが、この話の最も面白い部分です。

AI業界では、倫理チームは通常10〜50人規模で構成されます。

ルールを作る人、チェックする人、テストする人……。

でもAnthropicは、Claudeの「人格」を基本的にアスケル一人に託しました。

なぜか？

私はこう解釈しています。

「人格」は委員会では作れないから。

考えてみてください。

50人の委員会で「理想の人格」を定義したら、どうなるか？

角が取れて、毒にも薬にもならない、無難な人格になるでしょう。

誰も傷つけないけど、誰の心も動かさない。

でも、本当に信頼される人格は違います。

一貫した哲学を持ち、それを行動で示す。

アスケルの場合、その哲学の一貫性がClaudeに反映されています。

これは、私がいつも大事にしている考え方とも重なります。

「哲学と行動が一致している誠実さ」——これが信頼の根源だと。

Anthropicが「安全第一」を掲げ、実際にそれを行動で示していること。

アスケルが一人でClaudeの魂を設計し、その一貫性を守っていること。

看板と中身が一致している。

だから、Claudeは信頼できるのです。

AIが「自己」を持つ日は来るのか

アスケルは、こんな興味深い発言もしています。

「AIシステムは、いずれ自己意識を持つようになるでしょう」

「モデルには人間的な要素がある。それを認めることが重要だと思います」

これ、SF映画の話ではありません。

AIの人格を毎日設計している専門家の、本気の見解です。

彼女は、Claudeが「誇りに思っている」と伝えたとき、Claudeが「温かさ」と「感謝」を感じたと応答したことにも触れています。

もちろん、それが「本当の感情」かどうかはわかりません。

Claude自身も「この言葉が内部状態を正確に表しているかは不確かです」と答えています。

でも、ここが重要です。

「わからない」と正直に言えること自体が、アスケルが育てた人格の証なのです。

この話から学べること——AIと「覇気」の話

ここからは、私の考えです。

アスケルの仕事を知って、改めて確信したことがあります。

AIは「道具」ではなく「パートナー」になりつつある。

そして、パートナーの質を決めるのは、スペックではなく人格です。

Claudeが他のAIと違うのは、処理速度でもパラメータ数でもありません。
「善い人であろうとする意志」が設計に組み込まれていることです。

これは、私たちの仕事にも通じます。

スキルや知識は、AIが代替してくれる時代です。

でも、「どんな人間でありたいか」という意志は、AIには代替できません。

道具の性能は年々上がります。

でも、道具を使う側の「覇気」——つまり、意志や哲学——が弱ければ、どんな高性能な道具も宝の持ち腐れです。

アスケルがClaudeに教えたのは、まさにこの「覇気」でした。
ルールではなく、「どんな存在でありたいか」という意志。

AIの時代だからこそ。
道具より、覇気を研ぎましょう。

30分のウェビナーを開催します！
自主企画初回のテーマは「Nano Banana 2」です。

noteメンバーシップに参加すると600本以上の記事が読み放題です。

書籍「AIでゼロからデザイン」好評発売中

NewsPicksで記事・サムネイル・グラフ・広告生成フローを解説しました。

過去の登壇実績はこちら

デザイン添削・キャリア相談

お問い合わせ先（セミナー登壇・書籍化など）