同じ質問でも、言語が違えばAIの答えは変わる ― Nature掲載論文を読み解く

「ChatGPTにいまの政治について聞いたら、英語で聞いたときと日本語で聞いたときで、答えが微妙に違う気がする」。そんな経験はありませんか?

実はこれ、気のせいではないかもしれません。2026年5月にNature誌に掲載された論文で、世界中の研究者が「国家によるメディア統制が、大規模言語モデルの出力にすでに影響を与えている」ことを示しました。私たちが何気なく使っているAIの答えが、質問する言語によって変わるという事実。今日はこの研究を、公認心理師という立場から、いっしょに読み解いてみたいと思います。

「AIが学んだもの」がAIの答えをつくる

私たちは普段、ChatGPTのような大規模言語モデル(LLM)に、まるで「公平で中立な相談相手」のように質問を投げかけがちです。健康のこと、子育てのこと、ニュースの解説。私自身、臨床現場で「これって調べてもよくわからなかったので、AIに聞いてみたんですけど…」という患者さんの言葉を聞く機会が、ここ1〜2年で本当に増えました。

ただ、ここでひとつ立ち止まりたい事実があります。

AIは、何もないところから知識を得ているわけではありません。膨大な訓練データ(主にインターネット上のテキスト)を読み込み、そのパターンを学習することで、私たちの質問に答えています。つまり、AIにとっての「知識の世界」は、訓練データそのものなのです。

これを私は、人間の「育った環境」にたとえることがあります。心理学の世界では、人がどんな価値観を持つかは、生まれ持った気質に加えて、家庭環境、学校、メディア、文化的背景といった「外側からの入力」によって大きく形づくられる、という考え方が一般的です。AIも、ある意味では同じです。「どんなテキストを大量に読まされてきたか」が、そのAIの「考え方」を決めてしまう。

Nature論文が示した、3つの重要な発見

今回ご紹介する論文は、ニューヨーク大学やプリンストン大学、UCサンディエゴなどの研究者チームによるもので、6つの研究を組み合わせて、この問題を多角的に検証しています。私が読んで特に印象に残った発見を、3つにまとめてみます。

ひとつめは、訓練データそのものに偏りがある、という発見です。

大規模なAI訓練用データセット「CulturaX」を分析したところ、中国語の文書のうち約310万件(全体の1.64%)が、中国の国家統制メディアと内容が一致していたと報告されています。これは、中国語版Wikipediaのおよそ41倍の割合です。さらに、政治指導者や政治制度に言及する文書に絞ると、その一致率は最大で24%にもなるといいます。 つまりAIは、特定の言語においては、特定の方向性を持ったメディア情報を、相当量「読まされて育っている」可能性があるわけです。

ふたつめは、訓練データの偏りが、AIの回答にはっきり影響を与える、という発見です。

研究者たちはオープンソースのモデル(Llama-2)を使って、追加で国家統制メディアの記事を学習させる実験を行いました。わずか6,400件の文書を追加学習させただけで、中国政治に関する質問に対し、約80%の確率で、より中国政府寄りの回答をするようになったとのことです。 6,400件というのは、AIの世界では本当にわずかな量です。それでも、ここまで明確に「態度」が変わってしまう。私はこれを読んで、心理学でいう「単純接触効果(mere exposure effect)」を思い出しました。人は、繰り返し目にしたものを、自然と好意的に評価するようになる、という現象です。AIにも、似たメカニズムが働いているのかもしれません。

3つめは、質問する言語によって、AIの答えが変わる、という発見です。

これがいちばん私たちの日常に直結する話だと思います。9人の評価者による盲検評価で、中国語での質問への回答は、英語での同じ質問への回答よりも、75.3%の比率で中国政府により好意的だったと報告されています。 さらに研究者たちは、37カ国(主に一つの言語が支配的な国)を対象に分析を行い、報道の自由度が低い国の言語で質問するほど、AIはその国の政府に好意的な回答をする傾向があることを示しました。これは中国に限った話ではなく、世界的なパターンとして観察された、ということです。

「言語の窓」から覗くと、世界の見え方が変わる

ここで少し、心理学の話をさせてください。

人間の認知には、「言語が思考に影響を与える」という側面があると、長く議論されてきました。完全な決定論ではないにせよ、私たちが何かを考えるとき、どの言語で考えるかによって、注意の向け方や、ものごとの捉え方が変わる、という研究はたくさんあります。

今回のNature論文が示したのは、AIにおいては、もっと露骨な形で「言語ごとに世界の見え方が違う」ということです。中国語の窓から世界を覗くAIと、英語の窓から世界を覗くAIは、同じ質問をしても、見ているものが少しずつ違う。

これは、AIの「悪意」の話ではありません。AIが意図的に何かを隠しているわけではなく、そもそも訓練データにどんなテキストが含まれていたか、という構造的な問題なのです。

私たち医療従事者は、エビデンスの質をいつも気にします。論文を読むとき、誰が書いたのか、どんな媒体に載ったのか、利益相反はないか、サンプル数は十分か。情報源を吟味する習慣がしみついています。AIに質問するときも、本来は同じ態度が必要なのだと、この論文を読んで改めて感じました。

私たちにできる、3つの「賢い使い方」

では、私たちはAIをどう使えばいいのか。論文の知見を踏まえて、私なりに3つの実践ポイントを整理してみます。

ひとつめ、「言語を変えて聞いてみる」 特に、政治、社会、国際情勢、特定の国に関する話題について調べるときは、英語と日本語、可能なら別の言語でも質問してみると、答えのニュアンスの違いに気づくことがあります。違いがあること自体が、貴重な情報です。

ふたつめ、「AIの答えを最終結論にしない」 これは当たり前のようでいて、つい忘れがちなことです。私自身、忙しいときに「とりあえずAIに聞いてみよう」となることが、正直あります。でも、AIの答えはあくまで「最初の足がかり」で、最終確認は一次情報や公的機関の情報にあたる。この一手間が、自分の判断力を守ってくれます。

3つめ、「自分が何語で考えているかを意識する」 これは少しメタな話ですが、心理学的にはとても大切なポイントです。私たちが日本語でAIに質問するということは、その答えは「日本語空間で学習された情報」をベースに作られている、ということです。AIの答えが妙に偏って感じたら、「いま、どの言語空間からの答えを受け取っているのか」と一度問い直してみる。それだけで、情報との距離感が少し変わります。

「便利さ」と「リテラシー」のバランス

正直に書くと、私はAIを毎日使っています。文献を要約してもらったり、患者さんに伝える言葉づかいを練ったり、原稿の下書きをつくったり。便利さの恩恵は、医療現場でも本当に大きい。

ただ、便利だからこそ、無意識に「答えを丸呑みする」モードに入りやすい。そこに、今回の論文が示したような構造的バイアスがあるとなると、リスクはじわじわと積み重なります。

ここで思い出したい比喩があります。AIは「博識な助手」ですが、「絶対的な真実の語り部」ではありません。どんなに優秀な助手でも、その人が読んできた本に偏りがあれば、答えにも偏りが出る。それは人間でも、AIでも、同じです。

大切なのは、AIを使わないことではなく、AIの「読書履歴」がどんなものかをうっすら意識しながら付き合うこと。それが、これからの時代の新しい意味での「リテラシー」なのだと、私は感じています。

終わりに

今日お伝えしたかったことを、最後に整理させてください。

ひとつめ、Nature掲載の最新論文は、AIの訓練データに国家統制メディアが含まれており、それがAIの回答に影響していることを6つの研究で示した。

ふたつめ、特に質問する言語によって、AIの回答が偏る傾向があり、これは中国だけでなく、報道の自由度が低い国全般に当てはまる現象だった。

3つめ、私たちにできるのは、AIの答えを丸呑みせず、複数の言語や情報源で確かめ、自分のメタ認知を働かせること。

AIが完璧でないことを知るのは、AIを否定するためではありません。むしろ、AIをより賢く、より安全に、より人間らしく使いこなすための、第一歩です。

「自分の頭で考える」ことの価値は、AIの時代だからこそ、増しています。情報の入口を吟味し、自分の判断軸を持ち、必要に応じてAIを「相棒」として使う。そんな関係性を、これから一緒に育てていけたらと思います。あなたには、その力があります。

長文にもかかわらず、最後までお付き合いくださりありがとうございます。これからも、いい意味で"ちょっとだけマニアックな"情報を届けていけたらと思います。

#AI #ChatGPT #メディアリテラシー #公認心理師 #Nature