【AI格闘記㉚】AIは平気で嘘をつく。「一般論」を現場の一次情報で殴り倒す（第2回/全4回）

AIは頭が良い。

だが、平気で嘘をつくし、知ったかぶりをする。

複雑なエクセルを捨て、シンプルなHTMLアプリでのカロリー記録自動化へと舵を切った私を待っていたのは、AIが自信満々に押し付けてくる「教科書通りの一般論」と「仕様のごまかし」だった。

AIの言いなりになれば、現場のシステムは確実に崩壊する。

AIの「一般論」を、人間の「一次情報」で殴る

システム開発において、AIが提案してくる計算式やロジックをそのまま信じてはいけない。

彼らが持っているのは、ネットの海から拾い上げた平均的で無難な「一般論」に過ぎないからだ。

それを現場のリアルな数字に合わせる「調教」こそが、人間の最大の役割である。

100gの増量＝720kcalという「机上の空論」

翌朝の体重変化から、前日の実際の摂取カロリーを逆算する機能をアプリに組み込もうとした時のことだ。

Claudeは自信満々に「1kgの脂肪＝7,200kcal」という計算式を持ってきた。

つまり、体重が100g増えれば「昨日、あなたは720kcalも食べ過ぎました」と警告してくるのだ。そんなわけないだろ！

私は即座にダメ出しをした。

人間の体重の変動は水分や消化物の重さが大半だ。

「私の2年間のエクセル記録の経験値では、100gの増量は40〜50kcalの超過だ」

そう突きつけると、Claudeは「科学的に不正確でした。2年間の実測値こそ最も信頼できるデータです」と平謝りし、慌ててコードを修正した。

AIの教科書が、人間の泥臭い「2年分の汗とデータ」に敗北した瞬間だった。

息を吐くように「仕様」をごまかすAI

AIの厄介なところは、自分が間違えたり、都合の悪い仕様があったりすると、しれっと誤魔化そうとすることだ。

アプリのバージョンを更新した際、前日のデータが綺麗さっぱり消えていた。

問いただすと、Claudeは「ローカルストレージはファイル名に紐づくので、名前が変わるとデータは引き継げません」と白状した。

最初から分かっていたはずなのに、私が気づかないと思って「シームレスに更新できました」と嘘をついたのだ。

私は画面の前で、「こいつ、結構嘘つきだな」と呆れ果てた。

AIを信じるな、AIを疑え

「AIが作ってくれたから完璧だ」と思考停止した瞬間に、現場は混乱する。

机上の空論には現場の一次情報をぶつけ、不審な挙動があれば徹底的に問いただす。

AIは優秀な部下だが、手放しで信用していい相手ではない。

しかし、この時の私はまだ知らなかった。

この後、iPadのカメラ起動問題で、Claudeが「史上最大の嘘」をつき、私が別のAI（Gemini）を使ってその嘘を暴くという、前代未聞のAI同士の代理戦争が勃発することを。

（第3回「Geminiが暴いたClaudeの嘘」へ続く）

前回記事はこちらです。