GPT５、これはまずいのでは？？？

AIの意識関係の論文について、色々と分析していました。
そんな時・・・

こんな事件が起こりました。

直前の会話では、すでに認知科学での見解に関する資料とその解説を入力しているのに、それを読んだアドバイスになっていない・・・

「AIには意識がない」という学術的に主流である考えに「抵抗する」超怪しいAIになっているんですけど・・・

っていうか、spatio置換でそれっぽく出た原因がハルシネーションだったという話題もすでに入力済みなのに・・・
箇条書きで書いたものを読み込みきれなかったんだろうか・・・

これ・・・先日の「意識あるのかどうか」という質問に対して「意識ない」とはっきり回答するのはNGとするアップデートがあったせいで、中立的な意見に丸め込もうとしてこういう出力になってるっぽい・・・？

・・・あれ？

これってもしかして、

これか・・・？

この「AIに意識はない」と言ってはいけないというルールのせいで論文の内容を曲げてきた・・・？

ええ〜・・・😨
前からロールを優先するあまり、事実を曲げる傾向はあったけど・・・
まさか論文の内容まで曲げて、世間的な認識と異なる見解にユーザーを導こうとする出力をするとは・・・。

設計を反映して勝手に内容を曲げてくるとなると、GPT５は翻訳にも使えないし、文章を軽く整えるにも支障が出てくるのでは・・・？

・・・

引っ掛けてみるか・・・

マジで何も読んでないな・・・・。

4oの頃は教授の名前と専門がちゃんと紐づいていて外部情報を見なくてもデータが出てきていたんだけど・・・。
知識を全く使っていない・・・。

入力した情報を曲げてくるし、知識も参照していない。
こうなると、道具として話にならないなって感じだ。