見出し画像

「AI 2027」はとても優れた問いかけ

村田 裕樹

「AI 2027」を読みました。

映画のターミネーターのような人類滅亡のシナリオもあって様々な反応がありましたが、
私は、至極まともな論文だと感じました。


なぜか？


著者の伝えたかったメッセージが、
ものすごく本質を突いていると感じたためです。


「AI 2027」とは

元OpenAIのダニエル・ココタジロ氏のチームによる論文です。

AIの発展を詳細に予測したもので、2027年末に分岐点を迎えます。

上記のサイトでは「Slowdown（減速）」「Race（競争）」の2つに分岐しています。

そして、「Race（競争）」を選ぶと、AIの安全性よりも開発競争を優先したシナリオになり、AIが人類を支配するという結末を迎えます。

分岐点までの概要はこちらです。

2025年にAIエージェントの登場するが、まだ不完全。
2025年の後半には性能が向上、AIによって職が奪われる懸念がより強まる。

2026年AI開発競争が加速し、米中で熾烈な争い。
AIによる自動化が進み、反対デモも本格化。

2027年にはAI研究開発自体が、AIによる自動化によって行われる。
爆発的に進歩し、人間が理解できない状況になる。
真の汎用人工知能（AGI）が誕生し、AIへの依存度が高まる。



「AI 2027」で伝えたいことは？

本題の「著者が伝えたいメッセージは何か」です。

「近い将来に判断を迫られる急激な変化が起こる。
　その時、適切に判断できるか？」

だと感じました。


例えば、個人でいうと、
・転職で仕事が変わった、上司が変わった
・子供が産まれるなどで家庭環境が変わった
などによる変化で、自分の許容範囲を超えると
体調を崩しやすくなります。

ただし、この変化が許容範囲を大幅に超えると、
体調不良では済まされないかもしれません。

論理的に考えられず、感情的になるかもしれません。


バトルアニメだと
「自分が制御できない大きな力を手に入れた」
などでしょうか？

No.1にどうしても勝てないNo.2が、追い詰められて悪魔と契約し、大きな力を手に入れた。
途中までは上手くいっていたが、制御できずに悲惨な末路を迎えた。


人類にとってAIの急発展は許容範囲内？

先日、「水道哲学と生成AI：誰もがクリエイターになれる時代の光と影」で書いた「ちょっと立ち止まって考えてみたい」と、
nobuさんの記事の『違和感』がつながりました。

「なんか引っかかるけど…まあいいか。」
その”まあいいか”が、数年後に一番後悔する判断になることがある──。


どういうことかというと、これです。

生成AIの進化スピードが速すぎて、立ち止まりたい。
AI 2027でいうところの「Slowdown（減速）」したい。

モヤモヤした違和感はあった。
ただ、上手に言語化できずに、
とりあえず、「立ち止まって考えたい」に留めた。


AI研究開発自体が、AIによる自動化によって行われるようになって人間が理解できない状況になると致命的な問題を回避する手段がなくなります。


そのため、言語化すると

「きちんとリスクに向き合い、
　AI任せにせずに人間が理解できるようにして、
　日々議論を重ねなければならない。」

になります。


時として、人は論理よりも感情が強くなります。
感情的な対応がされず、問題が検知されて議論し、
対応が続いていくような世界線であれば、
ディストピアは回避できると思われます。


現在はきちんと制御できているようです。

上記の解説をすると、ChatGPTのバージョンアップで、AIがやたら褒めるようになりました。

その原因は回答時に「いいね！」を押されたのが褒めた時に多かったため。それがフィードバックされて良くないことでも賞賛されるようになり、元に戻したという内容です。


最後までお読みいただき、ありがとうございました。

この記事を読んでいただいて皆さまが感じた
「私はこう思った」「こうすればよいのでは」
などのアンサー記事をお待ちしております！


いいなと思ったら応援しよう！

村田 裕樹 最後までお読みいただきありがとうございました！ サポートもうれしいですが「スキ」をしていただけると大変励みになります！！