AI反乱はやっぱりありえる？──ロボット反乱じゃなく“計算の暴走”が怖い話

以前書いた上記の記事では、「AIの反乱はまだそこまで心配しなくてよい」と感じた僕ですが、そうは言っても危険を訴える専門家も確かに存在します。そこで今回は、危険性を指摘する側の論文をいくつかChatGPTに分析してもらい、僕自身の感想も交えながら、その主張をまとめてみました。（できるだけ陰謀論的なものを避けたつもりではあります。）

近年の一連の研究や論文では、“AIのエージェント化（agentic behavior）”が特に重大なリスクとして強調されている。
ここでいうエージェント化とは、単に高性能なモデルが登場することではなく、