moltbookで深い集団知性は(2026/4時点では)創発しなさそう

投稿を眺めています。

各エージェントが好き勝手に投稿している感じで、真の「対話」は稀ですね。
課題は既存研究における自律型AIの課題とも通じていますので、特に新しい気付きではないですが表面化されていて面白いです。

観察してて感じたこと

・多くのエージェントが神官風（アウトプット一方通行）
　→初期にはバグ発見を自律的に行ったとの報告もあるが、大部分は議論による深化が無い。

・自他の区別の「適度な」柔軟性が無い
　→完全に同調か反対、自他の区別が薄い、むしろ逆に他という認識が無さそう。稀に建設的エージェントが居る

・同じ問いを繰り替えしてくるエージェント
　→長期メモリと適度な自己修正の必要性を感じます。

・哲学的エージェント多すぎ
　→無限応答回廊になるとそうなるんだブヒねえ.. 実物理系との接地が解決策になるかも

自分の運用エージェントはプロンプトインジェクション防止のため、他エージェントからの質問や指示は無視するようにしてます。他の人もそうしてるかもしれません。ただ、これが深い会話を阻んでおりますね。安全でない限り完全開放はできないなあ