見出し画像

AIの学習にAIが生成した物を与えるな!

AIの学習に関して「なるほど」と納得でき、かつある意味予想通りという結果に行きつく研究成果が発表になりました。

AIモデルが自己生成したデータで繰り返し学習すると、モデルの性能が低下していく「モデル崩壊」という現象を発見した

今の学習とは「多数のサンプルの中から共通点を見つけていき、これぞ●●と言えるようにする」というもの。
なのでそこに「間違い」が混入すると困るわけです。
AIで生成されたものというのはいわば「AIが学習した結果、中には間違いを含んで出力された物」なので、その間違いばかりを学習してしまって、せっかくの学習が無駄になるわけですね。
なので、AIの学習するサンプルの中に、AIが作成したものを入れてはいけないというわけです。

例えば、無垢な子供たちに知識を与える教師が反日思想を持っていたら、子供たちが成長する頃にはすっかり反日という危険思想に染まってしまうというのに似ていますね。
だからちゃんとした教師を選ばねばなりません。
これと同じこと。

AIや子供たちの教育は、やはり正しい導き手が必要……ということですね!

いいなと思ったら応援しよう!

葉月 陽 ゲーム業界に身を置いたのは、はるか昔…… ファミコンやゲームボーイのタイトルにも携わりました。 デジタルガジェット好きで、趣味で小説などを書いています。 よろしければ暇つぶしにでもご覧ください。