モデレーターってやつ

どうも。
2026年も早くも半年が過ぎ
HEAVENESE styleは今年あと26回しかないことを知った。
そこで、先日起こったことについて軽く調べてまとめてみようと思う。

宣伝

モデレーターって？

そもそもモデレーターって？
ってところ。

仲裁者、調停者、パネルディスカッションなどの司会者という感じでYouTubeだと

ライブ配信を円滑に進めるためのサポート役。

チャットの監視しつつ、不適切なコメントの削除。簡単な質問に答えたり…
幸いなことに、この配信では喧嘩とかはないので
自分も楽しみながらモデレーターをこなしている。

過去1忙しかった日

5月31日の配信がBANされてしまった。

↑BANになってしまった動画

翌週はいつものチャンネル(5.0)ではなく、チャンネル7.0からの配信になった日。
なんか見慣れない表示が…

⚠️ このメッセージは確認待ちです。
　　(表示)      (非表示)

？？？？？

とりあえず表示を押す。
警告が消える。

🙄

なんだったんだ？？
この表示が現れた投稿は移民に対して否定的な内容だった。

あーそういうのダメになったんだ。

それぐらいに思っていると
徐々に警告が増えていき、チャットどころじゃなくなる。
否定的な内容ではない投稿ですら警告がでる。
ついには「汁」という単語で警告が出る。

汁やめてーー！！
警告が出るーー！！！

面白がって「果汁」「味噌汁」「肉汁」とさまざまな汁が飛び出し警告だらけになる画面に涙目。

(チャットに「確認が出る」とか投稿した私もいけないけど…)

この事象を配信スタッフに聞いたところ

原因はわからないけど
アルゴリズムが変なのかも？

アルゴリズムが変ってどいうこと？？
私が知っているアルゴリズムは体操ぐらいだ。

7.0は規制が厳しいとの声もあり

既存の5.0なんかBANされてるから今後厳しくなるのか？？

6月中5.0ではチャットに警告は一度も出ることがなかった。

なんだったんだ？？

AIによる精査。

7月に入って1つの新聞記事が目に入った

ネットスラングとかもたくさんあるのにどうやってSNSの投稿から精査してるのか？
とても気になり、さっそくAIに質問してみた。

W杯の場合は
大量スキャン:大会期間中に600万件以上の投稿・コメントをAIツールで自動スキャンし疑わしいものを抽出（例: 22.5万件）スタッフが確認。
誹謗中傷と判断されたものを非表示・削除

(最終的には人力なんだな😅)

じゃあYouTubeの配信だとどうなの？

「潜在的に不適切」と判定されると、自動で「保留（Held for review）」 になり、クリエイターやモデレーターが確認して公開/削除を決められる。

多分これが、今回出た警告と思われる。
やはりというべきかAIは造語や皮肉には弱いようで

造語や皮肉は動画とリンクさせて
「いつ」
「誰に対して」
「どのタイミングで大量発生するか」
判断になっている。

HEAVENESE styleではチャット民と呼ばれる視聴者が、HEAVENESE styleでしか伝わらない造語
「チャット用語」を多用してチャットしている。

実際5月31日の配信でもいくつかチャット用語で警告が出た。

どうやら造語は

• 同じ単語が何回出るか

• 特定の人物がで時に出るか

• ネガティブな反応とセットになっているか

• 同じユーザーから連投されているか

をみてパターンを読んで確認しているようで
集団的にに発生したら嫌がらせと判断している可能性がある。

おそらく「汁」が確認対象になったのは
集団的に発生したから警告が出たと思われる。
あと同じユーザーからっていうのも当てはまりそうだ。

「特定の人物の時に出る」という項目に関しては
「ムチチオテ」がそれに該当しそうだ。
調べる前は「チチ」が「乳」と思われているからかと思っていたけど、特定の人物をさす用語であるので精査にひっかかったと言われると合点がいく。

最後に

AIで色々精査してるっぽいけど
今はまだ、最終的には人力で行う必要になる。
チャットのモデレーターは配信の
「コミュニティー文化の理解」が大切だと
AIが総括してくれていた。
2026年後半のHEAVENESE styleを見守っていきたいと思う。

モデレーターの私がチャット民と会える最高の時間↓

↑日曜20時はHEAVENESE style
ぜひチャットに遊びにきてくれよな！

↓金曜の夜はこれ