本来、ラテン語の「moderari（節度を保つ・制御する）」に由来するモデレーター（Moderator）という言葉は、ディスカッションの調停者や司会進行役を指していました。ビジネスの文脈で用いられる「会議モデレーター」は、登壇者の意見を引き出し、タイムキーピングを行いながら議論を収束させる役割を担います。しかし、インターネットカルチャーの爆発的拡大に伴い、その定義は「デジタルコミュニティの健全な生態系を守る守護者」へと劇的に拡張されました。
現代のウェブ空間におけるモデレーターの役割は、参加者が不快感や脅威を感じることなく交流できる「心理的安全性」を担保することに尽きます。そのためのモデレーターの仕事内容は多岐にわたり、単純な監視作業にとどまりません。
第一に挙げられるのが、リアルタイムのコミュニケーション監視です。配信チャットやテキストチャンネルに投下されるスパムリンク、過度な連投、誹謗中傷、公序良俗に反するテキストを即座に検知・排除します。第二に、コミュニティガイドラインや利用規約（ToS）の制定と周知です。何が許容され、何が規約違反となるのかのレギュレーションを策定し、違反者に対して警告を行います。そして第三に、参加者同士の衝突や対立を鎮静化させるファシリテーション業務です。炎上の火種を初期段階で摘み取り、健全な議論へと誘導する高いコミュニケーションスキルが要求されます。
さらに近年、大手プラットフォーム事業者やゲームパブリッシャーでは、これらの一連の業務を「コンテンツモデレーション」という専門職として確立させています。AIアルゴリズムが一次スクリーニングを行った後、判定が難しい文脈や画像、動画の最終チェックを人間が担う体制が業界標準となっています。
