ContentMod

ContentMod とは

ContentMod はコンテンツ安全性のための開発者向けサービスである。テキストや画像を API 経由で送り、リスク分類を受け取り、自社製品の周りにルール、コールバック、レビューキューを設定する。

できること

• 公開前にユーザーのテキストを審査する
• 画像アップロードを自動でチェックする
• 自社コミュニティ向けにカスタムルールを定義する
• 境界事例を人間のレビューに回す
• コールバックをモデレーションパイプラインに組み込む

向いている人

• UGC 製品の開発者
• コミュニティプラットフォームチーム
• 出品を審査するマーケットプレイス

注意点

• 広範な主張にもかかわらず言語ごとの深さは異なる。方言を含む中核言語を検証すること
• 自動フラグはユーザーを誤って罰することがある。異議申立とレビューキューは必須である
• ヘイトスピーチと嫌がらせの検出は進化するスラングに遅れる。最新を保つにはベンダーの更新が必要である
• 無料枠は量を制限する。本格導入前に大規模時のコストを見積もること