ツール・サービス 公開・運用中 2026年5月
チャットの自動モデレーションシステム
配信チャットの投稿を受け取り、複数の判定を順に通して問題のある発言を検出する仕組み。FastAPIで構築し、判定結果を記録して後から見直せるようにしています。
Python FastAPI SQLAlchemy 分類API
配信チャットの荒らし対策として作った、自動モデレーションの仕組みです。
工夫した点
01
判定を段階に分けた
全部を重い判定に回すと処理も費用も膨らみます。単純な判定で済むものは手前で片付ける構成にしました
02
誤判定を追跡できるようにした
自動モデレーションは誤爆すると利用者の不満に直結します。判定理由を残して、後から基準を調整できるようにしています