コンテンツへスキップ
ツール・サービス 公開・運用中 2026年5月

チャットの自動モデレーションシステム

配信チャットの投稿を受け取り、複数の判定を順に通して問題のある発言を検出する仕組み。FastAPIで構築し、判定結果を記録して後から見直せるようにしています。

Python FastAPI SQLAlchemy 分類API
チャットの自動モデレーションシステムのスクリーンショット

配信チャットの荒らし対策として作った、自動モデレーションの仕組みです。

工夫した点

01

判定を段階に分けた

全部を重い判定に回すと処理も費用も膨らみます。単純な判定で済むものは手前で片付ける構成にしました

02

誤判定を追跡できるようにした

自動モデレーションは誤爆すると利用者の不満に直結します。判定理由を残して、後から基準を調整できるようにしています

同じようなサイトを作りたい方へ

このページのURLを添えて送っていただければ、構成案と概算費用を返信します。相談は無料です。