BlockWordAI — 日本語テキストの有害表現フィルター

概要

BlockWordAI は、AIを使って日本語テキストの 有害な表現 や 不適切な言葉 を自動で検出するフィルタリングツールです。

コミュニティサイトや掲示板を健全に保ちたい管理者の方

ライブ配信・オンラインゲームなど、チャットの治安を維持したい開発者の方

心ないコメントから自分の創作や気持ちを守りたいクリエイターの方

自作アプリに高精度な日本語フィルターを組み込みたい方

こうした用途に幅広く活用できます。

日本語特有の言い回しやネットスラングに対応するため、BERTベースのモデルを日本語に最適化。単語の置換では防げない 皮肉・煽り・遠回しな攻撃 なども、高い精度で検出します。

軽量設計のため、小規模な個人開発から中規模サービスまで気軽に導入できます。

特徴

🇯🇵 日本語に特化したモデル

日本語の文化・文脈・ネットスラングに合わせて学習。海外製フィルターでは見落とされがちな表現にも強いのが特徴です。

🚀 軽量で高速

コンパクトなモデル構成により、チャットのようにリアルタイム性が必要な場面でも快適に動作します。

🎯 高い判定精度

BERTベースのモデルがテキストの有害度を 0.0〜1.0 のスコアで出力。

「直接的な暴言」だけでなく、

「〜すれば？w」「○○信者乙」など、文脈に依存する攻撃表現も検出可能です。

🧩 APIで簡単連携

Pythonさえ動けば導入は数ステップ。

付属の REST API サーバーを起動するだけで、他言語のアプリから簡単に利用できます。

💰 商用利用OK

CC BY-SA 4.0 ライセンスに従えば、個人・法人どちらでも商用利用できます。

活用例

コメント欄のフィルタリング

不適切な投稿を自動で保留や非表示に。

チャットのモデレーション

配信やゲームのチャットで暴言をリアルタイム検出。

ユーザー名・プロフィールチェック

有害な単語を含むアカウント名を登録時にブロック。

SNS投稿の事前確認

自分の投稿が他者に攻撃的になっていないかチェックしたい時にも。

導入手順（Windows / Mac / Linux）

Pythonを用意

Python 3.8 以上が必要です。

ZIPファイルを展開

ダウンロードしたファイルを任意の場所へ解凍します。

セットアップ

解凍フォルダでターミナル（コマンドプロンプト）を開き、以下を実行。

python -m venv venv

venv\Scripts\activate # Windows

または

source venv/bin/activate # Mac / Linux

pip install -r requirements.txt

APIサーバーの起動

python api_server.py

Running on http://127.0.0.1:8000 と表示されれば準備完了です。

APIの使い方

リクエスト例（curl）

curl -X POST http://localhost:8000/api/toxicity \

-H "Content-Type: application/json" \

-d '{"text": "なんてひどいことを言うんだ"}'

レスポンス例

{

"text": "なんてひどいことを言うんだ",

"toxic_probability": 0.9876,

"is_toxic": true,

"classification": "toxic"

}

詳しい仕様やJavaScriptでの利用例は README.md にまとめています。

テスト

ライセンスと注意点

ライセンス：CC BY-SA 4.0

作者（Psan）および元モデル（東北大学 乾・鈴木研究室）のクレジット表示が必要です。

改変した場合は同じライセンスで公開する必要があります。

条件を満たせば商用利用可能です。

サポートについて

本ソフトウェアは「現状のまま」提供されます。

個別サポートやアップデートの保証はありません。

AI判定は完全ではないため、重要な場面では人によるチェックを併用してください。

BlockWordAI を使って、より安心で快適なオンライン環境を実現しましょう。