Как настроить систему "Автоматической модерации" на основе машинного обучения (ML)

Современные технологии позволяют автоматически модерировать чат без участия человека. Я покажу, как подключить ML-модели к серверу.

Использование сторонних API

Подключите Google Perspective API или OpenAI Moderation API через плагин ChatFilter с кастомным обработчиком.

Настройка плагина

Создайте скрипт на Python или Java, который отправляет сообщение в API и получает оценку токсичности (от 0 до 1).

if toxicity_score > 0.8:
    mute_player(player, "Токсичное сообщение")

Снижение ложных срабатываний

Настройте порог чувствительности. Для русского языка рекомендую порог 0.85, чтобы не наказывать за эмоциональные, но не оскорбительные сообщения.