Moderation: Auto-Mod Rules Engine #77

New issue

Open

opened 2026-07-15 20:27:12 +02:00 by frank · 0 comments

frank commented

2026-07-15 20:27:12 +02:00

Owner

Kontext

Aus #56 Moderation Console ausgegliedert. Dieses Issue behandelt die Auto-Moderation-Regeln.

Ziel

Regel-Engine: Konfigurierbare Regeln mit Aktion (Block/Timeout/Warn)
Blacklist: Woerter/Phrasen blocken
Links: Blocken oder erlauben (Whitelist)
Caps: Blocken bei > X% Grossbuchstaben
Spam: Wiederholte Nachrichten erkennen
Emote Spam: Zu viele Emotes blocken
Hate Speech: Textbasierte Mustererkennung (optional KI via #43)
Admin-UI: Regeln bearbeiten, Aktionen konfigurieren
Logging: Alle Automod-Aktionen protokollieren

Technische Leitplanken

Baut auf Chatbot (#67) auf
Regeln in SQLite (#13) persistiert
Hooks in Chatbot-Pipeline (vor Command-Ausfuehrung)

Akzeptanz

Blacklist blockt definierte Woerter
Link-Filter mit Whitelist funktioniert
Caps-Erkennung (> 70%) blockt Nachrichten
Spam-Erkennung funktioniert
Emote Spam-Blocker funktioniert
Automod-Regeln sind in Admin-UI konfigurierbar
Automod-Aktionen werden geloggt

Verwandte Issues

#56 Moderation Console (Eltern-Issue)
#76 Moderation: Queue & Mod-Dashboard
#67 Chatbot Core (VORAUSSETZUNG)

## Kontext Aus #56 Moderation Console ausgegliedert. Dieses Issue behandelt die Auto-Moderation-Regeln. ## Ziel - **Regel-Engine**: Konfigurierbare Regeln mit Aktion (Block/Timeout/Warn) - **Blacklist**: Woerter/Phrasen blocken - **Links**: Blocken oder erlauben (Whitelist) - **Caps**: Blocken bei > X% Grossbuchstaben - **Spam**: Wiederholte Nachrichten erkennen - **Emote Spam**: Zu viele Emotes blocken - **Hate Speech**: Textbasierte Mustererkennung (optional KI via #43) - **Admin-UI**: Regeln bearbeiten, Aktionen konfigurieren - **Logging**: Alle Automod-Aktionen protokollieren ## Technische Leitplanken - Baut auf Chatbot (#67) auf - Regeln in SQLite (#13) persistiert - Hooks in Chatbot-Pipeline (vor Command-Ausfuehrung) ## Akzeptanz - [ ] Blacklist blockt definierte Woerter - [ ] Link-Filter mit Whitelist funktioniert - [ ] Caps-Erkennung (> 70%) blockt Nachrichten - [ ] Spam-Erkennung funktioniert - [ ] Emote Spam-Blocker funktioniert - [ ] Automod-Regeln sind in Admin-UI konfigurierbar - [ ] Automod-Aktionen werden geloggt ## Verwandte Issues - #56 Moderation Console (Eltern-Issue) - #76 Moderation: Queue & Mod-Dashboard - #67 Chatbot Core (VORAUSSETZUNG)

frank referenced this issue

2026-07-15 20:27:44 +02:00

Moderation Console: Automod-Regeln und Mod-Dashboard #56

frank added the

priority:medium

effort:medium

area:chatbot

labels

2026-07-15 20:28:32 +02:00

frank added this to the Moderation Console milestone

2026-07-15 21:08:15 +02:00