In Zeiten, in denen Hasskommentare, Cybermobbing und andere Formen von Online-Angriffen junge Menschen überproportional treffen, ist es unerlässlich, neue Strategien zur Gegenwehr zu entwickeln. Das Projekt SpeechGuard hat zum Ziel, automatisierte Methoden zur Erkennung von Hassrede und zur Förderung von Gegenrede zu realisieren. Im Folgenden stelle ich seine Kernfunktionalität, die Oberfläche, Sicherheit, Skalierbarkeit, kontextbewusste Analyse und Evaluierungsprozesse vor.

1. Kernfunktionalität

Kommentaranalyse

• Plattformübergreifender Kommentarzugriff: SpeechGuard greift auf Kommentare in populären sozialen Plattformen wie TikTok, Instagram und YouTube zu und erfasst dabei Kontext wie übergeordnete Kommentare, Videotitel und Videoinhalt, um das gesamte Gesprächsumfeld eines Kommentars abzubilden.

• Hassrede-Erkennung: Über die OpenAI-API werden Hasskommentare automatisch erkannt. Die Erkennung wird mit Testläufen und Pop-up-Benachrichtigungen validiert, sodass Nutzer:innen sofort informiert werden, wenn potenziell problematische Inhalte gefunden werden.

Gegenrede-Generierung

• Gegenrede erzeugen: Sobald Hassrede identifiziert wird, generiert das System automatisch mehrere Gegenrede-Optionen als Ausgangspunkt für eine angemessene, wirksame Antwort.

• Auswahlmenü und Feedback: Ein intuitives Menü ermöglicht es Nutzer:innen, unter den Vorschlägen zu wählen. Die Wahl wird gespeichert und analysiert, um im Laufe der Zeit Muster zu erkennen und – optional – automatische Empfehlungen auf Basis der häufigsten Nutzerentscheidungen zu ermöglichen.

Speicherung und Training

• Backend-Datenbank mit PocketBase: SpeechGuard verwendet PocketBase, um Kommentare, Gegenrede-Interaktionen und Nutzerentscheidungen zuverlässig zu speichern.

• API-Endpunkte und Modelltraining: Dedizierte Endpunkte speichern und rufen die Daten ab, und gesammelte Nutzerentscheidungen fließen in eine kontinuierliche Modellverbesserung ein, um die Gegenrede-Vorschläge wirksamer zu machen. Optionale erweiterte Analysen legen Trends in der Datenbank offen.

2. Oberfläche

Integration in soziale Plattformen

• Dezentes SpeechGuard-Symbol: Das Symbol integriert sich unauffällig in die unterstützten Plattformen, sodass es mit einem Tipp erreichbar ist, ohne den natürlichen Gesprächsfluss zu unterbrechen.

• Pop-up-Benachrichtigungen: Wenn Hassrede erkannt wird, geben dezente Pop-ups sofortiges Feedback und ermutigen zur Reaktion.

Auswahlmenü und Feedback

• Einfaches Menü: Ein klar strukturiertes Menü bietet Gegenrede-Vorschläge an, die leicht auszuwählen und zu bewerten sind.

• Nutzerfeedback: Eine Feedback-Funktion ermöglicht es Nutzer:innen, die Wirksamkeit der Vorschläge zu bewerten, mit einem optionalen Punktesystem zur Belohnung von Engagement mit Gegenrede.

3. Sicherheit und Datenschutz

Authentifizierung und Zugangskontrolle

• Verifizierte Nutzer:innen: Ein robustes Authentifizierungssystem stellt sicher, dass nur verifizierte Nutzer:innen auf kritische Funktionen zugreifen.

• API Rate Limiting: Ein Limit von 100 Anfragen pro Stunde und Nutzer:in verhindert Überlastung.

Datenschutz und Anonymisierung

• Datenanonymisierung: Kommentare und Nutzerentscheidungen werden anonymisiert, um die Privatsphäre zu schützen.

• Optionale Verschlüsselung: Datenverschlüsselung kann für zusätzliche Sicherheit ergänzt werden.

4. Skalierbarkeit und Performance

Deployment

• Docker-Container: SpeechGuard läuft in Docker-Containern auf schuleigenen Servern für einfaches Deployment und Skalierung.

• Skalierbares System: Das Setup bewältigt künftiges Nutzerwachstum komfortabel, mit einer optionalen cloudbasierten Infrastruktur als Backup.

5. Kontextbewusste Analyse

Kontextanalyse

• Erfassung übergeordneter Kommentare und Videoinhalte: Durch Einbeziehung übergeordneter Kommentare sowie Titel und Inhalt von Videos ermöglicht das System eine umfassende Kontextanalyse, die Interaktionen in ein größeres Bild einbettet.

Kontextbewusste Gegenrede

• Vorschläge anpassen: Gegenrede-Vorschläge passen sich dynamisch an den erfassten Kontext an, wobei Tests sicherstellen, dass die Optionen zur jeweiligen Situation passen.

6. Evaluation und Testing

Evaluation in Schulen

• Workshops und Fragebögen: Zur Evaluation der Wirksamkeit werden in Schul-Workshops eigens entwickelte Feedback- und Umfrageformulare eingesetzt, die sowohl Benutzerfreundlichkeit als auch die Wirksamkeit der Gegenrede-Optionen messen.

Nutzerfeedback und kontinuierliche Verbesserung

• Analyse und Trends: Gesammeltes Feedback wird systematisch ausgewertet, um Verbesserungen voranzutreiben, mit optionalen anonymisierten Umfragen zur präziseren Messung von Zufriedenheit und Wirksamkeit.

Fazit

SpeechGuard ist eine innovative Möglichkeit, jungen Menschen eine Stimme gegen Online-Hass zu geben. Durch die Kombination aus erweiterter Kommentaranalyse, automatischer Hassrede-Erkennung und kontextbewusster Gegenrede unterstützt es aktiv die Zivilcourage in sozialen Medien. Mit einer benutzerfreundlichen Oberfläche, robuster Sicherheit und einer skalierbaren Infrastruktur ist es gut gerüstet für die Herausforderungen moderner Online-Kommunikation.

Kontinuierliche Evaluation und direktes Nutzerfeedback fließen in die Plattform zurück und helfen dabei, wirksame Strategien zur Unterstützung von Gegenrede zu entwickeln. Gemeinsam können wir einen echten Beitrag zu einem sichereren, positiveren digitalen Raum leisten.

VITE

Verwandte Projekte

SpeechGuard

CounterSpeech – Junge Menschen gegen Online-Hass