Hasspostings, Cybermobbing und andere Formen von Online-Angriffen treffen junge Menschen am härtesten. Studien aus Deutschland und Österreich zeigen, dass die 12- bis 19-Jährigen häufig Ziel bösartiger, beleidigender, herabwürdigender Kommentare sind – oder zumindest Zeug:innen davon werden. Traditionelle Moderation – Kommentare löschen, Nutzer:innen sperren – greift oft zu kurz: Sie reagiert zu spät oder schränkt die Meinungsfreiheit ein.

Deshalb beschreitet das Projekt CounterSpeech – Junge Menschen gegen Online-Hass einen anderen Weg: bürger:innenerzeugte Gegenrede. Die Idee ist, Internetnutzer:innen, insbesondere junge Menschen, zu ermutigen, aktiv auf Hass zu reagieren. Das Ziel ist es, die Sichtbarkeit und Wirksamkeit dieser Reaktionen zu erhöhen, wiederkehrende Muster zu identifizieren und sogar kontextspezifische Vorschläge zu generieren – auf einem multimodalen Level, das Text, Bilder, Symbole und Memes einschließt.

Projektinhalt und Methode

Das interdisziplinäre Team bringt junge Menschen aus der Zielgruppe und Expert:innen aus Informatik, Datenanalyse und Sozialwissenschaft zusammen. Gemeinsam entwickeln wir datengetriebene Methoden, um erfolgreiche Gegenrede automatisch zu erkennen und zu klassifizieren, basierend auf zwei methodischen Säulen:

• Sozialwissenschaftliche Ansätze: Qualitative Inhaltsanalyse, quantitative Statistik und Feldforschung in einer eigens entwickelten Webumgebung helfen, Verhaltensmuster, Einflussfaktoren (wie Bildungsstand oder Geschlecht) und die typischen Strukturen erfolgreicher Gegenrede zu identifizieren.

• Maschinelles Lernen: Deep-Learning-Modelle und multimodale Datenanalyse modellieren Sprache, Bildmaterial und andere visuelle Elemente, ergänzt durch Recommender-System-Techniken zur Generierung kontextspezifischer Gegenrede-Vorschläge.

Technische Umsetzung

Wie bei meiner Arbeit am AniVision-Projekt entwickelte ich die zentrale technische Infrastruktur für CounterSpeech – Datenbank, Frontend und Backend.

Datenbank und Backend

Das Backend läuft auf FastAPI, einem modernen, performanten Python-Framework, das sich gut für RESTful APIs eignet. Die zentrale Herausforderung war die Modellierung der tief hierarchischen Struktur einer Social-Media-Plattform in einer performanten MySQL-Datenbank, in der Millionen von Kommentaren in einer komplexen, verketteten Struktur effizient gespeichert und abgefragt werden.

• Hierarchische Datenstruktur: Die Datenbank musste die verschachtelten Beziehungen zwischen Kommentaren, Antworten und Threads erfassen – bei hohem Zugriffsvolumen und minimaler Latenz.

• Performance-Optimierung: Durch gezieltes Caching, optimierte Abfragestrategien und eine typsichere TypeORM-Anbindung blieben Abfragen auch über Millionen von Datensätzen schnell.

• Benutzerverwaltung: Ein neu fokussierter Bereich war die Implementierung einer robusten Benutzerverwaltung für die Anforderungen einer sozialen Plattform – von der Registrierung bis hin zu Rollen und Berechtigungen.

Frontend

Das Frontend baute ich mit Svelte und Tailwind CSS und schuf dabei eine moderne, responsive, benutzerfreundliche Oberfläche, die es Nutzer:innen ermöglicht, die Datenbank intuitiv zu durchsuchen, zu filtern und zu analysieren.

Datenerhebung

Ein besonderes Learning war die Integration und kontinuierliche Erhebung der Daten. Das zuverlässige Abrufen, Verarbeiten und Bereitstellen der Daten – insbesondere hinsichtlich Echtzeitverfügbarkeit und konsistenter Qualität – erwies sich als enorm herausfordernd.

Herausforderungen und Learnings

Der Aufbau war voller Herausforderungen, die wertvolle Erkenntnisse brachten:

• Hierarchische Datenmodellierung: Die komplexe, verkettete Struktur einer sozialen Plattform in eine relationale MySQL-Datenbank zu überführen, erforderte ein durchdachtes Design, das Flexibilität und Performance ausbalanciert.

• Performance-Optimierung: Die Optimierung von Abfragen und effizientes Caching waren entscheidend für eine reibungslose Datenlieferung trotz Millionen von Kommentaren.

• Benutzerverwaltung: Der Aufbau eines robusten Systems zur Verwaltung von Nutzer:innen war eine neue Herausforderung, die tiefes Wissen über Planung und Implementierung sicherheitskritischer Systeme erforderte.

• Datenerhebung und Pipeline: Die kontinuierliche Integration und Verarbeitung großer Datenmengen bedeutete den Aufbau einer leistungsfähigen Pipeline – inzwischen so ausgereift, dass fast das gesamte Team ausschließlich über die Plattform arbeitet, mit echten Zeitersparnissen und weit weniger Redundanz.

Ausblick

CounterSpeech zeigt, wie moderne Technologie und interdisziplinäre Ansätze sich kombinieren lassen, um Online-Hass wirksam zu bekämpfen. Die Plattform ermöglicht es, erfolgreiche Gegenrede zu erkennen, zu analysieren und gezielt zu fördern. Mit dieser technischen Infrastruktur hat das Team ein solides Fundament gelegt, um den digitalen Humanismus voranzutreiben und jungen Menschen eine Stimme gegen Online-Hass zu geben. Ich bin stolz darauf, Datenbank, Frontend und Backend beigesteuert zu haben – und ich freue mich auf die Herausforderungen und Entwicklungen, die in diesem spannenden Feld noch kommen.

ASTRO

Verwandte Projekte

CounterSpeech – Junge Menschen gegen Online-Hass