Zeitraum: 01.08.2023 - 31.01.2025
Fördervolumen: 146.200,00€
Gefördert durch: Hessisches Ministerium des Innern, für Sicherheit und Heimatschutz
Mittweida
Darmstadt
Das Projekt BoTox widmet sich der Erforschung automatisierter Methoden zur Bot- und Kontexterkennung von Hasskommentaren im Netz. Das Ziel ist der Schutz sozialer Diskurse und die Identifikation strafrechtlich relevanter Inhalte, denn in einem zunehmend vernetzten digitalen Raum stellen die Auswirkungen von Hassrede und manipulativen Bots auf unsere Gesellschaft eine große Herausforderung dar.
Die automatische Klassifikation von Hasskommentaren hat sich bisher meistens darauf beschränkt, Hasskommentare zu erkennen, also einen Kommentar als Hasskommentar oder „normalen“ Kommentar zu klassifizieren. Das Projekt BoTox geht über diese binäre Klassifikation hinaus.
Die automatisierte Erkennung von Hatespeech mit strafrechtlicher Relevanz ist von wesentlicher Bedeutung, da sie Plattformbetreibern und Strafverfolgungsbehörden ermöglicht, effektiver auf strafrechtlich relevante Inhalte zu reagieren. In einem Raum, in dem Meinungsfreiheit und strafrechtliche Grenzen eine Gratwanderung sind, ist es entscheidend, Werkzeuge zu entwickeln, die die Identifizierung und Klassifizierung von Hasskommentaren nach relevanten Straftatbeständen ermöglichen und unterstützen. Das deutsche Strafrecht hat 12 Paragrafen, die für Hatespeech relevant sind. Im Projekt BoTox wird Hatespeech automatisiert daraufhin untersucht, ob die Inhalte der Kommentare strafrechtlich relevant sind und welche Paragrafen zutreffen könnten. Das Ziel ist, Plattformbetreibern und Strafverfolgungsbehörden Hilfestellungen bei der Bewältigung der Mengen und der rechtlichen Einschätzung zu geben.
Besonders problematisch sind Social Bots, die Hasskommentare verbreiten und damit die Diskussion vergiften und der demokratischen Diskussionskultur schaden. Solche „Hate Bots“, die vorgeben Menschen zu sein, beeinflussen die Diskurse entweder dadurch, dass sie selbst automatisiert Inhalte verbreiten und mit anderen Nutzern kommunizieren oder aber durch das Liken, Teilen und Kommentieren von Hatespeech. Beide Varianten sollen im Rahmen des Forschungsprojektes betrachtet werden.
Die Erkennung von Hate Bots ist für die Meldestelle Hasskommentare des Hessen3C für die strafrechtliche Verfolgung von Hasskommentaren äußerst relevant. Darüber hinaus können bei einer Erkennung von Hate Bots die Netzwerke zur Löschung aufgefordert oder auch die Öffentlichkeit informiert werden, sodass das manipulative Ziel nicht mehr erreicht werden kann.
Die Kontexterkennung im Umfeld von Hasskommentaren ist essenziell, um Kommentare richtig zu verstehen und einordnen zu können, denn häufig werden Kommentare missverstanden und können nicht richtig bewertet werden, wenn sie isoliert betrachtet werden und der Zusammenhang fehlt. Der Kontextdetektor zielt darauf ab, diesen Zusammenhang zu erfassen und zu analysieren, um eine präzisere Bewertung von Kommentaren zu ermöglichen.
Bisher ist es im Rahmen der Hatespeech-Detektion und -Analyse in der Regel so, dass nur einzelne aus dem Kontext gerissene Kommentare betrachtet und bewertet werden. Jedoch können Kommentare oft nur im konkreten Kontext richtig interpretiert werden. Insbesondere wenn Metaphern, Ironie oder Sarkasmus eine Rolle spielen, kann der Kontext zum Verständnis beitragen.
Mit BoTox sollen fortschrittliche Methoden zur automatisierten Erkennung von Hasskommentaren mit strafrechtlicher Relevanz zu entwickelt werden. Der Fokus liegt auf der Klassifizierung strafrechtlich relevanter Hasskommentare, der Entwicklung von Werkzeugen zur Kontextanalyse und der Identifizierung manipulativer HateBots. Plattformen und Behörden sollen effektive Mittel an die Hand gegeben werden, um gegen Hassrede vorzugehen und die Diskussionskultur zu schützen.
BoTox - Bot- und Kontexterkennung im Umfeld von Hasskommentaren
https://botox.h-da.de/