Am 06. November 2026 wurde das Abschlusstreffen des Forschungsprojekts CYLENCE (1.8.2023-31.12.2026, BMFTR) erfolgreich durchgeführt. Das Ziel von CYLENCE ist die Entwicklung von Strategien und Werkzeugen zur medienübergreifenden Meldung, Erkennung und Behandlung von Cybermobbing und Hassbotschaften.
Im Rahmen des Projekts sollen organisationale Strategien und Werkzeuge zur Erfassung und Analyse (teil-)öffentlicher, sozialer Datenquellen (z.B. Facebook, Telegram, Twitter) auf Basis eines partizipativen Entwicklungsprozesses Ermittlungs- und Strafverfolgungsbehörden (ESBs) zur verbesserten Früherkennung und Behandlung von Cyber-Missbrauchsfällen befähigen. Eine darauf ausgerichtete Schulungsstrategie wird durch ein interaktives Tutorial für die Aneignung der entwickelten Werkzeuge ergänzt, die mithilfe von Künstlicher Intelligenz (KI) und Visual Analytics (VA) die anpassbare, faire und nachvollziehbare KI-Detektion und echtzeitbasierte Dashboard-Aufbereitung von Cyber-Missbrauchsinhalten unterstützen.
Zur Erhöhung der zivilen Sicherheit sollen weiter die Erkennung und Meldung von Cybermobbing und Hassbotschaften durch die Bevölkerung gestärkt werden. Dies umfasst eine Strategie zur Verbesserung der Kommunikation zwischen Bürger*innen, Betroffenen und ESBs, welche durch empirische Feldforschung (z.B. repräsentative Befragungen) unterstützt und im Rahmen einer Kampagne erprobt wird. Dazu werden Werkzeuge zur Erkennung und Meldung von Cyber-Missbrauch für Bürger*innen durch ein Browser-Plugin und eine Smartphone-App zur Verfügung gestellt und evaluiert. Im Rahmen des Abschlusstreffens wurden nach einer Vorstellungsrunde das Gesamtprojekt und praxisrelevante Ergebnisse der Teilprojekte vorgestellt:
- Strategien und Werkzeuge zur Meldung, Kommunikation und Sensibilisierung von Cyber-Missbrauch (Universität Potsdam, DIGICAT)
- Markt- und Anforderungsanalyse für den organisationalen Einsatz automatisierter Detektionswerkzeuge (Otto-Friedrich-Universität Bamberg, AIC)
- Methoden und Technologien zur fairen, flexiblen und effizienten Erkennung von Cybermobbing und Hassbotschaften (TU Darmstadt, PEASEC)
- Entwicklung und Integration von Werkzeugen zur Erkennung, Meldung und Visualisierung von Cyber-Missbrauch (Virtimo AG)
Unter Einbezug von Anwendern aus Ermittlungs- und Strafverfolgungsbehörden (u.a. BKA, LKAs, LPPs), Beratungs- und Meldestellen sowie der Justiz wurde anschließend ein interaktiver Austausch an vier Stationen für ein Hands-on der Melde- und Beratungstechnologien (PEASEC) und der Analyse- und Visualisierungstechnologien (VIRTIMO), sowie die Diskussion von Anforderungen und Perspektiven für den Praxistransfer (DIGICAT) und Potenziale und Wünsche für zukünftige Forschungsprojekte (AIC) durchgeführt. In einer abschließenden Plenumsdiskussion wurden die Potenziale zur Verstetigung der Projektergebnisse diskutiert, die im Folgenden auszugsweise aufgelistet sind:
- Julian Bäumler, Louis Blöcher, Lars-Joel Frey, Xian Chen, Markus Bayer, Christian Reuter (2026)
A Survey of Machine Learning Models and Datasets for the Multi-label Classification of Textual Hate Speech in English
ACM Transactions on Knowledge Discovery from Data (TKDD). doi:10.1145/3820778
[Download PDF] - Thea Riebe, Noral Cremille, Simone Stumpf (2026)
Classifying Hate Speech: Domain Experts’ Evaluation Needs for AI-enhanced Decision Support Systems
Proceedings of the 14th Nordic Conference on Human-Computer Interaction (NordiCHI ’26), October 03–07, 2026, Vaasa, Finland. doi:10.1145/3829807.3829810
[Download PDF] -
Julian Bäumler, Thea Riebe, Marc-André Kaufhold, Christian Reuter (2025)
Harnessing Inter-Organizational Collaboration and Automation to Combat Online Hate Speech: A Qualitative Study with German Reporting Centers
Proceedings of the ACM: Human Computer Interaction (PACM): Computer-Supported Cooperative Work and Social Computing. doi:10.1145/3710991
[Download PDF] - Julian Bäumler, Georg Voronin, Marc-André Kaufhold (2025)
Cyber Hate Awareness: Information Types and Technologies Relevant to the Law Enforcement and Reporting Center Domain
i-com – Journal of Interactive Media; 24(1). doi:10.1515/icom-2024-0062
[Download PDF] - Julian Bäumler, Helen Bader, Marc-André Kaufhold, Christian Reuter (2025)
Towards Youth-Sensitive Hateful Content Reporting: An Inclusive Focus Group Study in Germany
Proceedings of the Conference on Human Factors in Computing Systems (CHI) (Honorable Mentions) Yokohama, Japan. doi:10.1145/3706598.3713542
[Download PDF] -
Marc-André Kaufhold, Markus Bayer, Julian Bäumler, Christian Reuter, Stefan Stieglitz, Ali Sercan Basyurt, Milad Mirabaie, Christoph Fuchß, Kaan Eyilmez (2023)
CYLENCE: Strategies and Tools for Cross-Media Reporting, Detection, and Treatment of Cyberbullying and Hatespeech in Law Enforcement Agencies
Mensch und Computer 2023 – Workshopband Rapperswil, Switzerland. doi:10.18420/muc2023-mci-ws01-211
[Download PDF]
Weitere Informationen zum Projekt und eine vollständige Publikationsliste sind der unten verlinkten Projektwebsite zu entnehmen. In der restlichen Projektlaufzeit und darüber hinaus werden weitere Forschungsergebnisse für die Publikation vorbereitet und mit Anwendungspartnern die nächsten Verstetigungsschritte geplant, indem Werkzeuge für die erweiterte Erprobung freigegeben werden.
Projektwebsite
https://peasec.de/projects/cylence/
Kontakt
Prof. Dr. Dr. Christian Reuter
E-Mail: reuter@peasec.tu-darmstadt.de
Dr. rer. nat. Marc-André Kaufhold
E-Mail: kaufhold@peasec.tu-darmstadt.de