Dr. Stephan Weichert ist Publizist, Social Entrepreneur und Direktor des Vocer-Instituts für Digitale Resilienz, einer gemeinnützigen Forschungs- und Weiterbildungseinrichtung, die sich für robusten Journalismus einsetzt.

Das KI-gestützte Tool KIVI wurde 2020 von der Medienanstalt NRW zur Aufdeckung und Verfolgung rechtswidriger Inhalte im Internet entwickelt und wird mittlerweile von allen Landesmedienanstalten genutzt.

Durch das automatisierte Monitoring von über 10.000 öffentlichen Social-Media-Profilen und Webseiten täglich ermöglicht KIVI die Identifizierung einer Vielzahl potenzieller Rechtsverstöße – und eine direkte Vorbereitung zur juristischen Prüfung durch das geschulte Personal der Medienanstalten. Bundesweit konnten so zwischenzeitlich über 15.000 Rechtsverstöße seitens der Medienaufsicht identifiziert werden. 

Mit narraltiv entwickeln Linda Walter und Simon Liedtke in der Innovationsförderung des MIZ Babelsberg eine innovative Lösung gegen Hassrede und Desinformation in sozialen Medien:

Das KI-gestützte Tool kombiniert eine Echtzeit-Analyse von Hate Speech mit der Generierung emotional ansprechender Narrative und schlägt konkrete Möglichkeiten für ein Antwortposting vor. So sollen Journalist:innen und Community-Manager:innen in die Lage versetzt werden, toxische Inhalte nicht nur zu erkennen, sondern gezielt mit positivem, verbindendem Storytelling entgegenzuwirken.

Trusted Accounts, das vom Media Lab Bayern im Rahmen des Media Startup Fellowships gefördert wird, schützt Online-Plattformen vor Bots, professionellen Trollfabriken und anonymen Hatern – ohne echte Nutzer:innen abzuschrecken. Als intelligente Alternative zu CAPTCHA setzt Trusted Accounts auf moderne Verifikationstechnologien, die auch im Zeitalter der künstlichen Intelligenz bestehen.

Plattformen gewinnen die Kontrolle über ihre Community zurück, indem sie bösartige Akteur:innen effizient erkennen und nachhaltig moderieren. Das erhöht die Qualität der Inhalte, fördert wertvolle Interaktionen, reduziert Kosten in der Moderation und stärkt das Vertrauen sowie die Relevanz der Plattform.