Medieninhalte lassen sich inzwischen mit geringem Aufwand täuschend echt erzeugen oder manipulieren. Das begünstigt Desinformation und führt dazu, dass auch authentische Aufnahmen zunehmend infrage gestellt werden. Im Interview zum Abschluss ihres MIZ-Förderprojektes erklären Daniel Larena Baumann und Hans Brorsen, wie sie mit „Lumid-Video“ die Herkunft digitaler Inhalte transparent und nachvollziehbar machen – und zwar genau dort, wo Nutzer:innen unterwegs sind. Außerdem erfahrt ihr, warum Content Credentials nach dem C2PA-Standard und der EU AI Act für Journalist:innen und Medienhäuser zukünftig eine noch größere Rolle spielen werden.

Lieber Hans, lieber Daniel, mit welchem konkreten Problem in der Medienbranche seid ihr gestartet und warum wird die Frage nach Herkunft und Echtheit von Videos immer relevanter?

Hans Brorsen: Ausgangspunkt für Lumid war eine grundlegende Veränderung des Medienkonsums: Bilder und Videos werden heute häufig nicht mehr dort gesehen, wo sie ursprünglich veröffentlicht wurden. Denn sie werden über soziale Netzwerke oder Messenger weiterverbreitet. Dabei gehen Informationen über die ursprüngliche Quelle, den Kontext und mögliche Bearbeitungen schnell verloren.

Durch generative KI verschärft sich dieses Problem erheblich. Medieninhalte lassen sich inzwischen mit geringem Aufwand täuschend echt erzeugen oder manipulieren. Das begünstigt Desinformation und führt dazu, dass auch authentische Aufnahmen zunehmend infrage gestellt werden. Einer KI-Studie zufolge fällt es 91% der Deutschen schwer, echte Inhalte von manipulierten Inhalten zu unterscheiden.

Wir sind deshalb mit der Frage gestartet, wie man die Herkunft digitaler Inhalte transparent und überprüfbar machen kann. Dabei wollen wir journalistischen Medien und anderen Quellen die Möglichkeit geben, ihre authentischen Inhalte als solche auszuweisen.

„Unser Projektziel war es, unsere bestehende Technologie für die Bildverifikation um einen technischen Prototyp zu erweitern, der auch die Herkunft und Echtheit von Videos transparent und verständlich macht."

Lumid war bislang auf die Verifikation von Bildern ausgerichtet. Was war die Motivation, die Technologie auf Videos auszuweiten und welche neuen Herausforderungen bringt das mit sich?

Daniel Larena Baumann: Videos spielen für journalistische Inhalte und auf sozialen Netzwerken eine immer wichtigere Rolle. Die Erweiterung von Lumid auf Bewegtbild war für uns daher der nächste logische Schritt.

Unser Projektziel war es, unsere bestehende Technologie für die Bildverifikation um einen technischen Prototyp zu erweitern, der auch die Herkunft und Echtheit von Videos transparent und verständlich macht.

Technisch ist das anspruchsvoller als bei einem einzelnen Bild. Die erste Hürde war, überhaupt zu definieren, was ein Video ausmacht und wie es sich technisch vom Bild unterscheidet: eine Abfolge vieler Einzelbilder, meist mit Tonspur, veränderbar durch Schnitte, Kürzungen oder Geschwindigkeitsänderungen, etc. Hinzu kommen größere Datenmengen und deutlich höhere Anforderungen an die Verarbeitungsgeschwindigkeit.

Darauf aufbauend ging es darum, aus dieser Vielfalt ein Merkmalsset herauszuarbeiten, das eine robuste Repräsentation ermöglicht, also ein Video auch nach solchen Veränderungen zuverlässig wiedererkennbar macht.

Wie funktioniert Lumid-Video technisch? Wie können Nutzer:innen erkennen, ob ein Video authentisch, manipuliert oder KI-generiert ist?

Hans: Lumid-Video besteht aus zwei Schritten: Die technische Kennzeichnung von Videos und das Auslesen dieser Kennzeichnung.

Dabei nutzen wir mehrere verschiedene Kennzeichnungsmethoden: den offenen C2PA-Standard und unsere eigene Fingerprinting-Methode. C2PA verankert Herkunfts- und Kontextinformationen kryptografisch direkt in der Datei. Das Problem dabei: Diese Angaben können verloren gehen, etwa wenn eine Plattform das Video beim Hochladen neu komprimiert. Deshalb ergänzen wir das um ein Fingerprinting-Verfahren, das nicht an der Datei, sondern am Inhalt selbst ansetzt. Vereinfacht gesagt: Wir extrahieren aus dem Video charakteristische Schlüsselbilder, wandeln sie in einen kompakten numerischen "Fingerabdruck" um und bringen diesen in eine einheitliche, vergleichbare Form. Dieser Fingerabdruck bleibt auch nach Kompression, Zuschnitt oder erneutem Hochladen weitgehend stabil. So erkennen wir ein Video zuverlässig wieder, selbst wenn unterwegs alle Metadaten verloren gegangen sind.

Wenn Nutzer:innen diese gekennzeichneten Videos überprüfen, erhalten sie genau diese Herkunfts- und Kontextinformationen. Sie können beispielsweise erkennen, dass ein Video von einer verifizierten Quelle stammt, dass KI-Einsatz offengelegt wurde, dass die vorliegende Version vom registrierten Original abweicht oder dass ein Faktencheck zu diesem Inhalt verfügbar ist.

Die Inhalte können dabei entweder auf unseren eigenen Diensten wie unserer Webseite oder unseren Messenger-Chatbots verifiziert werden. Mittlerweile lesen aber auch viele andere Dienste oder Plattformen die standardisierten Kennzeichnungen aus und die Nutzer:innen können dort mehr Infos bekommen.

„Der C2PA-Standard schafft eine gemeinsame technische Sprache zur Kennzeichnung von Inhalten."

Ihr arbeitet mit Content Credentials nach dem C2PA-Standard. Was verbirgt sich dahinter und welche Bedeutung haben sie aktuell für Journalist:innen und Medienhäuser?

Daniel: Der C2PA-Standard schafft eine gemeinsame technische Sprache zur Kennzeichnung von Inhalten. Dadurch können unterschiedliche Kameras, Bearbeitungsprogramme, KI-Systeme, Medienhäuser und Plattformen dieselben Herkunftsinformationen erzeugen, weitergeben und auslesen. Als Content Credentials werden die angezeigten Herkunfts- und Kontextinformationen bezeichnet. Das Vorhandensein dieser Informationen erkennt man an dem CR-Logo, das meistens oben Links als klickbares Icon über den Inhalt gelegt wird.

Für Journalist:innen und Medienhäuser ist das aus mehreren Gründen relevant: Sie können ihre Rolle als ursprüngliche Quelle sichtbar machen, redaktionelle Bearbeitungen transparent dokumentieren und offenlegen, wenn KI im Produktionsprozess eingesetzt wurde. In Zeiten von KI ist diese Transparenz ein Qualitätssiegel.

Zudem können damit auch Urheberrechte geschützt und Lizenzinformationen angezeigt werden, sodass die Kennzeichnungen auch einen direkten kommerziellen Wert für Medienhäuser haben.

Die Verifikation soll direkt dort stattfinden, wo Inhalte konsumiert werden – etwa in sozialen Netzwerken, Messengern oder im Browser. Warum ist dieser niedrigschwellige Ansatz so wichtig?

Hans: Eine Verifikationslösung entfaltet nur dann Wirkung, wenn sie genau in dem Moment zur Hand ist, in dem jemand vor einem fragwürdigen Video sitzt. Das ist meistens mitten im Scrollen. Von Mediennutzer:innen kann man dabei nicht erwarten, dass sie bei jedem entsprechenden Video die jeweilige Plattform verlassen, nach einem spezialisierten Werkzeug suchen und anschließend eine Datei manuell hochladen. Bis dahin hat man längst weitergescrollt.

Deshalb wird die Überprüfung genau dort möglich sein, wo die Inhalte konsumiert werden. Diese Entwicklung ist schon weit vorangeschritten und Kennzeichnungen nach dem C2PA-Standard werden bereits jetzt bei LinkedIn, Youtube, Adobe, OpenAI und Google Gemini ausgelesen und den Nutzer:innen als Content Credentials angezeigt. Erst letztens wurde bekannt, dass die Google Suche, der Chrome-Browser und Instagram ihren Nutzer:innen auch Content Credentials anzeigen werden.

„Lumid-Video unterstützt Redaktionen bei der Veröffentlichung eigener Inhalte, indem Journalist:innen ihre Videos mit überprüfbaren Kontext- und Herkunftsinformationen versehen können. Dadurch wird auch außerhalb der eigenen Website sichtbar, dass ein Video tatsächlich von dieser Redaktion stammt."

Welchen konkreten Mehrwert kann Lumid-Video Redaktionen bieten und wie können Redaktionen mit euch zusammenarbeiten?

Daniel: Lumid-Video unterstützt Redaktionen bei der Veröffentlichung eigener Inhalte, indem Journalist:innen ihre Videos mit überprüfbaren Kontext- und Herkunftsinformationen versehen können. Dadurch wird auch außerhalb der eigenen Website sichtbar, dass ein Video tatsächlich von dieser Redaktion stammt.

Bearbeitungsschritte und der Einsatz von KI können transparent dokumentiert werden. Gleichzeitig kann Lumid Nutzer:innen von einer verbreiteten Kopie wieder zum ursprünglichen Beitrag und damit zur publizierenden Redaktion zurückführen.

Redaktionen können sich so klarer von irreführenden, manipulierten oder ohne Kontext verbreiteten Inhalten abgrenzen. Das stärkt die Glaubwürdigkeit redaktioneller Inhalte und macht Transparenz zu einem sichtbaren Qualitätsmerkmal.

Welche Rückmeldungen haben eure Produktentwicklung besonders geprägt?

Hans: Kennzeichnung und Verifikation darf nicht zur komplizierten Extra-Aufgabe werden, sondern muss sich möglichst reibungslos in bestehende Veröffentlichungs- und Nutzungssituationen integrieren. Genau das bieten wir mit Lumid an: Kennzeichnungs-Lösungen, die für Medienschaffende ohne viel Aufwand bzw. ganz automatisch per Schnittstelle in bestehende Arbeitsprozesse integrierbar sind. Unsere Kennzeichnungen können auf allen großen Plattformen und eigenen Diensten ausgelesen werden.

Und schließlich hören wir aus der Branche immer wieder, dass Content Credentials und C2PA als zukunftsfähiger Standard gelten. Das freut uns besonders, weil wir als erstes Unternehmen in der DACH-Region das Conformance-Programm der C2PA erfolgreich durchlaufen haben und damit Medieninhalte standardkonform mit Content Credentials verknüpfen dürfen. Für uns ist das eine Bestätigung, dass wir technologisch richtig liegen und interoperable Herkunftsnachweise künftig fest zur digitalen Medieninfrastruktur gehören werden.

„Professionelle Nutzer:innen von KI müssen künftig in manchen Fällen offenlegen, wenn Inhalte künstlich erzeugt oder manipuliert wurden."

Wie geht es nach der MIZ-Förderung weiter? Welche nächsten Entwicklungsschritte plant ihr, auch im Hinblick auf den AI Act?

Daniel: Nach der MIZ-Förderung gehen wir mit Lumid-Video in die praktische Anwendung. Unsere Lösung ist einsatzbereit und kann von Unternehmen und Organisationen genutzt und in bestehende Veröffentlichungs- und Produktionsprozesse integriert werden. Das Interesse ist dabei groß, insbesondere bei Medienunternehmen, KI-Anbietern, Content Creator:innen, Marketingagenturen sowie öffentlichen Institutionen.

Dafür gibt es mehrere Gründe: Zum einen etabliert sich der C2PA-Standard zunehmend als gemeinsame technische Grundlage für überprüfbare Herkunfts- und Kontextinformationen.
Hinzu kommen regulatorische Transparenzpflichten, insbesondere im Zusammenhang mit dem AI Act. Professionelle Nutzer:innen von KI müssen künftig in manchen Fällen offenlegen, wenn Inhalte künstlich erzeugt oder manipuliert wurden. Auch müssen KI-System-Anbieter ihre Ausgaben in maschinenlesbarer Form kennzeichnen. Lumid bietet hier eine leicht anwendbare bzw. integrierbare Lösung.

Der nächste Schritt besteht daher vor allem darin, Lumid gemeinsam mit Partner:innen breit zu skalieren, weitere Integrationen aufzubauen und Lumid in immer mehr Anwendungsfeldern zu etablieren.

>>> zur Website von „Lumid
>>> Projektseite von „Lumid-Video“ auf der MIZ-Website
>>> Abschlusspräsentation von „Lumid-Video“ beim MIZ Innovation Pitch #10 (startet ab 00:51:23)