MultiLayerFakeDetect - Mehrschichtige, multimodale Analyse zur zuverlässigen Erkennung von KI-generierten und manipulierten Inhalten in Dokumenten, Bildern, Audio- und Videodaten

MultiLayerFakeDetect entwickelt ein mehrschichtiges, multimodales Verfahren zur zuverlässigen Erkennung von KI-generierten und manipulierten Inhalten in Dokumenten, Bildern, Audio- und Videodaten. Moderne generative KI macht es zunehmend leicht, täuschend echte Fälschungen zu erzeugen – von manipulierten Fotos über geklonte Stimmen bis zu vollständig synthetischen Videos. Das Projekt kombiniert Analysen auf mehreren Ebenen (Inhalt, Signal und Metadaten) sowie über verschiedene Modalitäten hinweg, um Manipulationen und synthetische Medien robust zu erkennen. Ein besonderer Fokus liegt auf qualitätsadaptiven Schwellenwerten und der Erkennung von Inkonsistenzen wie der Desynchronisation von Bild und Ton. Ziel ist eine praxistaugliche Lösung zur Wahrung der Medienintegrität. Das Projekt wird im FFG-Basisprogramm gefördert.