Neues KI-Tool deckt raffinierte Deepfakes auf

Forscher der University of California Riverside haben ein leistungsstarkes Werkzeug zum Finden von Deep Fakes entwickelt. Amit Roy-Chowdhury und sein Doktorand Rohit Kundu sind gemeinsam mit Wissenschaftlern von Google einer Künstlichen Intelligenz auf der Spur, die Manipulationen an Videos erkennt, selbst wenn diese weit über Gesichtsaustausch und Sprachverfälschung hinausgehen.

Video kommt auf den Prüfstand

Das System namens "Universal Network for Identifying Tampered and synthEtic videos" (UNITE) erkennt Fälschungen, indem es nicht nur Gesichter, sondern ganze Videobilder einschließlich Hintergründen und Bewegungsmustern untersucht. "Deepfakes haben sich weiterentwickelt. Es geht nicht mehr nur um den Austausch von Gesichtern. Mit leistungsstarken generativen Modellen erstellen Menschen mittlerweile komplett gefälschte Videos, von Gesichtern bis hin zu Hintergründen. Unser System ist darauf ausgelegt, all das zu erkennen", so Kundu.

Frühere Deepfake-Detektoren seien fast ausschließlich auf Gesichtsmerkmale fokussiert gewesen. "Wenn kein Gesicht im Bild zu sehen ist, funktionieren viele Detektoren einfach nicht. Aber Desinformation kann viele Formen haben. Bereits das Verändern des Hintergrunds einer Szene kann die Wahrheit verzerren", unterstreicht der Wissenschaftler.