DeepFakes, also per Deep Learning Algorithmen ausgetauschte Gesichter in Videos sind immer leichter zu produzieren. Bisher war ein Schwerpunkt, Prominente scheinbar in erotischen Clips mitwirken zu lassen, aber viele andere Möglichkeiten DeepFakes einzusetzen sind denkbar, die noch ein größeres Potential haben, Personen durch scheinbar echte Videos zu schaden und das Vertrauen in die Beweiskraft von bewegten Bildern so zu umterminieren.
Forscher der TU München haben deshalb ein Deep Learning System entwickelt, um per Deep Learning ausgetauschte Gesichter automatisch erkennen zu können. Dazu wurde erst eine von den Forschern Datenbank (namens FaceForensics) mit einer großen Anzahl von gefälschten Videos erzeugt, mit deren Hilfe dann ein Deep Learning System trainiert wurde, um anhand der Unterschiede zwischen den DeepFake-Bildern und den Originalen die Fälschungen zu erkennen. Der neue Algorithmus erkennt deutlicher mehr der DeepFakes als andere Methoden - sogar auch wenn die Videos komprimiert sind, was eigentlich die Erkennung aufgrund der schlechteren Bildqualität für den Algorithmus deutlich schwieriger macht.
Allerdings ist die neue Methode zweischneidig - sie kann nicht nur zur Erkennung von DeepFakes genutzt werden, sondern (quasi als Feedback für ein DeepFake System) auch zur Verbesserung eben solcher Fälschungen (zumindest können diese visuell verbessert werden - vom Algorithmus erkannt werden sie meist doch noch). Eine Methode die übrigens immer öfter in der Forschung angewendet wird. Lassen sich (wie in diesem Fall) ohne menschliches Zutun in nahezu beliebiger Menge Trainingsfälle generieren, dann bekommt der eigentliche Deep Learning Algorithmus unzählige Daten und Fallbeispiele zum Lernen. Und seine Qualität wird nur noch zu einer Frage der Zeit/Rechenleistung.
