Unsichtbar für Gesichtserkennung: Facebook-Forscher modifizieren Videos

Novum: Verhinderung von Gesichtserkennung in Videos

Startups, wie D-ID, haben mit einer Reihe früherer Arbeiten bereits Grundlagen dafür geschaffen, die Technologie zur Entidentifizierung von Standbildern zu entwickelt. Dies jedoch ist der erste Ansatz, der mit Videos arbeitet. Bereits in ersten Tests punktete das Verfahren. Es konnte erfolgreich verhindern, dass man von Gesichtern mittels moderner Gesichtserkennungssysteme auf Personen schließen kann.

Gesichtserkennungs-Software relevante Veränderungen bewirken Identifikationsprobleme

Bei der Methode muss man die KI für die automatische Videomodifikation nicht für jedes Video neu trainieren. Man bildet lediglich eine leicht verzerrte Version auf dem Gesicht einer Person ab, wobei man nur jene Gesichtszüge verändert, die das Gesichtserkennungs-System analysiert. Bereits winzige Veränderungen an Nase, Augen und Mund reichen schon aus, um es der Software zu erschweren oder unmöglich zu machen, eine Person zu identifizieren. Andere Eigenschaften, wie Mimik, Gestik, Hautfarbe und die Lippenbewegungen bedürfen keiner Veränderung. Man erreicht damit, dass einerseits die Modifikationen so gering sind, dass sie menschlichen Zuschauern kaum auffallen. Andererseits aber verhindern sie, dass Programme ein Gesicht eindeutig einer Person zuordnen können.

Wie die Faceswap-Deepfake-Software verwendet die KI eine Encoder-Decoder-Architektur, um sowohl eine Maske als auch ein Bild zu erzeugen. Während des Trainings wird das Gesicht der Person verzerrt und dann in das Netzwerk eingespeist. Das System generiert dann verzerrte und unverzerrte Bilder des Gesichts einer Person für die Ausgabe, die in Videos eingebettet werden können.

Gesichtserkennung birgt Missbrauchspotential

Im Forschungsbericht heißt es:

„Gesichtserkennung kann zum Verlust der Privatsphäre führen und durch Manipulation von Gesichtern dafür missbraucht werden, um irreführende Videos zu erstellen. Jüngste weltweite Ereignisse in Bezug auf die Fortschritte in der Gesichtserkennungstechnologie und deren Missbrauchsmöglichkeiten machen es erforderlich, Methoden zu verstehen, die erfolgreich eine Identifizierung umgehen. Unsere Anwendung ist bisher die einzige, die für Videos, einschließlich Live-Videos, geeignet ist.“