Blog

Unsichtbar für Gesichtserkennung: Facebook-Forscher modifizieren Videos

Unsichtbar für Gesichtserkennung: Facebook-Forscher modifizieren Videos

Artikel von Antonia 27. Oktober 2019

Gemäß eines Forschungsberichtes ist ein maschinelles Lernsystem entwickelt worden, das es zwar gestattet, Personen in Videos zu identifizieren, jedoch aktuelle Gesichtserkennungs-Systeme überlistet. Der Gesichtserkennungstechnologie wird es bei dieser Methode erschwert, eine Person zu identifizieren. An diesem Projekt beteiligten sich Forscher von Facebooks AI-Research-Team und der Tel-Aviv University.

Novum: Verhinderung von Gesichtserkennung in Videos

d-id logoStartups, wie D-ID, haben mit einer Reihe früherer Arbeiten bereits Grundlagen dafür geschaffen, die Technologie zur Entidentifizierung von Standbildern zu entwickelt. Dies jedoch ist der erste Ansatz, der mit Videos arbeitet. Bereits in ersten Tests punktete das Verfahren. Es konnte erfolgreich verhindern, dass man von Gesichtern mittels moderner Gesichtserkennungssysteme auf Personen schließen kann.

Gesichtserkennungs-Software relevante Veränderungen bewirken Identifikationsprobleme

Bei der Methode muss man die KI für die automatische Videomodifikation nicht für jedes Video neu trainieren. Man bildet lediglich eine leicht verzerrte Version auf dem Gesicht einer Person ab, wobei man nur jene Gesichtszüge verändert, die das Gesichtserkennungs-System analysiert. Bereits winzige Veränderungen an Nase, Augen und Mund reichen schon aus, um es der Software zu erschweren oder unmöglich zu machen, eine Person zu identifizieren. Andere Eigenschaften, wie Mimik, Gestik, Hautfarbe und die Lippenbewegungen bedürfen keiner Veränderung. Man erreicht damit, dass einerseits die Modifikationen so gering sind, dass sie menschlichen Zuschauern kaum auffallen. Andererseits aber verhindern sie, dass Programme ein Gesicht eindeutig einer Person zuordnen können.

Wie die Faceswap-Deepfake-Software verwendet die KI eine Encoder-Decoder-Architektur, um sowohl eine Maske als auch ein Bild zu erzeugen. Während des Trainings wird das Gesicht der Person verzerrt und dann in das Netzwerk eingespeist. Das System generiert dann verzerrte und unverzerrte Bilder des Gesichts einer Person für die Ausgabe, die in Videos eingebettet werden können.

Gesichtserkennung birgt Missbrauchspotential

Im Forschungsbericht heißt es:

„Gesichtserkennung kann zum Verlust der Privatsphäre führen und durch Manipulation von Gesichtern dafür missbraucht werden, um irreführende Videos zu erstellen. Jüngste weltweite Ereignisse in Bezug auf die Fortschritte in der Gesichtserkennungstechnologie und deren Missbrauchsmöglichkeiten machen es erforderlich, Methoden zu verstehen, die erfolgreich eine Identifizierung umgehen. Unsere Anwendung ist bisher die einzige, die für Videos, einschließlich Live-Videos, geeignet ist.“

 

Technologie bleibt vorerst ungenutzt

Solche Methoden könnten eine öffentliche Rede ermöglichen, die für Personen, jedoch nicht für KI-Systeme erkennbar bleibt. Laut der News-Website VentureBeat plant Facebook derzeit nicht, diese neue Technologie anzuwenden.

Die Arbeit stellt Facebook auf der Internationalen Konferenz für Computer Vision (ICCV) vor, die nächste Woche in Seoul, Südkorea, stattfindet. Facebook hat die Gesichtserkennung zu Beginn dieses Jahres zu einem Standard auf seiner Plattform gemacht. Derzeit kämpft der Konzern gegen eine Klage diesbezüglich an. Diese hat einen Umfang von 35 Milliarden US-Dollar.

Tarnkappe.info

Beitragsbild: von Stefan Keller auf Pixabay

Inhalt abgerufen von: https://tarnkappe.info/unsichtbar-fuer-gesichtserkennung-facebook-forscher-modifizieren-videos/.

Menü