Hightech

MEDIEN

29.06.2022 - 10:30 | pressetext.redaktion
29.06.2022 - 10:15 | Peeroton GmbH - Pressedienst
29.06.2022 - 06:10 | pressetext.redaktion

LEBEN

29.06.2022 - 13:15 | GRÜNSTATTGRAU
29.06.2022 - 11:30 | pressetext.redaktion
29.06.2022 - 10:00 | Leipzig Tourismus und Marketing GmbH
pte20210125003 Technologie/Digitalisierung, Medien/Kommunikation

App schützt Fotos vor Gesichtserkennung

"LowKey" laut US-Wissenschaftlern sehr effektiv gegen Amazon- und Microsoft-Algorithmen


Scheinen gleich: Original (oben) und Verfälschung (Foto: Cherepanova et al.)
Scheinen gleich: Original (oben) und Verfälschung (Foto: Cherepanova et al.)

College Park/Annapolis (pte003/25.01.2021/06:10) -

Gesichtserkennung durch Behörden und auch private Unternehmen ist ein umstrittener Trend. Daher haben Informatiker mit „LowKey“ https://lowkey.umiacs.umd.edu eine Web-App entwickelt, die helfen soll, die eigenen Fotos vor „unerlaubter Überwachung“ nzu schützen. Dazu verändert ein Algorithmus des Teams an der University of Maryland und der US Naval Academy https://usna.edu Bilder so, dass sie für Menschen zwar klar erkennbar bleiben, für gängige Gesichtserkennungs-Software aber kaum mehr zu identifizieren sind. Die Algorithmen von Amazon und Microsoft erreichen den Forschern zufolge weniger als ein Prozent Genauigkeit.

Erkennungs-Störung

Gesichtserkennung findet immer größere Verbreitung, ist aber auch schwer umstritten, als meistens rassistisch (siehe: http://pte.com/news/20191220033 ) oder speziell in den Händen von Konzernen als womöglich unzulässige Überwachung. Dem Team hinter LowKey zufolge hätten gängige Systeme gemein, dass sie große Datenbanken aus dem Internet gezogener Bilder, beispielsweise von sozialen Medien, nutzen. Als Schutz vor Gesichtserkennung setzen sie nun darauf, per Algorithmus gezielt gewisse Störungen in Fotos einzubauen, die mathematisch zwar relativ stark, aber fürs Auge kaum wahrnehmbar sind.

„Dies bedeutet, dass Maschinen die Gesichtszüge in den ursprünglichen und gestörten Bildern sehr unterschiedlich interpretieren, während Menschen sie fast gleich interpretieren", so die projektbeteiligten Informatiker Valeriia Cherepanova und Micah Goldblum gegenüber „The Register“. Gerade jene Erkennungsmerkmale, die Algorithmen nutzen, weichen beim veränderten Bild stark vomOriginal ab. Diese Idee ist eigentlich nicht neu. „LowKey ist das erste Umgehungs-Tool, das gegen kommerzielle Gesichtserkennungs-APIs wirksam ist“, schreibt das Team jedoch in einem auf dem Preprint-Server arXiv veröffentlichten Paper.

Amazon und Microsoft ausgetrickst

Denn in Test war LowKey laut Forschern effektiv genug, dass Amazons „Rekognition“, das unveränderte Bilder zu 93,7 korrekt einer bestimmten Person zuordnen kann, es auf eine Genauigkeit von nur 0,6 Prozent brachte. Selbst, wenn das System die 50 wahrscheinlichsten Treffer ausgibt, erreicht es nur 2,4 Prozent Trefferquote. Microsofts Azure Facial Recognition API Schnitt noch schlechter ab, es konnte nur in 0,1 Prozent der Fälle eine exakte Zuordnung vornehmen.

Die Informatiker betonen allerdings, dass geeignet gestaltete, robustere Geschichtserkennungs-Systeme wohl in der Lage wären, auch mit LowKey veränderte Fotos wieder richtig zu erkennen. Das Projekt und die Web-App sollen Nutzer also vor allem wachrütteln, was die Verbreitung von Gesichtserkennung und die mit allzu freizügigem Teilen von Inhalten auf sozialen Medien betrifft.

Zum Preprint „LowKey: Leveraging Adversarial Attacks to Protect Social Media Users from Facial Recognition“: https://arxiv.org/pdf/2101.07922.pdf

(Ende)
Aussender: pressetext.redaktion
Ansprechpartner: Thomas Pichler
Tel.: +43-1-81140-314
E-Mail: pichler@pressetext.com
Website: www.pressetext.com
|
|
98.688 Abonnenten
|
200.803 Meldungen
|
83.002 Pressefotos

IR-NEWS

29.06.2022 - 17:15 | CLEEN Energy AG
29.06.2022 - 16:27 | Deutsche Real Estate AG
29.06.2022 - 15:20 | Dr. Bock Industries AG
Top