Themenkreis * Schutz vor Gesichtserkennung 

Kat.: Gesellschaft/Kultur




  Home

 

 

25. Jan. 2021

Schutz vor Gesichtserkennung

"LowKey" laut US-Wissenschaftlern sehr effektiv gegen Amazon- und Microsoft-Algorithmen

Scheinen gleich: Original (oben) und Verfälschung (Foto: Cherepanova et al.)

College Park/Annapolis - Informatiker der University of Maryland und der US Naval Academy https://usna.edu  haben mit "LowKey" https://lowkey.umiacs.umd.edu eine Web-App entwickelt, die helfen soll, die eigenen Fotos vor "unerlaubter Überwachung" zu schützen. Dazu verändert ein Algorithmus die Bilder so, dass sie für Menschen zwar klar erkennbar bleiben, für gängige Gesichtserkennungs-Software aber kaum mehr zu identifizieren sind. Die Algorithmen von Amazon und Microsoft erreichen den Forschern zufolge weniger als ein Prozent Genauigkeit.

Smarte Erkennungs-Störung

Gesichtserkennung findet immer größere Verbreitung, ist aber auch sehr umstritten, als meist rassistisch oder speziell in den Händen von Konzernen womöglich unzulässige Überwachung. Dem Team hinter LowKey zufolge haben gängige Systeme gemein, dass sie große Datenbanken aus dem Internet gezogener Bilder, etwa von sozialen Medien, nutzen. Als Schutz vor Gesichtserkennung setzen sie nun darauf, per Algorithmus gezielt gewisse Störungen in Fotos einzubauen, die mathematisch zwar relativ stark, aber fürs Auge kaum wahrnehmbar sind.

"Dies bedeutet, dass Maschinen die Gesichtszüge in den ursprünglichen und gestörten Bildern sehr unterschiedlich interpretieren, während Menschen sie fast gleich interpretieren", so die projektbeteiligten Informatiker Valeriia Cherepanova und Micah Goldblum gegenüber "The Register". Gerade jene Erkennungsmerkmale, die Algorithmen nutzen, weichen beim veränderten Bild stark vom Original ab. Diese Idee ist eigentlich nicht neu. "LowKey ist das erste Umgehungs-Tool, das gegen kommerzielle Gesichtserkennungs-APIs wirksam ist", schreibt das Team jedoch in einem auf dem Preprint-Server arXiv veröffentlichten Paper.

Amazon und Microsoft ausgetrickst

In Tests war LowKey laut Forschern effektiv genug, dass Amazons "Rekognition", das unveränderte Bilder zu 93,7 korrekt einer bestimmten Person zuordnen kann, es auf eine Genauigkeit von nur 0,6 Prozent brachte. Selbst, wenn das System die 50 wahrscheinlichsten Treffer ausgibt, erreicht es nur 2,4 Prozent Trefferquote. Microsofts Azure Facial Recognition API schnitt noch schlechter ab, es konnte nur in 0,1 Prozent der Fälle eine exakte Zuordnung vornehmen.

Die Informatiker betonen allerdings, dass geeignet gestaltete, robustere Geschichtserkennungs-Systeme wohl in der Lage wären, auch mit LowKey veränderte Fotos wieder richtig zu erkennen. Das Projekt und die Web-App sollen Nutzer also vor allem wachrütteln, was die Verbreitung von Gesichtserkennung und das allzu freizügige Teilen von Inhalten auf sozialen Medien betrifft.

Zum Preprint "LowKey: Leveraging Adversarial Attacks to Protect Social Media Users from Facial Recognition": https://arxiv.org/pdf/2101.07922.pdf

Pressetext Redaktion

 

1    2 .... 6
Menlo Park - 09. April 2021
 

Immer mehr Angestellte lieben Home-Office

Robert-Half-Studie in den USA: Jeder Dritte würde kündigen, wenn er zurück ins Büro müsste

Waterloo - 09. April 2021
 

Doppelzüngigkeit: Meinung klar manipulierbar

Beschönigende Sprache von Führungspersönlichkeiten erhöht Akzeptanz bei den Rezipienten

Turku - 05. März 2021
 

Automatisierung vergrämt viele Angestellte

Tätigkeit wirkt weniger bedeutsam, wenn Maschinen Routine-Aufgaben übernehmen

 
Wien - 25. November 2020
 

Internationaler Tag gegen Gewalt an Frauen

Neue Studie zur Medienberichterstattung über Gewaltdelikte an Frauen veröffentlicht

Berlin - 23. November 2020
 

Handy: Extrem-Nutzung macht impulsiver

Tendenz zu schneller und kurzfristiger Befriedigung kann auch Anzeichen für Suchtgefahr sein

San Diego - 02. Oktober 2020
 

Weisheit schützt vor Einsamkeit

Weisheit schützt vor Einsamkeit Studie weist bessere Allgemeingesundheit, Schlafqualität und mehr Glücksempfinden nach

 
Armonk/Berlin/Wien - 09. Juni 2020
 

Rassen-Profiling: IBM stoppt Gesichtserkennung

IT-Gigant sieht reale Gefahr des Machtmissbrauchs und bietet Technologie nicht mehr an

Fresach - 28. Mai 2020
 

Politik und Kirche müssen Menschen Sinn geben

Toleranzgespräche: Corona-Bewältigung erfordert Abkehr vom Egoismus

Wien - 19. Mai 2020
 

Webkongress: Visions for Transition: Billigessen kommt uns teuer zu stehen

Wie Landwirtschaft und Städte der Zukunft die Artenvielfalt bewahren

 
Wien - 28. April 2020
 

Eine Million Tonnen genießbare Lebensmittel landen jährlich im Müll

Neuer WWF-Bericht: Die Hälfte der vermeidbaren Lebensmittelabfälle entsteht zu Hause

Stuttgart - 07. April 2020
 

Wegen Corona-Isolation bietet Video-Streamingdienst seine Filme kostenlos an

14 Tage kostenlos streamen

Wien - 05. April 2020
 

Die Filialen des SozialShop in Wien bleiben auch während der Corona-Krise offen

Versorgung Bedürftiger mit dem Notwendigstengewährleistet

 
1    2 .... 6

© 2021 by Themenkreis und der jeweiligen Aussender. Alle Rechte vorbehalten.

  RSS-Feed     Impressum & Disclaimer