Ihre Daten werden dann für eine Vielzahl von Anwendungen verwendet – vom Entsperren Ihres Telefons und dem Markieren von Fotos in Ihren bevorzugten sozialen Netzwerken bis hin zu Authentifizierungsschemata, einschließlich solcher im Zusammenhang mit Strafverfolgung und Sicherheit, anderen Regierungsbehörden und sogar privaten Unternehmen. Neben Strafverfolgungsbehörden, Sicherheitsdiensten und anderen Regierungsorganisationen können Ihre Fotos auch in die Hände von Hackern und KI-Forschern gelangen.

Wie Sie sehen, wird Ihr Gesicht, Ihre unveränderliche und einzigartige ID, nach dem Scannen und Scannen überall herumgeworfen und geteilt, ohne dass Sie viel sagen müssen.

Aufgrund Ihrer unveräußerlichen Menschenrechte geht dies natürlich zu Lasten der Privatsphäre:

In Artikel 12 der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen heißt es: „Niemand darf willkürlich in seine Privatsphäre, Familie, Wohnung oder Korrespondenz eingreifen. … Jeder hat das Recht auf rechtlichen Schutz vor solchen Eingriffen oder Angriffen.

Sie werden mir sicher zustimmen, dass eine Kamera, die jede Ihrer Bewegungen aufzeichnet, nicht im Sinne dieser Aussage ist. Aber Regierungsbehörden wollen dieses mächtige Überwachungsinstrument nicht aufgeben.

In China hat Huawei beispielsweise ein Gesichtserkennungssystem getestet, das einen „Uiguren-Alarm“ auslösen kann, der Angehörige der Uiguren, einer unterdrückten Minderheit, erkennt. (Chinesische Behörden haben bis zu einer Million Uiguren und andere Minderheiten in bis zu 400 Institutionen in Xinjiang willkürlich inhaftiert, in der größten Internierung einer ethnisch-religiösen Minderheit seit dem Zweiten Weltkrieg.) Dieses System würde es der chinesischen Regierung ermöglichen, zu kontrollieren und strafrechtlich zu verfolgen Leute Uiguren, wenn sie wollen.

KI „rassistisch“

Trotz des chinesischen Beispiels bleibt die Frage, auch wenn wir die Gesichtserkennung in der Strafverfolgung zulassen, die Frage: Ist das Tool selbst für eine solche Anwendung zuverlässig genug? Leider ist die Antwort nein.

Dunkelhäutige Menschen waren und sind eine große Herausforderung für diesen Algorithmus. Da dunkle Haut weniger Licht reflektiert und unter nicht optimierten Bedingungen weniger Kontrast erzeugt, liefern einige Fotos, die für die Gesichtserkennung verwendet werden, nicht genügend Datenpunkte für den Algorithmus, was zu Fehlanpassungen führt.

In ihrem Forschungspapier aus dem Jahr 2018 testeten Gender Shades, Joy Buolamwini und Timnit Gebru gesichtserkennungsbasierte Algorithmen zur Geschlechtsklassifikation, die (unter anderem) von Microsoft, IBM und Amazon entwickelt wurden. Dem Artikel zufolge verzeichnete das Programm erhebliche Fehlerquoten (zwischen 20 % und 34 %) bei der Erkennung, Identifizierung und Verifizierung von Gesichtern bei schwarzen Männern und noch mehr bei Frauen.

Eine unabhängige Bewertung des National Institute of Standards and Technology (NIST) führte einen tieferen Scan durch; es enthielt bis zu 189 Gesichtserkennungsprogramme und lieferte die gleichen Ergebnisse – sie waren bei der Analyse der Gesichter dunkelhäutiger Frauen am wenigsten genau.

Allein die hohe Fehlerquote sollte Grund genug sein, den Einsatz solch unzuverlässiger Technologien zu verbieten. Gesichtserkennungsprogramme werden jedoch immer noch hauptsächlich aus Gier und Missachtung der Menschenrechte verwendet. Manche Forscher ignorieren die wirkliche Gefahr hinter diesem Problem und schlagen, anstatt den Einsatz dieser Technologie aus dem Rechtssystem zu ignorieren, vor, die Fotoeinstellungen für dunklere Hauttöne zu optimieren und die „Genehmigung“ als Voraussetzung für die Erstellung eines Gesichtserkennungsdatensatzes zu beantragen.

Hacker-Bedrohung

Inzwischen haben wir alle gesehen, dass trotz gesetzlicher Beschränkungen eine Einwilligung angewendet werden kann. Wenn Sie Ihre Fotos benötigen, um zur Arbeit zu gehen, Lebensmittel zu kaufen oder eine medizinische Versorgung in Anspruch zu nehmen, haben Sie keine andere Wahl, als sie zur Verfügung zu stellen. Darüber hinaus sind diese technologischen Upgrades nur für Regierungen und große Unternehmen von Vorteil, die mit dem Verkauf ihrer Softwarelizenzen enorme Gewinne erzielen.

Auch andere machen sich Ihre Daten zunutze: Hacker und Hackergruppen.

Im Jahr 2019, auf der jährlichen Black Hat Hacker Convention, durchbrachen Hacker das iPhone FaceID-Authentifizierungssystem von Apple in nur zwei Minuten.

Im Februar 2020 wurde Clearview AI – dem Unternehmen, das das Internet durchsucht und Milliarden von Fotos online für den Einsatz von Gesichtserkennungstechnologie abgeschöpft hat – seine gesamte Abonnentenliste gestohlen. Dieser Hack wird wahrscheinlich eine bedeutende Rolle bei weiteren Hacking-Versuchen gegen das Unternehmen und seine Kunden spielen, von denen die meisten Strafverfolgungsbehörden und Banken sind.

Im Jahr 2020 wies das Cybersicherheitsteam von McAfee auf einen Fehler im Gesichtserkennungssystem hin. Sie benutzten speziell manipulierte Fotos, um Systeme auszutricksen, die denen an Flughäfen für die Passidentifikation per Gesichtserkennung ähnlich sind, indem sie akzeptierten, dass die Person auf dem Pass die gleiche war, die von den Kameras des Systems aufgenommen wurde. Dies würde es beispielsweise jemandem auf einer Flugverbotsliste ermöglichen, das Flugzeug zu besteigen.

Im März 2021 benutzte eine kriminelle Gruppe Fotos, die auf einem Online-Schwarzmarkt gekauft wurden, um eine staatliche chinesische Website auszutricksen, und stahl 76,2 Millionen US-Dollar.

Die Liste geht weiter.

Denken Sie daran: Bei all diesen Hacks sind Sie immer das letzte Opfer. Auch wenn Ihre personenbezogenen Daten nicht für Phishing und Identitätsdiebstahl verwendet werden, werden sie für andere schändliche Zwecke im Darknet an die Meistbietenden verkauft.

Was kannst du tun?

Wenn Sie wie ich sind, haben Sie sich gefragt: Was können wir tun? Was ist geht es weiter? Tatsächlich viel.

Die EFF, die Electronic Frontier Foundation, drängt die Regierung, die Verwendung der Gesichtserkennung zu verbieten. Fight for the Future, eine gemeinnützige Interessenvertretung, hat die Online-Kampagne Ban Face Recognition gestartet. Sie können herausfinden, wer im Kongress diese Technologien unterstützt oder ablehnt, sie twittern oder Informationen austauschen und helfen, die Bewegung vor Ort zu fördern. Einer der bekanntesten Siege war der BIPA oder Illinois Biometric Information Privacy Act.

BIPA ist ein Schritt in die richtige Richtung, denn es erfordert eine Genehmigung, bevor Unternehmen ein Foto des Gesichts einer Person für die Gesichtserkennung speichern können. Diese Fotos müssen nach der Aufnahme nach einer bestimmten Zeit gelöscht werden. Wenn das Unternehmen diese Regeln nicht befolgt, hat der Geschädigte das Recht auf ein Persönlichkeitsrecht, was bedeutet, dass eine Person (d. h. Sie, nicht Ihr Unternehmen) das Recht hat, eine Klage einzureichen.

Deutschlands neue Regierung scheint den Ernst der Lage zu verstehen und erwägt, die Gesichtserkennung zu verbieten und den Einsatz von Massenüberwachungstools einzuschränken.

Auch Meta-Plattformen – alias Facebook – brachen unter dem Druck zusammen und schränkten im November die Nutzung von Gesichtserkennungsfunktionen weitgehend ein. Es kann nur in besonderen Fällen verwendet werden, beispielsweise zur Überprüfung der Identität und zum Entsperren von gehackten Konten. Die vollständige Liste ist länger und unbestimmt und zeigt, dass das Unternehmen nicht bereit ist, sein Gesichtserkennungsspielzeug DeepFace aufzugeben, den Algorithmus von Facebook, der auf 1 Milliarde Gesichtsscans trainiert wurde. Noch wichtiger ist, dass Meta eine Rückkehr zur Gesichtserkennung in Zukunft nicht ausschließt.

Wie Sie sehen, geht der Kampf um Privatsphäre und Menschenrechte weiter und wird wahrscheinlich eskalieren. Ich hoffe, Sie verstehen jetzt das Konzept und kennen das Problem.

Was als nächstes passiert, liegt an Ihnen.