Offener Brief Mai 2022 von 53 Organisationen der Zivilgesellschaft an Abgeordnete gerichtet

In Europa und weltweit ist der Einsatz von biometrischen Identifikationssystemen (BIS), wie beispielsweise der Gesichtserkennung im öffentlichen Raum, vertreten eine der größten Bedrohungen für Grundrechte und Demokratie Wir haben gesehen. Die Fernnutzung dieses Systems zerstört die Anonymität in der Öffentlichkeit und gefährdet den Wesenskern unseres Rechts auf Privatsphäre, den Schutz personenbezogener Daten, das Recht auf freie Meinungsäußerung, das Recht auf Versammlungs- und Vereinigungsfreiheit (was zur Kriminalisierung von Protesten führt und schlimme Auswirkungen hat) und Recht auf Gleichberechtigung und Nichtdiskriminierung.

Ohne ein klares und einfaches Verbot der Verwendung dieser neuen Technologie im öffentlichen Raum werden alle Orte, an denen wir unsere Rechte ausüben und uns als Bürger versammeln, in Orte der Massenüberwachung verwandelt, an denen wir immer wie ein Verdächtiger behandelt werden.

Dieser Schaden ist nicht hypothetisch.

Uigurische Muslime wurden systematisch verfolgt durch die chinesische Regierung durch Gesichtserkennung. Pro-Demokratie-Demonstranten und politische Gegner wurden unterdrückt oder gezielt angegriffen in Russland, in Serbien und zu Hongkong durch die Verwendung – und in einigen Fällen einfach aus Angst vor der Verwendung – SIBs im öffentlichen Raum.

Es ist schon da bedeutende Beweise dass französische und europäische Einwohner systematisch biometrischen Massenüberwachungspraktiken ausgesetzt wurden. Dies ist der Fall, wo FußballfansSchulkinder, Passagiere, Einkäufer oder Vielbesucher LGBTQ+ Bars und Andachtsstättenzielgerichtet und der Schaden ist real und weit verbreitet.

Sogar einige der größten Unternehmen, die biometrische Überwachungssysteme anbieten, wie Microsoft, IBM und Amazon, haben von sich aus ein Moratorium beschlossen, wegen der großen Risiken und Schäden, die dieses System mit sich bringen kann. Auf der gleichen Linie, Facebook hat seine Datenbank mit Bildern von Gesichtern gelöscht.

Die Notwendigkeit einer Regulierung ist in ganz Europa zu spüren, und mehrere Mitgliedstaaten haben die Führung übernommen: Italien hat es getan das erste Land, das ein Moratorium verhängt Gesichtserkennung an öffentlichen Orten. Die deutsche Regierungskoalition hat ein Moratorium gefordert auf europäischer Ebene Massenüberwachung mit biometrischen Daten und Portugal lässt die Rechnung fallen was zur Legalisierung einiger dieser Praktiken führen würde. Und das belgische Parlament erwägt ein Moratorium zur biometrischen Überwachung.

Der Entwurf einer europäischen Verordnung zu KI ist ein klares Instrument, das das Europäische Parlament nutzen kann, um einen kohärenten Rechtsrahmen für den Datenschutz und die individuelle Freiheit zu schaffen. Die EU ist ein Pionier in der KI-Regulierung, die in Europa durchgesetzten Regeln werden Praxis und Recht auf der ganzen Welt beeinflussen.

Wird die EU Massenüberwachungstechnologie zulassen, die unseren Freiheiten schaden würde?

Zum Schutz der Grundrechte sollte das KI-Gesetz jede Fernnutzung (d.h. breite Überwachung) der biometrischen Identifizierung (RBI) in öffentlich zugänglichen Räumen verbieten durch:
• Ausweitung des Geltungsbereichs des Verbots auf alle privaten und öffentlichen Akteure;
• Sicherstellen, dass jegliche Verwendung biometrischer Identifizierung (in Echtzeit oder im Nachhinein) in öffentlich zugänglichen Räumen verboten ist;
• Ausnahmen von Verboten streichen, die unabhängige Menschenrechtsgutachten als unvereinbar mit bestehenden europäischen Grundrechtsstandards erachten.
• Stoppen Sie diskriminierende oder manipulative Formen der biometrischen Kategorisierung
• Gehen Sie richtig mit dem Risiko um, Emotionen zu erkennen

Die EU will ein „Vertrauens- und Exzellenz-Ökosystem“ für KI schaffen und sich als weltweit führend in zuverlässiger und ethischer KI positionieren. Indem wir die Verwendung biometrischer Daten regulieren, haben wir die Möglichkeit, KI zu einem Dienst für die Gesellschaft zu machen, nicht zu einer mächtigen Technologie.

Aus diesem Grund müssen wir sicherstellen, dass die Änderungen der KI-Verordnungen im IMCO- und LIBE-Ausschuss ein Verbot der Massenüberwachung mit biometrischen Daten enthalten.

Lesen offener Brief Mai 2022 von 53 Organisationen der Zivilgesellschaft an Parlamentarier verschickt.

10. Mai 2022