Zwei europaweite Datenschutzbehörden fordern gemeinsam ein generelles Verbot des Einsatzes automatisierter biometrischer Identifizierungstechnologien im öffentlichen Raum, da sie einen inakzeptablen Eingriff in die Grundrechte und Grundfreiheiten darstellen.

Der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) haben eine gemeinsame Meinung als Reaktion auf den von der Europäischen Kommission (EG) vorgeschlagenen Gesetzesentwurf über künstliche Intelligenz (AIA), der ein generelles Verbot des Einsatzes von KI zur automatisierten Erkennung menschlicher Merkmale im öffentlichen Raum fordert.

Dazu gehört das Verbot der Verwendung von KI zur Identifizierung von Gesichtern, Gangarten, Fingerabdrücken, DNA, Stimmen, Tastenanschlägen sowie anderen biometrischen oder verhaltensbezogenen Signalen in jedem Kontext.

„Der Einsatz biometrischer Fernidentifizierung in öffentlich zugänglichen Räumen bedeutet das Ende der Anonymität an diesen Orten“, sagten Andrea Jelinek, Vorsitzende des EDPB, und Wojciech Wiewiórowski, EDSB, in einer gemeinsamen Erklärung. „Anwendungen wie die Live-Gesichtserkennung greifen in einem Maße in die Grundrechte und -freiheiten ein, dass sie das Wesen dieser Rechte und Freiheiten in Frage stellen können.

„Dies erfordert eine sofortige Anwendung des Vorsorgeansatzes. Ein generelles Verbot der Nutzung der Gesichtserkennung in öffentlich zugänglichen Bereichen ist der notwendige Ansatzpunkt, wenn wir unsere Freiheiten wahren und einen menschenzentrierten Rechtsrahmen für KI schaffen wollen.“

Obwohl die AIA – die einen entschieden risikobasierten, marktorientierten Ansatz zur Regulierung der Technologie verfolgt – angeblich die biometrische Fernidentifizierung von Personen in Echtzeit in öffentlichen Räumen verbietet, Experten für digitale Rechte sagten zuvor Computer Weekly dass es eine Reihe von Schlupflöchern gibt, die jegliche Behauptung, dass es tatsächlich verboten wurde, erheblich schwächen.

Dazu gehört die Tatsache, dass es eine Reihe sehr weit gefasster „Ausnahmen von Bedrohungen“ gibt, die den Einsatz der Technologie durch Strafverfolgungsbehörden erlauben, und dass nur die biometrische Identifizierung in Echtzeit und nicht rückwirkend verboten ist.

Der EDSB und der EDSB teilen auch die Ansicht, dass das „Verbot“ des AIA zur biometrischen Fernidentifizierung unzureichend ist.

„Die biometrische Fernidentifizierung von Personen in öffentlich zugänglichen Räumen birgt ein hohes Risiko, in das Privatleben von Personen einzudringen“, heißt es in der gemeinsamen Stellungnahme. „Deshalb sind der EDSA und der EDSB der Auffassung, dass ein strengerer Ansatz erforderlich ist.

„Der Einsatz von KI-Systemen könnte ernsthafte Probleme mit der Verhältnismäßigkeit aufwerfen, da er die Verarbeitung von Daten einer wahllosen und unverhältnismäßigen Anzahl von betroffenen Personen zur Identifizierung nur weniger Personen (z. B. Passagiere auf Flughäfen und Bahnhöfen) beinhalten könnte.

„Das Problem der ordnungsgemäßen Unterrichtung von Einzelpersonen über diese Verarbeitung sowie der wirksamen und rechtzeitigen Ausübung der Rechte natürlicher Personen ist noch immer ungelöst. Gleiches gilt für seine irreversible, schwerwiegende Auswirkung auf die (angemessene) Erwartung der Bevölkerung, im öffentlichen Raum anonym zu sein, was sich unmittelbar negativ auf die Ausübung der Meinungs-, Versammlungs-, Vereinigungs- und Bewegungsfreiheit auswirkt.“

Die Experten, mit denen Computer Weekly über die AIA sprach, hoben auch das Fehlen eines „Verbots“ biometrischer KI-Tools hervor, die Rasse, Geschlecht und Behinderung erkennen können.

„Die biometrische Kategorisierung von Menschen in bestimmte Rassen, Geschlechtsidentitäten, Behinderungskategorien – all diese Dinge müssen verboten werden, um die Rechte der Menschen zu schützen, weil sie nicht rechtskonform genutzt werden können“, sagt Sarah Chander, a Senior Policy Advisor bei European Digital Rights (EDRi). “Sofern die Gesetzgebung das nicht tut, wird sie zu kurz kommen.”

Der EDPD und der EDSB haben sich in ähnlicher Weise mit der mangelnden Beachtung der biometrischen Kategorisierung auseinandergesetzt und ein Verbot für alle KI-Systeme empfohlen, die Personen aufgrund von ethnischer Zugehörigkeit, Geschlecht, politischer oder sexueller Orientierung oder aus anderen Gründen in „Cluster“ gruppieren Diskriminierung ist nach der Charta der Grundrechte verboten.

In der gemeinsamen Stellungnahme heißt es weiter: „Außerdem sind der EDSB und der EDSB der Ansicht, dass der Einsatz von KI zum Ableiten von Emotionen einer natürlichen Person höchst unerwünscht ist und verboten werden sollte, außer in bestimmten genau spezifizierten Anwendungsfällen, nämlich zu Gesundheits- oder Forschungszwecken (z. B. Patienten, bei denen die Emotionserkennung wichtig ist), immer mit angemessenen Sicherheitsvorkehrungen und natürlich vorbehaltlich aller anderen Datenschutzbedingungen und -grenzen, einschließlich der Zweckbindung.“

Im Vereinigten Königreich, Informationsbeauftragte Elizabeth Denham sagte, sie sei auch „zutiefst besorgt“ über den unangemessenen und rücksichtslosen Einsatz von Live-Gesichtserkennungstechnologien (LFR) im öffentlichen Raum, in einem Blog notieren dass keine der von ihrem Büro untersuchten Organisationen ihren Einsatz vollständig rechtfertigen konnte.

Obwohl Denham die erheblichen Auswirkungen der Biometrie auf die Rechte anerkennt, sieht sie jedoch davon ab, ein generelles Verbot zu fordern, und erlässt stattdessen eine Stellungnahme des Kommissars als Orientierungshilfe für Unternehmen und öffentliche Organisationen zu fungieren, die biometrische Technologien einsetzen möchten.

„Es ist nicht meine Aufgabe, eine Technologie zu befürworten oder zu verbieten, aber obwohl sich diese Technologie entwickelt und nicht weit verbreitet ist, haben wir die Möglichkeit, sicherzustellen, dass sie sich nicht ohne gebührende Berücksichtigung des Datenschutzes ausdehnt“, schrieb Denham in dem Blog.

„Organisationen müssen von Anfang an hohe Standards in Bezug auf Governance und Rechenschaftspflicht nachweisen, einschließlich der Fähigkeit, zu begründen, dass die Verwendung von LFR in jedem spezifischen Kontext, in dem sie eingesetzt wird, fair, notwendig und verhältnismäßig ist. Sie müssen zeigen, dass weniger aufdringliche Techniken nicht funktionieren.“

Am 7. Juni 2021 haben im Einklang mit der Stellungnahme des EDSB und des EDSB Access Now und mehr als 200 andere Organisationen der Zivilgesellschaft, Aktivisten, Forscher und Technologen aus 55 Ländern 55 einen offenen Brief unterzeichnet, in dem gesetzliche Verbote gefordert werden über den Einsatz biometrischer Technologien im öffentlichen Raum, sei es durch Regierungen, Strafverfolgungsbehörden oder private Akteure.

Die Koalition forderte nicht nur ein vollständiges Verbot, sondern forderte auch Regierungen auf der ganzen Welt auf, alle öffentlichen Investitionen in biometrische Technologien zu stoppen, die Massenüberwachung und diskriminierende gezielte Überwachung ermöglichen.

Amazon, Microsoft und IBM haben sich vom Verkauf von Gesichtserkennungstechnologien an die Polizei zurückgezogen“, sagte Isedua Oribhabor, US-Politikanalystin bei Access Now. „Investoren fordern Einschränkungen beim Einsatz dieser Technologie. Dies zeigt, dass sich die Privatwirtschaft der Gefahren der biometrischen Überwachung für die Menschenrechte bewusst ist.

„Aber sich des Problems bewusst zu sein, reicht nicht aus – es ist Zeit zu handeln. Der Privatsektor sollte die Auswirkungen der biometrischen Überwachung vollständig angehen, indem er die Entwicklung oder Entwicklung dieser Technologie von vornherein einstellt.“

Leave a Reply

Your email address will not be published. Required fields are marked *