iBorderCtrl : Automatisierte Entscheidungsfindung an der EU-Außengrenze
In Griechenland, Ungarn und Lettland soll nun bald ein automatisierter, auf Künstlicher Intelligenz basierender Ansatz der Grenzkontrolle –– das iBorderCtrl EU-Projekt –– getestet werden.
Personen, die in die EU einreisen möchten, sollen mit einem automatisierten System interagieren und Fragen beantworten. Die Interaktion wird als Video aufgezeichnet. Sogenannte Micro-Expressions werden in Folge herangezogen um festzustellen, ob die Person lügt. Ein auf Künstlicher Intelligenz (KI) basierender Lügendetektor bewertet, ob die Person in die EU einreisen darf, oder ob eine weitere Befragung durch einen Grenzschutzbeamten notwendig ist.
Das Projekt ist allerdings aus mehreren Gründen besorgniserregend:
- Methodologie und Evaluierungsergebnisse:
Der Lösungansatz basiert auf Micro-Expressions – kurzen, unwillkürlichen Gesichtsausdrücken. Diese Micro-Expressions werden in den Videoaufzeichnungen detektiert und einem Machine Learning Ansatz zu Beurteilung, ob eine Person die Wahrheit sagt, übergeben.
Experten im Fachbereich der Psychologie, wie z.B. Bruno Verschuere, Senior Lecturer in Forensischer Psychologie an der Universität Amsterdam, geben zu bedenken, dass es keinen wissenschaftlichen Beweis dafür gibt, dass Lügen anhand von Micro-Expressions detektiert werden können.
Aber lassen wir diese Einschätzung eines Experten kurz Beiseite und gehen wir davon aus, dass Micro-Expressions sehr wohl zur Lügendetektion geeignet sind. In diesem Fall stellt sich die Frage, wie der Ansatz der Detektion und Klassifizierung von Micro-Expressions in diesem Projekt designt und evaluiert wurde. Vorangegangene Studien zur Detektion und Zuordnung von Micro-Expressions haben gezeigt, dass die Ergebnisse stark von den Bedingungen, unter welchen die Bildaufnahme erfolgt, abhängen. In Studien werden die Datensätze für festgelegte Kopfpositionen unter einer definierten, konstanten Beleuchtung aufgenommen, und es werden z.B. Brillen und Bärte ausgeschlossen. Darüber hinaus haben Experimente gezeigt, dass die Erkennungsrate auch stark von der ethnischen bzw. rassischen Zugehörigkeit der Testpersonen abhängen kann [6]. Aus diesem Grund spielt das Trainingsset, das zum Trainieren des eingesetzten Machine Learning Ansatzes verwendet wird, eine kritische Rolle. Dieses Trainingsset sollte nicht nur eine große Anzahl an Datensätzen enthalten, die Datensätze sollte auch eine hohe Diversität aufweisen.
Für erste Experimente in diesem Projekt wird eine 76 Prozentige Erfolgsrate berichtet. Wenn man bedenkt, dass diese Erfolgsrate in einem kontrollierten Experiment mit einem sehr kleinem Testset von nur 32 Individuen erzielt wurde, ist das ein ausgesprochen schlechtes Ergebnis. Vor allem, unter Berücksichtigung des Fakts, dass die in kontrollierten Experimenten erzielten Ergebnisse, die in einer Realumgebung erzielten Ergebnisse beinahe immer übertreffen. Die in das Projekt involvierten Wissenschaftler gaben an, dass sie zuversichtlich sind, die Erfolgsrate auf 85 Prozent verbessern zu können. Aber reicht das aus? Im Jahr 2015 erhielten mehr als 520.000 Personen ein Schengen Visum. Diese Personen passierten also mit einer großen Wahrscheinlichkeit eine EU Grenzen. Für diese Kategorie an Reisenden allein, hätte das iBorderCtrl System bei einer 85 Prozentigen Erfolgsrate 80.000 Personen falsch klassifiziert. - Automatisierte Entscheidungsfindung:
Den Vorbehalten diesem Projekt gegenüber wird das Argument entgegengebracht, dass dieser KI Lügendetektor nur eine einzelne Phase des Einreiseprozesses ist. Wird eine Person als Lügner klassifiziert, wird sie in einem nächsten Schritt von einem Grenzschutzbeamten befragt. Diese menschliche Intervention soll Fehler des automatisierten Entscheidungsprozesses ausgleichen.
Das automatisierte System kann Reisende somit entweder als für die Eineise in die EU sicher klassifizieren oder sie für weitere Bewertung an einen Grenzwachebeamten weiterverweisen. In beiden Fällen wird eine automatisierte Entscheidung getroffen – entweder für die Einreise, oder für die weitere Befragung. - Sammlung biometrischer Daten:
Wird ein Reisender weiter befragt, werden dazu automatisch zusätzliche Daten von dieser Person erhoben und das von der Person ausgehende Risiko neu berechnet. Diese Daten beinhalten biometrische Daten wie z.B. Fingerabdrücke, Gesichtsmerkmale oder Handvenenscans. Biometrische Daten sind entsprechend der DSGVO als Daten besonderer Kategorien anzusehen. Die Agentur der Europäischen Union für Grundrecht hat einen Bericht über Datensammlung in der EU und die Interoperabilität von EU Informationssystemen vorgelegt. Datenschützer haben hier bereits ihre Bedenken bezüglich einer EU-weite Sammlung und Verarbeitung von biometrischen Daten geäußert.
Quellen:
[1] The Verge | The EU plans to test an AI lie detector at border points
[2] The Guardian | EU border ‘lie detector’ system criticised as pseudoscience
[3] Gizmodo | An AI Lie Detector Is Going to Start Questioning Travelers in the EU
[4] orf.at | Umstrittenes Projekt Lügendetektor für EU-Grenze geplant
[5] European Union Agency for Fundamental Rights | Under watchful eyes – biometrics, EU IT-systems and fundamental rights
[6] ACII 2011 International Conference on Affective Computing and Intelligent Interaction | The Machine Knows What You Are Hiding: An Automatic Micro-expression Recognition System
[7]Eidgenössisches Justiz – und Polizeidepartement | Visa Monitoring