Η Σάρα, η οποία προτιμά να κρατήσει το πραγματικό της όνομα μυστικό, είχε μόλις μπει στο κατάστημα Home Bargains για να αγοράσει σοκολάτα.
«Μέσα σε ένα λεπτό με πλησίασε ένας υπάλληλος και μου είπε ‘Είσαι κλέφτρα, πρέπει να φύγεις από το κατάστημα’» λέει η ίδια στο BBC.
Η Σάρα δεν είχε κλέψει τίποτα, απλώς ταυτοποιήθηκε εσφαλμένα από σύστημα αναγνώρισης προσώπων που προμηθεύτηκε το κατάστημα από την εταιρεία Facewatch.
Ο υπάλληλος δεν βρήκε κλοπιμαία στην τσάντα της και την άφησε να φύγει, την προειδοποίησε όμως ότι στο μέλλον η είσοδός της απαγορεύεται σε οποιοδήποτε κατάστημα της αλυσίδας.
«Έκλαιγα και έκλαιγα σε όλη τη διαδρομή μέχρι το σπίτι [.] Σκεφτόμουν ‘Θα μείνει ίδια η ζωή μου; Θα με κοιτάζουν σαν κλέφτρα ενώ δεν έχω κλέψει ποτέ».
Η Facewatch, η οποία παρέχει υπηρεσίες αναγνώρισης προσώπων σε αρκετές ακόμα αλυσίδες καταστημάτων στη Βρετανία, κάλεσε αργότερα την Σάρα και παραδέχτηκε το λάθος της.
Από τα μαγαζιά στην αστυνομία
Δεν είναι όμως μόνο τα καταστήματα που αξιοποιούν τη νέα τεχνολογία. Μια βροχερή ημέρα στη γειτονιά του Μπέθναλ Γκριν στο ανατολικό Λονδίνο, ρεπόρτερ του BBC παρακολούθησε τους αστυνομικούς που πάρκαραν το λευκό φορτηγάκι τους σε έναν εμπορικό δρόμο. Στον ουρανό του οχήματος, κάμερες κατέγραφαν τα πρόσωπα των περαστικών.
Αν κάποιος ταίριαζε με τις φωτογραφίες στη λίστα των καταζητούμενων, οι αστυνομικοί θα τον σταματούσαν και μπορεί να τον συλλάμβαναν.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
«Έρχεται» το πρώτο νοσοκομείο τεχνητής νοημοσύνης - Πόσους ασθενείς θα μπορεί να θεραπεύσει
Μόνο εκείνη την ημέρα, η Μητροπολιτική Αστυνομία του Λονδίνου πραγματοποίησε έξι συλλήψεις χρησιμοποιώντας έξυπνες κάμερες στους δρόμους.
Πολυάριθμες μελέτες έχουν δείξει ότι τα συστήματα αναγνώρισης προσώπων συχνά κάνουν λάθη, ειδικά αν πρόκειται για μαύρους πολίτες ή άλλες φυλετικές μειονότητες, οι οποίοι υποεκπροσωπούνται στα δεδομένα με τα οποία εκπαιδεύεται το σύστημα.
Το φαινόμενο έχει ονομαστεί «αλγοριθμική προκατάληψη».
Η Μητροπολιτική Αστυνομία υποστηρίζει ότι μόνο ένα άτομο ανά 33.000 αναγνωρίζεται εσφαλμένα από το σύστημα. Όμως η πιθανότητα λάθους είναι πολύ μεγαλύτερη μεταξύ όσων τελικά αναγνωρίζονται, επισημαίνει το BBC, σύμφωνα με το οποίο μία περίπτωση στις 40 δίνει ψευδώς θετικό συναγερμό.
Αυτό συνέβη στον Σον Τόμσον, εργαζόμενο στη μη κυβερνητική οργάνωση Streetfathers για τη στήριξη των νέων, τον οποίο σταμάτησε η αστυνομία καθώς περνούσε δίπλα από το λευκό φορτηγάκι με τις κάμερες.
«Με ακούμπησαν στον ώμο και μου είπαν ότι είμαι καταζητούμενος» είπε ο Τόμσον στο BBC.
Του ζητήθηκε να δώσει δακτυλικά αποτυπώματα και δεν αφέθηκε ελεύθερος παρά 20 λεπτά αργότερα, όταν παρέδωσε αντίγραφο του διαβατηρίου του.
Όμως, παρά την πιθανότητα λαθών, η αστυνομία χρησιμοποιεί αναγνώριση προσώπων όλο και συχνότερα.
Κάμερες στους δρόμους;
Κανείς δεν μπορεί να αποκλείσει το ενδεχόμενο να εγκατασταθούν τέτοια συστήματα και στις σταθερές κάμερες ασφάλειας, εκτός από τα ειδικά φορτηγάκια της αστυνομίας, είπε η Σίλκι Κάρλο, διευθύντρια της οργάνωσης Big Brother Watch για την προστασία της ιδιωτικής ζωής.
Στην Ευρωπαϊκή Ένωση, πάντως, ο νέος κανονισμός για τις εφαρμογές τεχνητής νοημοσύνης απαγορεύει τις κάμερες αναγνώρισης προσώπων σε δημόσιους χώρους, εκτός αν πρόκειται για υποθέσεις τρομοκρατίας ή άλλων σοβαρών εγκλημάτων.
Είναι το όριο που θέτει η ΕΕ ανάμεσα στην ανάγκη για ασφάλεια και την προστασία των πολιτών από αλγοριθμικές διακρίσεις.
