Πριν από μερικές μέρες γράφαμε πως ο Peter Thiel, ιδρυτής της Palantir Data Company, προειδοποίησε ότι οι κυβερνήσεις θα χρησιμοποιήσουν τεχνολογία αναγνώρισης προσώπου με τη βοήθεια AI (τεχνητής νοημοσύνης) για να ελέγχουν τους ανθρώπους
Οι κίνδυνοι της τεχνητής νοημοσύνης και η χρήση του ανθρώπινου προσώπου στο διαδίκτυο είναι ένα θέμα άκρως επίκαιρο και σοβαρό.
Ακόμη και έχοντας αυτή τη μεγάλη ικανότητα να επεξεργάζεται τεράστιες ποσότητες δεδομένων, η τεχνητή νοημοσύνη δεν έχει καταφέρει ακόμη να αποδώσει νόημα σε αυτά
Καθημερινά μοιραζόμαστε φωτογραφίες του εαυτού μας και των άλλων στα social media. Αυτή η κοινή πράξη, μας εκθέτει σε πιθανά ψηφιακά εγκλήματα κατά του απορρήτου και της προσωπικής ταυτότητας. Αυτό είναι ένα πρόβλημα που αυξάνεται αν αναλογιστούμε την τρέχουσα έλλειψη νομοθεσίας στον τομέα της τεχνητής νοημοσύνης.
Από τις αρχές της χιλιετίας ζούμε σε αυτό που γνωρίζουμε ως ψηφιακή εποχή, ή κοινωνία της πληροφορίας και της επικοινωνίας. Σε αυτή τη νέα κοινωνική πραγματικότητα, η τεχνητή νοημοσύνη μας επιτρέπει να επεξεργαζόμαστε γρήγορα μεγάλες ποσότητες δεδομένων. Αυτοί οι υπολογισμοί βοηθούν στην κατανόηση των τάσεων της αγοράς, της κοινής γνώμης και των ατμοσφαιρικών αλλαγών.
Η εφαρμογή του μοντέλου αυτού στη ρομποτική έχει σημειώσει μεγάλες προόδους στην ιατρική, τις τηλεπικοινωνίες και τον οικιακό αυτοματισμό. Αυτές οι αλλαγές έχουν τροποποιήσει την καθημερινή μας ζωή, τα σπίτια μας και την αλληλεπίδρασή μας με τους άλλους.
Καθημερινά βασιζόμαστε στην τεχνητή νοημοσύνη για την αποτελεσματική εκτέλεση αυτοματοποιημένων εργασιών. Από πολλές απόψεις είναι ανώτερη από την ανθρώπινη νοημοσύνη και γι' αυτό την εμπιστευόμαστε περισσότερο.
Η τεχνητή νοημοσύνη και οι περιορισμοί της
Ανάμεσα στις κύριες προκλήσεις και εφαρμογές της τεχνητής νοημοσύνης είναι η ιατρική και η φροντίδα των ευάλωτων ατόμων. Ωστόσο, είναι ακριβώς εδώ που γίνεται εμφανής ένας από τους περιορισμούς αυτού του πεδίου. Η έλλειψη του συναισθηματικού συστατικού περιορίζει τη χρήση της τεχνητής νοημοσύνης.
Μέχρι σήμερα, δεν υπάρχουν ρομπότ με αρκετή ανθρώπινη εμφάνιση ώστε να μιμούνται τις εκφράσεις του προσώπου και τα συναισθήματα. Αυτή η ενσυναίσθηση, η ερμηνευτική και διαισθητική ικανότητα που χαρακτηρίζει τον άνθρωπο δεν υπάρχει επί του παρόντος στη ρομποτική.
Η τεχνητή νοημοσύνη θεωρήθηκε επίσης ως υποκατάστατο των ανθρώπων σε εκπαιδευτικά πλαίσια που ευνοούν την αυτόνομη μάθηση. Ωστόσο, η πρόσφατη εμπειρία της διαδικτυακής εκπαίδευσης λόγω του Covid-19 έχει δείξει το αντίθετο. Η πρόσωπο με πρόσωπο αλληλεπίδραση μεταξύ φοιτητών και καθηγητών είναι απαραίτητη για ουσιαστική μάθηση.
Η ανθρώπινη υποκειμενικότητα και το ψηφιακό πρόσωπο
Ακόμη και έχοντας αυτή τη μεγάλη ικανότητα να επεξεργάζεται τεράστιες ποσότητες δεδομένων, η τεχνητή νοημοσύνη δεν έχει καταφέρει ακόμη να της αποδώσει νόημα. Το να κάνουμε αυτά τα δεδομένα ουσιαστικά ή σχετικά είναι κάτι που μόνο οι άνθρωποι μπορούν να κάνουν (το κάνουμε συνεχώς όποτε, για παράδειγμα, κάνουμε "like" ή retweet). Με άλλα λόγια, είμαστε αυτοί που αποφασίζουμε ποια δεδομένα είναι σημαντικά ή όχι για κάθε συγκεκριμένη κατάσταση.
Αυτό συμβαίνει γιατί το νόημα είναι στενά συνδεδεμένο με την ηθική απάντηση που δίνει η ανθρώπινη υποκειμενικότητα μπροστά στο πρόσωπο ενός άλλου ανθρώπου. Χωρίς αυτή την αμοιβαία αναγνώριση, τα μεγάλα δεδομένα δεν σημαίνουν τίποτα. Γι' αυτό συχνά πρέπει να επιβεβαιώσουμε ότι «δεν είμαι ρομπότ». Αυτός είναι ο τρόπος με τον οποίο η τεχνητή νοημοσύνη αναγνωρίζει ότι η διαδικτυακή μας αλληλεπίδραση - το ψηφιακό μας πρόσωπο - είναι σημαντικό.
Οι κίνδυνοι της τεχνητής νοημοσύνης και οι ψηφιακές δυστοπίες
Ο σφετερισμός της ανθρώπινης ταυτότητας είναι ένας από τους πιο επίφοβους κινδύνους σε σχέση με την τεχνητή νοημοσύνη. Το άγχος που προκαλεί αυτός ο φόβος αντανακλάται σε έργα επιστημονικής φαντασίας τόσο δημοφιλή όσο οι κλασικές ταινίες Blade Runner (1982) και The Matrix (1999), και πιο πρόσφατα, ψηφιακές σειρές όπως Black Mirror (2011), Humans (2015), και Maniac (2018).
Σε όλα αυτά, το τέλος της κοινωνίας που γνωρίζουμε βασίζεται στην κυριαρχία και τον έλεγχο από τεχνητές νοημοσύνες που προσομοιώνουν το ανθρώπινο πρόσωπο και συμπεριφορά. Ωστόσο, οι κίνδυνοι που εγκυμονεί η τεχνολογία σε σχέση με τη χρήση του ανθρώπινου προσώπου σε ψηφιακά περιβάλλοντα έχουν διαφορετική, αν και εξίσου απειλητική, μορφή.
Προκλήσεις της δικαιοσύνης απέναντι στην τεχνητή νοημοσύνη
Η χρήση του ανθρώπινου προσώπου στην τεχνητή νοημοσύνη παρουσιάζει μεγάλες προκλήσεις για το νόμο. Το πρόσωπο ως βιομετρικό στοιχείο που μας προσδιορίζει ως άτομο προστατεύεται με διαφορετικούς τρόπους. Αφενός, τα δικαιώματα ταυτότητας και αυτοδιάθεσης θα καταστήσουν δυνατή την προστασία των υποκειμένων από τις πιθανές αλλοιώσεις που προκαλούνται από την τεχνητή νοημοσύνη.
Από την άλλη, τα συστήματα αναγνώρισης προσώπου θεωρούνται υψηλού κινδύνου στο σχέδιο κανονισμού τεχνητής νοημοσύνης της Ευρωπαϊκής Επιτροπής. Για να χρησιμοποιηθούν, θα πρέπει να δοκιμαστούν σε ασφαλή συστήματα, πρέπει να δημιουργηθούν κώδικες δεοντολογίας και εξαιρετικά περίπλοκα συστήματα δεοντολογικής συμμόρφωσης. Οι περιπτώσεις χρήσης μαζικών συστημάτων παρακολούθησης μέσω αναγνώρισης προσώπου πρόκειται να απαγορευθούν λόγω των μεγάλων επιπτώσεών τους στην ιδιωτική ζωή, την ελευθερία και την αυτονομία των πολιτών.
Η επεξεργασία προσώπων φθάνει σε ένα επίπεδο όπου δεν θα μπορούμε να διακρίνουμε μεταξύ του τι είναι αληθινό και τι είναι φανταστικό (όπως με τα φίλτρα στα κοινωνικά δίκτυα, για παράδειγμα). Αυτό προκαλεί μεγάλη ζημιά στη φήμη του ατόμου του οποίου το πρόσωπο υποβάλλεται σε επεξεργασία και, επιπλέον, μπορεί να χρησιμοποιηθεί για να αλλοιώσει τα δημοκρατικά μας συστήματα καταστρέφοντας τη φήμη μας (βλ. πρόσφατες περιπτώσεις deep fake δηλαδή ψεύτικα προφιλ που χρησιμοποιούν δεδομένα μας).
Τα υπολείμματα ρυθμίσεων και οι επιπτώσεις στα θεμελιώδη δικαιώματα λόγω της κακοήθους χρήσης του προσώπου μας αποτελούν απειλή που πρέπει να αντιμετωπιστεί και να προστατευθεί από τα νομικά συστήματα. Ο σκοπός είναι να μπορέσουμε να συνεχίσουμε να είμαστε ένα άτομο μέσα σε ένα περιβάλλον στο οποίο η τεχνολογία μπορεί να μας βοηθήσει να ξεπεράσουμε τις μεγάλες προκλήσεις που έχει η κοινωνία μας.
