Την απαγόρευση των συστημάτων τεχνητής νοημοσύνης (AI) που εντοπίζουν και διακρίνουν τους ανθρώπους ανάλογα με το φύλο ή τη σεξουαλικότητα, ζήτησε την Παρασκευή από την ΕΕ μια διακομματική ομάδα ευρωβουλευτών, υπογραμμίζοντας πως οι συνθήκες είναι τέτοιες που η χρήση αντίστοιχης τεχνολογίας θα μπορούσε να πυροδοτήσει διακρίσεις και κακοποίηση. Το σχέδιο εσωτερικού κανονισμού της της ΕΕ, που πρόκειται να παρουσιαστεί την επόμενη εβδομάδα, περιλαμβάνει εγγυήσεις διασφάλισης θεμελιωδών δικαιωμάτων μέσω των συστημάτων τεχνητής νοημοσύνης, όπως αυτό της αναγνώρισης προσώπου, αλλά δεν απαγορεύει τα συστήματα εκείνα που ανιχνεύουν το φύλο, τη σεξουαλικότητα, τη φυλή ή την αναπηρία, σύμφωνα με τους ευρωβουλευτές.
«Η μείωση της εκπροσώπησης συνιστά διάκριση, είτε γίνεται από ανθρώπους είτε από μηχανές» δήλωσε Thomson Reuters η Alexandra Geese, η οποία συνέταξε μια ανοιχτή επιστολή που συνυπέγραψαν 33 ακόμη ευρωβουλευτές. «Η ενδεχόμενη βλάβη αυτών των συστημάτων υπερτερεί του οφέλους τους τόσο κατάφωρα, εάν θεωρηθεί πως αποφέρουν οφέλη, που η Ευρώπη πρέπει να τις αποκλείσει ρητά και κατηγορηματικά από το νόμο» σημείωσε.
«Δεν χρειάζεται να αποφασίζει η τεχνολογία ποιος είναι άνδρας και ποια είναι γυναίκα, ποιος είναι ομοφυλόφιλος και ποιος όχι» σημείωσε η Karen Melchior, άλλη ευρωβουλεύτρια που υπέγραψε την επιστολή.
Η επιστολή αυτή έρχεται ως συνέχεια ενός διαδικτυακού ψηφίσματος που διοργάνωσε ένας συνασπισμός οργανώσεων ανθρωπίνων δικαιωμάτων. Το ψήφισμα, συνδιοργανωτές του οποίου ήταν το All Out, ένας παγκόσμιος οργανισμός υπεράσπισης των δικαιωμάτων της ΛΟΑΤΚΙ+ κοινότητας και η Access Now, μια ομάδα για τα ψηφιακά δικαιώματα, συγκέντρωσε 30.000 υπογραφές καλώντας τις Βρυξέλλες να εφαρμόσουν την απαγόρευση.
Αφού η Επιτροπή, ο εκτελεστικός βραχίονας της ΕΕ, υποβάλει επισήμως τις προτάσεις της στις 21 Απριλίου, θα πρέπει να συζητηθούν με τις χώρες της ΕΕ και τους ευρωβουλευτές προτού καταστούν νόμοι.
«Τα συστήματα τεχνητής νοημοσύνης που εντοπίζουν και επεξεργάζονται εικόνες προσώπων των ανθρώπων συχνά περιλαμβάνουν μια διαδικασία που χωρίζει τους ανθρώπους σε δύο φύλα: άνδρες και γυναίκες», δήλωσε στο Thomson Reuters ο Os Keyes, διδακτορικός φοιτητής που μελετά αντίστοιχα συστήματα στο Πανεπιστήμιο της Ουάσινγκτον.
Το σύστημα που ανιχνεύει το φύλο έχει χρησιμοποιηθεί σε μικρή κλίμακα στην Ευρώπη σύμφωνα με τον Keyes. Ο ίδιος ανέφερε ένα πρόγραμμα του Βερολίνου που χρησιμοποίησε τις πληροφορίες από την σάρωση προσώπου για να προσφέρει στις γυναίκες έκπτωση εισιτηρίων στην «Ημέρα Μισθολογικής Ισότητας». Επεσήμανε πως τα συστήματα AI που κατηγοριοποιούν αυτόματα τον πληθυσμό σε δύο φύλα ενισχύουν τα έμφυλα στερεότυπα. «Δεν γίνεται να υπάρχει ένα σύστημα αναγνώρισης φύλου που δεν καταλήγει να συμβάλλει σε κάποιο είδος προκατάληψης» ανέφερε και συμείωσε πως η τεχνολογία αυτή θα συμβάλλει στον αποκλεισμό εκατομμυρίων τρανς και μη δυαδικών ατόμων.
Οι ερευνητές έχουν αρχίσει να κατασκευάζουν εργαλεία για τον εντοπισμό της σεξουαλικότητας μέσω φωτογραφιών, συμπεριλαμβανομένου ενός ερευνητικού προγράμματος του 2017 στο Πανεπιστήμιο του Στάνφορντ, το οποίο ανέφερε ότι το σύστημα τεχνητής νοημοσύνης του αναγνώρισε σωστά τους ομοφυλόφιλους άνδρες σε ποσοστό 83% σε μια ανάλυση περίπου 35.000 εικόνων προσώπου.
Η χρήση μεγάλης κλίμακας τέτοιων συστημάτων δεν έχει ακόμη πραγματοποιηθεί στην Ευρώπη, αλλά η απαγόρευση από το μπλοκ των 27 μελών θα έθετε μια κόκκινη γραμμή για το μέλλον της τεχνολογίας στην Ευρώπη και πέραν αυτής, σύμφωνα με τον Daniel Leufer, αναλυτή της Ευρωπαϊκής Πολιτικής της Access Now. «Σκεφτείτε μόνο τη φρικτή χρήση αυτής της τεχνολογίας, ειδικά για τα τρανς και μη δυαδικά άτομα, όπως ας πούμε σε ότι αφορά στην πρόσβασης στην τουαλέτα» τόνισε ο Leufer
Ανησυχία υπάρχει επίσης για την εφαρμογή της τεχνολογίας στη διαφήμιση αλλά και σε μέρη όπως οι συνοριακοί σταθμοί ελέγχου, όπου η σἀρωση προσώπου μπορεί να χρησιμοποιηθεί για τον εντοπισμό ταξιδιωτών. Πέρυσι, η Access Now διαμαρτυρήθηκε για ένα διαφημιστικό σύστημα στην πόλη του Σάο Πάολο της Βραζιλίας, το οποίο χρησιμοποίησε την τεχνολογία αναγνώρισης προσώπου για να εμφανίσει διαφορετικές διαφημίσεις σε ανθρώπους που περπατούσαν βάσει του φύλου που τους είχε αποδοθεί από την εφαρμογή.
