Μια από τις πιο δημοφιλείς αμερικάνικες σειρές, τόσο διεθνώς όσο και για τους Έλληνες θεατές αυτήν την περίοδο είναι το «The Boys». Προβάλλεται στο Amazon Prime και παρότι προφανώς είναι μια pop σειρά ταυτοχρόνως αποτελεί μια έξοχη αλληγορία (ή τουλάχιστον μπορεί να εκληφθεί και ως τέτοια) για όσα αναμένουμε ότι μπορεί να συμβούν στο μέλλον, με επίκεντρο την Τεχνητή Νοημοσύνη (ΤΝ). Η υπόθεση είναι απλή αλλά βασίζεται σε μια έξοχη σύλληψη: μια γιγάντια εταιρεία στις ΗΠΑ, η ΒΟΤ, μανατζάρει υπερήρωες, τους οποίους όπως αποδεικνύεται στην πορεία δημιουργεί η ίδια χάρη σε μια ουσία γενετικής τροποποίησης την οποία ανακάλυψε ο πρώην ναζί, ιδρυτής της. Οι υπερήρωες όμως στην πραγματικότητα δεν έχουν τίποτα το ηρωικό. Πίσω από τη βιτρίνα που το εταιρικό μάρκετινγκ κατασκευάζει δεδομένου ότι αποτελούν εξόχως ευπώλητα προϊόντα, αποδεικνύονται από ψυχοπαθή καθάρματα έως εντελώς ηλίθιοι και κενοί, πλην όμως με υπερδυνάμεις. Το αποτέλεσμα είναι μια καλά κρυμμένη δυστοπία.
Η σύλληψη είναι έξοχη γιατί περιγράφει πώς ακριβώς θα είναι ένας κόσμος στον οποίο η σχετική ισοδυναμία (ελέω βιολογίας) του ανθρωπίνου είδους θα έχει αναιρεθεί. Και αν κάποτε όλα αυτά ανήκαν μόνο στο επίπεδο της επιστημονικής φαντασίας, σήμερα η ΤΝ και η δημόσια επιστημονική συζήτηση για γενική ή υπερευφυή ΤΝ, για δια-ανθρωπισμό και μετά- ανθρωπισμό, για την υβριδική σχέση μεταξύ ανθρώπινης και τεχνητής νοημοσύνης, τα έχουν μεταφέρει στο επίπεδο της επιστήμης και πολύ κοντά στην πραγματικότητα.
Ο Γκάρι Μάρκους (Gary Marcus) είναι ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης και ένας από τους πιο γνωστούς bloggers γύρω από ζητήματα Τεχνητής Νοημοσύνης (ΤΝ). Μια από τις τελευταίες του αναρτήσεις έχει τίτλο: «Γιατί ανησυχούν οι πρώην υπάλληλοι της OpenAI». Πρόκειται για ένα άρθρο-ανάρτηση στο οποίο υπάρχουν όχι μόνο ανώνυμες αλλά και επώνυμες αναφορές για τα όσα φιλοδοξεί να πετύχει η τόσο διάσημη αλλά και τόσο μυστικοπαθής εταιρεία OpenAI. Ο Marcus μίλησε με τρεις παραιτηθέντες εργαζομένους της εταιρείας, ο ένας εκ των οποίων, ο Γουίλιαμ Σόντερς (William Saunders) τόλμησε να μιλήσει επωνύμως (όπως γνωρίζουμε από την επιδημία περιέργων θανάτων whistleblowers της Boeing δεν είναι καθόλου απλή υπόθεση να μιλήσεις για τα ενδότερα μιας τόσο μεγάλης εταιρείας).
Τα τρία βασικότερα σημεία από όσα εκμυστηρεύτηκε στον Marcus είναι τα εξής: «Η τρέχουσα τεχνητή νοημοσύνη δεν είναι τόσο τρομακτική, αλλά η μελλοντική τεχνητή νοημοσύνη μπορεί να γίνει πολύ τρομακτική. Δεν ξέρουμε πότε θα συμβεί αυτό, αλλά δεν είμαστε προετοιμασμένοι γι’ αυτό… Η εσωτερική διακυβέρνηση είναι καίριας σημασίας· Δεν πρέπει να είναι μόνο ένα άτομο στην κορυφή μιας εταιρείας που κάνει κουμάντο για όλη την ανθρωπότητα. Καταρχήν, οι σημαντικές αποφάσεις, ενδεχομένως ακόμη και οι αποφάσεις που καθορίζουν ποια είναι τα είδη (εννοεί ευφυών όντων, σ.τ.μ.) θα μπορούσαν να ληφθούν από ένα μόνο άτομο, είτε στην OpenAI, είτε αλλού. Θα πρέπει επίσης να υπάρχει ένας ρόλος για την εξωτερική διακυβέρνηση: οι εταιρείες δεν θα πρέπει να είναι σε θέση να λαμβάνουν αποφάσεις δυνητικά τεράστιου μεγέθους μόνες τους· Τα εξωτερικά συμβουλευτικά όργανα θα πρέπει να έχουν ισχυρό λόγο στη στάθμιση των κινδύνων έναντι των οφελών».
Τι μας λένε με άλλα λόγια άνθρωποι οι οποίοι υπηρετούσαν μέχρι προσφάτως το μοντέλο της εταιρειοκρατικής διακυβέρνησης των νέων τεχνολογιών;
Πρώτον, ότι κάποιες από τις δυστοπικές προβλέψεις της επιστημονικής φαντασίας είναι πιθανό να πραγματοποιηθούν. Δεν ξέρω για εσάς αλλά δε νιώθω πολύ άνετα έστω και με ένα σχετικώς μικρό ποσοστό πιθανολόγησης μιας αντί-ανθρώπινης μετά-ανθρώπινης κοινωνίας ή με κάποιου είδους Terminator ή Matrix ή ακόμα και με ένα ολιγαρχικώς ελεγχόμενο, «πανοπτικό» διαδίκτυο των πάντων.
Δεύτερον επιβεβαιώνει για άλλη μια φορά την ανάλυση του Μαρκούζε περί τεχνολογίας. Η τεχνολογία δεν είναι ένα ουδέτερο «μέγεθος», ένα άθροισμα τεχνικών αλλά φέρει τη «σφραγίδα» του οικονομικού και κοινωνικού μοντέλου μέσα στο οποίο εξελίσσεται. Σήμερα, δεν μπορεί παρά να φέρει τη σφραγίδα, να είναι στην πραγματικότητα τμήμα του ανεξέλεγκτου εταιρειοκρατικού, ολιγαρχικού- ολιγοπωλιακού καπιταλισμού.
Στα ενδότερα των γιγάντιων αυτών εταιρειών, εταιρειών οι οποίες εν πολλοίς αξιοποιούν τα δικά μας συλλογικά δεδομένα για να πατεντάρουν προϊόντα διάνοιας και πνευματικές διεργασίες (κάτι απαράδεκτο με βάση την ίδια την καπιταλιστική λογική και δίκαιο περί πνευματικής ιδιοκτησίας)επικρατεί μια κουλτούρα και πρακτικές αυθαιρεσίας, απόλυτης ισχύος του ενός ή λίγων και επομένως απόλυτης διαφθοράς. Διαφθοράς όχι ίσως και πάντα με την έννοια που την εκλαμβάνουμε στα καθ’ ημάς αλλά με τη βαθύτερη έννοια της αντικοινωνικής συμπεριφοράς.
Χρειάζεται επομένως να εισέλθουν και άλλοι παράγοντες στο «παιχνίδι». Παράγοντες μιας όντως δημοκρατικής διακυβέρνησης των νέων τεχνολογιών, οι οποίοι θα ελέγξουν τα ενδότερα των ολιγοπωλίων. Μόνο που όπως αποδεικνύεται ξανά και ξανά, κάτι τέτοιο είναι ανέφικτο στον καπιταλισμό (τουλάχιστον της παρούσας φάσης). Αν δε, κάποτε κάποια βήματα ελέγχου των εταιρειών γίνονται, συνήθως αποδεικνύονται πολύ μικρά και έρχονται πολύ αργά, αφού τα ολιγοπώλια έχουν διασφαλίσει επαρκή «παράθυρα» αποφυγής των όποιων ρυθμίσεων.
Το άλλοθι είναι ο παγκόσμιος ανταγωνισμός και εν προκειμένω κυρίως με την Κίνα, ο οποίος υποτίθεται ότι απαιτεί λιγότερες ή και καθόλου ρυθμίσεις. Η πραγματικότητα συνίσταται στο ότι το σύστημα ιδίως στις ΗΠΑ αλλά όχι μόνο σε αυτές είναι απολύτως σάπιο και επομένως οι όποιοι έλεγχοι είναι είτε ανύπαρκτοι, είτε εν πολλοίς «χάρτινοι». Τα λεφτά των ολιγοπωλίων είναι πάρα πολλά, τα λόμπι τους πανίσχυρα και η ταχύτητα της τεχνολογικής εξέλιξης πολύ γρήγορη.
Για να καταλάβουμε περίπου για ποιο πράγμα συζητούμε ως διακύβευμα ας φανταστούμε το σχέδιο «Μανχάταν» και την πυρηνική βόμβα να ήταν ιδιωτικά σχέδια και ιδιοκτησία κάποιας εταιρείας. Τώρα ας προσπαθήσουμε να σκεφτούμε την πιθανότητα μιας ιδιωτικής ιδιοκτησίας πυρηνικής βόμβας, η οποία όμως θα μπορεί μέχρι ενός σημείου να σκέφτεται. Θα αφήναμε μια τέτοια πιθανότητα στα χέρια ενός CEO ή μιας χούφτας «συναδέλφων» του; Ή για να το θέσουμε με πιο άμεσα σημερινούς όρους: νιώθουμε άνετα με το να αποφασίσουν «ελίτ», λόμπι, ομάδες ανθρώπων που συντηρούν μια γενοκτονία (στην Παλαιστίνη) και φλερτάρουν με έναν πυρηνικό πόλεμο (στην Ουκρανία) για το αν θα υπάρξει υπέρ-ευφυής ΤΝ, όπως και για το αν θα διατηρήσει την πρωτοκαθεδρία του το ανθρώπινο είδος στο μέλλον και με ποιο τρόπο;
Ο καπιταλισμός «παίζει» πλέον με την ύπαρξη του ανθρωπίνου είδους. Για την ακρίβεια και σε μεγάλο βαθμό, κάποιοι αντικοινωνικοί τύποι στους πάνω ορόφους εταιρειών έξω από τις οποίες δε θα περάσει ποτέ το συντριπτικώς μεγαλύτερο τμήμα της ανθρωπότητας μαζί με τους «ανθρώπους» τους στα ενδότερα του κρατικού- πολιτικού συστήματος εξουσίας. Το πόσο δυστοπικό είναι όλο αυτό μπορούμε να το δούμε ακόμα και στις όχι και τόσο «βαθιές» παραγωγές των πλατφορμών streaming. Δεν είναι καθόλου καλή ιδέα να τα παραγνωρίζουμε όλα αυτά.
