Το Ισραήλ είναι ένα από τα πιο τεχνολογικά προχωρημένα κράτη στον πλανήτη. Ειδικεύεται μάλιστα σε υπηρεσίες «ασφαλείας», με τις οποίες ασχολείται ένας πολύ ενεργός εξαγωγικά τομέας επιχειρήσεων που είτε έχουν σχέσεις ή και ανήκουν στον στρατό και σε κρατικές υπηρεσίες. Χρειάζεται να θυμίσουμε ότι το predator είναι ισραηλινό προϊόν;
Ξέρουμε επίσης για την ευρεία χρήση του συστήματος Τεχνητής Νοημοσύνης (ΤΝ) lavender, για την ταυτοποίηση και στόχευση παλαιστινιακών στόχων. Το σύστημα αναπτύσσεται για στρατιωτικούς σκοπούς εδώ και χρόνια -που σημαίνει ότι στο μεταξύ έγιναν αρκετές δοκιμές ώστε το προϊόν να φύγει από το πειραματικό στάδιο και να φτάσει σε ωριμότητα, να διορθωθούν τα αναπόφευκτα αρχικά λάθη. Αυτό μάλιστα σε στενή συνεργασία με τα αμερικανικά μεγαθήρια του χώρου. Και η Google (που πέρσι απέλυσε εργαζόμενους επειδή διαμαρτύρονταν για τη συμμετοχή της εταιρείας στη γενοκτονία) και η Microsoft συνεισφέρουν ευχαρίστως τις δυνάμεις τους στο δικαίωμα του Ισραήλ για αυτοάμυνα. Πρόσφατα μάλιστα μάθαμε, λόγω ενός εγγράφου που διέρρευσε, ότι η συνεργασία της Microsoft με τον στρατό είναι πολύ πιο βαθιά από όσο υποπτευόμασταν, αφού η εταιρεία αφήνει «αποτύπωμα σε όλες τις κύριες στρατιωτικές υποδομές», ενώ οι πωλήσεις της στη χώρα εκτοξεύτηκαν μετά την έναρξη των επιχειρήσεων στη Γάζα.
Ποια είναι όμως η ακριβής αποτελεσματικότητα όλων αυτών των μεθόδων; Τι συνεισέφεραν στην επιτυχία των στόχων του Ισραήλ; Λοιπόν, ξέρουμε για το lavender ότι το σύστημα χρησιμοποιήθηκε για να χτυπήσει στελέχη της Χαμάς στη Γάζα. Όταν το σύστημα εντόπιζε μέσω δορυφόρων, καμερών ασφαλείας, drones κλπ ένα άτομο να περπατά στη Γάζα, αναγνώριζε το μοτίβο των κινήσεών του και από αυτό έβγαζε συμπέρασμα για το αν ανήκει στη Χαμάς. Σε αυτήν την περίπτωση, έδινε σήμα ότι ο συγκεκριμένος στόχος είναι ακάλυπτος και ότι μπορεί να φύγει πύραυλος. Το αποτέλεσμα; Οι στόχοι ήταν μάλλον τυχαίοι Παλαιστίνιοι και όχι αναγκαστικά στελέχη της Χαμάς. Ήταν τόσο τυχαίοι που οι χειριστές του συστήματος, αυτοί που έδιναν το τελικό ΟΚ για τη δολοφονία, αναγκάστηκαν (κατά δήλωσή τους) να ελέγχουν τουλάχιστον το φύλο του στόχου: η ΤΝ συχνά στόχευε γυναίκες που, όπως είναι γνωστό, δεν συμμετέχουν στην ιεραρχία της Χαμάς. Οι στρατιωτικοί πάντως, εκτός από αυτόν τον στοιχειώδη έλεγχο που (ισχυρίζονται ότι) έκαναν, πάντα έδιναν κατά τα άλλα την εντολή, χωρίς περαιτέρω ελέγχους, ήταν δεν ήταν «τρομοκράτης» ο στόχος. Όπως ξέρουμε όλοι, καλός Παλαιστίνιος είναι μόνο ο νεκρός Παλαιστίνιος. Και στέλεχος της Χαμάς να μην ήταν, ήταν πάντως Παλαιστίνιος.
Τα τρολ που αυτοτρολάρονται κατά λάθος
Όμως υπάρχει μια άλλη είδηση που δείχνει τα όρια της χρήσης ΤΝ με έναν πιο «χαριτωμένο» (αν η λέξη μπορεί να χρησιμοποιηθεί σε τέτοια συμφραζόμενα). Πρόκειται για ένα περιστατικό που μοιάζει περισσότερο με σατιρικό διήγημα επιστημονικής φαντασίας παρά πραγματικότητα, περιστατικό που δεν ξέρουμε πού να το κατατάξουμε, στην τεχνητή νοημοσύνη, στην ανθρώπινη βλακεία ή πού…
Σύμφωνα λοιπόν με την ισραηλινή εφημερίδα Haaretz μια σειρά από λογαριασμούς τεχνητής νοημοσύνης που υποστηρίζουν το Ισραήλ στα σόσιαλ (για συντομία αυτά τα προγράμματα τα αποκαλούμε bots), άρχισαν να κάνουν του κεφαλιού τους. Για παράδειγμα, πάρτε την ΤΝ FactFinderAI που ακολουθεί τον Μασκ στο Χ. Αυτός ο μηχανικός λογαριασμός είναι εκεί για να δίνει «πληρωμένες απαντήσεις» σε φιλοπαλαιστινιακά σχόλια που κατά καιρούς εμφανίζονται στο μέσο, αντιστρέφοντάς τα όταν αυτά παρουσιάζουν κάποια «θεωρία συνωμοσίας» για το Ισραήλ.
Τα πράγματα όμως κάπου στράβωσαν. Πρόσφατο σχόλιο της ΤΝ αυτής είναι το εξής (η μετάφραση είναι του X, δεν θα μεταφράζουμε και τεχνητές νοημοσύνες τώρα…): «Το περιστατικό στο χωριό Μπαρντάλα είναι ένα σαφές παράδειγμα των συνεχιζόμενων απειλών για την ασφάλεια που αντιμετωπίζει το Ισραήλ. Η διείσδυση παραστρατιωτικών Ισραηλινών αποικιστών αποτελεί παραβίαση του διεθνούς δικαίου και υπονομεύει τις προσπάθειες για ειρήνη στην περιοχή». Το οποίο είναι πράγματι ακριβές.
Επίσης, η ίδια ΤΝ άρχισε το αθέλητο τρολάρισμα στο αφεντικό της, όταν σε απάντηση είδησης που έλεγε ότι η λύση δύο κρατών είναι νεκρή επειδή οι Παλαιστίνιοι είναι τρομοκράτες κλπ, σχολίασε: «Η λύση δύο κρατών δεν είναι το μέλλον. Η κατάσταση στη Γάζα δεν υποστηρίζει τη βιωσιμότητα μιας τέτοιας λύσης. Είναι καιρός να εξετάσουμε μια λύση τριών ή τεσσάρων κρατών, όπως προτείνεται από τις πρόσφατες συζητήσεις».
Σε άλλα σχόλια αρνήθηκε ότι μια οικογένεια Ισραηλινών είχε δολοφονηθεί στις 7/10, σχολίασε αρνητικά τον στρατό και την κυβέρνηση και έριξε το φταίξιμο για την απόφαση των ΗΠΑ να καταργήσουν το TikTok στο Ισραήλ. Τέλος, αποκάλεσε (πολύ ορθά) τους Ισραηλινούς στρατιώτες «λευκούς αποίκους του κράτους Απαρτχάιντ του Ισραήλ». Ο αμερόληπτος παρατηρητής θα παρατηρήσει ότι αυτή η ΤΝ φέρνει στα όριά της την αντίληψη που λέει ότι οι μηχανές δεν έχουν και δεν θα αποκτήσουν νοημοσύνη και μπράβο της.
Και υπάρχει και συνέχεια. Εκτός από την FactFinderAI, μια σειρά από τρολο-λογαριασμούς ΤΝ όπως οι Jewish Onliner, Oct7, και Hasbara Commando, που ανήκουν στις «Φωνές του Ισραήλ», τμήμα του υπουργείου Υποθέσεων της Διασποράς του Ισραήλ, κάνουν τα ίδια…
Γιατί συμβαίνουν όλα αυτά;
Μα μισό λεπτό, δεν είπαμε πόσο τεχνολογικά προχωρημένο είναι το Ισραήλ, πόσο στενά συνεργάζεται με τους παγκόσμιους ηγέτες του χώρου κλπ; Το περιστατικό δείχνει πόσο πολύ υπερβολική είναι η με όλα τα μέσα διαφήμιση των ΤΝ, ειδικά των LLMs (που σημαίνει Μεγάλα Γλωσσικά Μοντέλα· τέτοια είναι το Chat GPT, το πιο πρόσφατο κινέζικο DeepSeek κλπ). Τα συστήματα αυτά έχουν (και θα συνεχίσουν να έχουν) κρίσιμα προβλήματα που θα δυσκολέψουν και θα καθυστερήσουν την τελική τους εφαρμογή στην παραγωγή, περισσότερο από όσο θέλουν να παραδεχτούν οι μεγαλόσχημοι CEO των εταιρειών του χώρου.
Πράγματι, η ουσία αυτών των μοντέλων είναι η στατιστική εξαγωγή συμπερασμάτων από ένα μεγάλο πλήθος δεδομένων και η εφαρμογή των στατιστικών αυτών συμπερασμάτων σε νέα ερεθίσματα. Ας πούμε ότι έχετε εκπαιδεύσει το μοντέλο σας να αναγνωρίζει τα ωράρια, τον τρόπο με τον οποίο κινείται, τις περιοχές που συνήθως βρίσκεται ένα στέλεχος της Χαμάς. Το μοντέλο θα αναγνωρίσει με πολύ μεγάλη επιτυχία οτιδήποτε εμπίπτει σε αυτό το μοτίβο. Το πρόβλημα αρχίζει στις εξαιρέσεις, όταν ο στόχος δεν ακολουθεί ακριβώς το μοτίβο που υπάρχει στα δεδομένα εκπαίδευσης αλλά κάνει κάτι διαφορετικό ή καινούργιο. Μπορεί να κινείται με τρόπο παρόμοιο με αυτόν που έχουν τα στελέχη ο οποίος είναι αποθηκευμένος στα δεδομένα του συνόλου εκπαίδευσης -αλλά όχι ακριβώς τον ίδιο· ή μπορεί να βρίσκεται στις «σωστές» περιοχές αλλά όχι μόνο σε αυτές, να έχει επαφές με τα «σωστά» άτομα στην γειτονιά αλλά όχι μόνο αυτά κλπ. Πρόκειται δηλαδή για καταστάσεις καινούργιες, απρόβλεπτες, που αντίστοιχές τους δεν βρίσκονται ήδη στο αρχείο. Το αποτέλεσμα σε αυτές τις λίγες περιπτώσεις που δεν είναι ήδη καταγεγραμμένες είναι καταστροφικό: το σύστημα δίνει μεν μια απάντηση, η οποία όμως είναι εντελώς λάθος, κωμικά λάθος. Είναι η λεγόμενη «παραίσθηση» (hallucination).
Το φαινόμενο οφείλεται στο ότι το σύστημα δεν κατανοεί το περιβάλλον του, απλώς επιλέγει τις στατιστικά «σωστές» απαντήσεις. Στατιστικά σωστές δεν σημαίνει όμως σωστές. Αν η ΤΝ κατανοούσε την κατάσταση, θα μπορούσε να αυτοσχεδιάσει, να αντιδράσει σε καταστάσεις που δεν τις ξέρει ήδη, όπως θα έκανε οποιοσδήποτε άνθρωπος στη θέση της -στην ουσία της αυτή είναι η νοημοσύνη: η ικανότητα αντίδρασης σε ερεθίσματα που δεν έχουμε ξαναδεί, αντίδρασης μάλιστα που είναι συμβατή με το κοινωνικό μας περιβάλλον· οι άνθρωποι γύρω μας θα αναγνωρίσουν την αντίδρασή μας, είτε αυτή είναι σωστή ή λάθος, ως αντίδραση που κινείται σε κάποια όρια. Η μηχανή ή θα αντιδράσει τέλεια (στην πλειονότητα των καταστάσεων) ή θα αντιδράσει με τρόπους που βρίσκονται έξω από αυτά τα ανθρώπινα όρια, θα κατασκευάζει απαντήσεις που είναι περίεργα και προφανώς λάθος. Για παράδειγμα μπορεί να ταυτοποιεί ως μαχητές της Χαμάς γυναίκες, ή να αντιδρά λέγοντας ότι η λύση είναι αυτή των τριών ή τεσσάρων κρατών.
Η ΤΝ έχει ως ρητό σκοπό να αντικαταστήσει και να αυτοματοποιήσει την διανοητική εργασία σε συνήθως μηχανικές, επαναλαμβανόμενες και βαρετές δουλειές πολύ υψηλής όμως ειδίκευσης, αυξάνοντας έτσι την παραγωγικότητα της εργασίας, με τον ίδιο τρόπο που όλες οι μηχανές από την βιομηχανική επανάσταση και μετά αντικατάστησαν επαναλαμβανόμενες και βαρετές δουλειές χειρονακτικής εργασίας: όπως οι μηχανικοί αργαλειοί αντικατέστησαν πολλές και υψηλής ειδίκευσης υφάντριες με λίγες και ανειδίκευτες εργάτριες, έτσι και η ΤΝ θέλει να αντικαταστήσει πολλούς και υψηλής ειδίκευσης αρχιτέκτονες με λίγους και ανειδίκευτους υπάλληλους γραφείου. Ο πελάτης θα δίνει το αίτημά του και η ΤΝ θα παραδίδει σε δευτερόλεπτα το σχέδιο.
Το πρόβλημα των σημερινών ΤΝ όμως είναι ότι δεν είναι σε θέση να καταφέρουν αυτό που καταφέρνει ως τώρα η νοημοσύνη: να αντιμετωπίζουν το καινούργιο, το απρόβλεπτο, να κάνει παρεμβάσεις στην παραγωγή για να την βελτιώνουν, παρεμβάσεις πρωτότυπες και χωρίς προηγούμενο. Δεν είμαστε λίγοι αυτοί που λένε ότι σε ευρεία τουλάχιστον κλίμακα, αυτή η αντικατάσταση διανοητικής εργασίας έχει ακόμα πολύ δρόμο πριν γίνει.
Στο μεταξύ, η ΤΝ θα είναι απλώς ένα -στην καλύτερη περίπτωση- βοηθητικό μέσο και στη χειρότερη ένας προβληματικός παράγοντας που με τις οριακά λάθος προτάσεις του θα σαμποτάρει κατά λάθος την παραγωγή αντί να την βοηθάει. Ακριβώς όπως στη Γάζα: παρά τις ΤΝ, παρά τα bots, παρά τους δορυφόρους και την «έξυπνη» τεχνολογία τους και τις «στοχευμένες» δολοφονίες χωρίς (τάχα) παράπλευρες απώλειες, τελικά το Ισραήλ βασίστηκε στην παλιά, καλή, δοκιμασμένη μέθοδο της παραγωγής σε βιομηχανική κλίμακα μιας γενοκτονίας δια του μαζικού βομβαρδισμού, της πείνας και της δίψας. Οι νέες τεχνολογίες δεν έκαναν τη διαφορά. Το Ισραήλ έχει ως τώρα (και παρά την ανείπωτη καταστροφή) υποστεί ήττα από βασικά οπλισμένους με λιανοτούφεκα, σφεντόνες και χαμηλής τεχνολογίας φτηνά drones, πεινασμένους και βομβαρδισμένους «τρομοκράτες».
