Πριν λίγες ημέρες έτυχε να βρίσκομαι στο reddit διαβάζοντας συζητήσεις σχετικά με «τη δημιουργικότητα της Τεχνητής Νοημοσύνης», τη «δημιουργική γραφή» κλπ. Είχα την απορία να δω αν διάφοροι χρήστες είχαν εντοπίσει τα όρια αυτής της «δημιουργικής γραφής» μέσω μοτίβων τα οποία μπορεί να αναπαράγει η ΤΝ κατά την παραγωγή λόγου. Το μάτι μου έπεσε σε μια δημοσίευση σχετικά με μια φοιτητική εργασία που κόπηκε από καθηγητή, επειδή ο τελευταίος έκανε χρήση εφαρμογής εντοπισμού ΤΝ, με το αποτέλεσμα να βγάζει πιθανότητα χρήσης 85%.
Πάω λοιπόν και ‘γω να τσεκάρω τι διάολο είναι αυτή η εφαρμογή. Στέλνω δυο μηνύματα αντιγραφή-επικόλληση από το Chatgpt: 100% ΤΝ μου βγάζει. Μάλιστα, λέω. Δοκιμάζω να το τεστάρω λίγο περισσότερο γράφοντας 3-4 δικές μου παραγράφους και ‘κει τα νερά αρχίζουν να θολώνουν. Δεν φαίνεται να μας τα λέει καλά.
Έπειτα λέω να δοκιμάσω να κάνω ένα πείραμα, οπότε και του στέλνω 5 διαδοχικά μηνύματα: το ένα είναι από ένα μικρό διήγημα του Γ. Γκίμπσον, το δεύτερο ένα δικό μου (γραμμένο το 2020), το τρίτο ένα απόσπασμα από το «Υλισμός και Εμπειριοκριτικισμός», το τέταρτο ένα απόσπασμα από το manga «Ghost in the shell: Standalone complex» και το 5ο είναι 5 παράγραφοι γραμμένοι από το chatgpt και πειραγμένοι (σε επίπεδο μικρής χειρουργικής επέμβασης από μένα). Το αποτέλεσμα είναι σοκαριστικό: Γκίμπσον 60%, Υλισμός και εμπειριοκριτικισμός 45%, GiTS – SAC: 74%, το δικό μου διήγημα: 40%, το κείμενο του chatgpt: 50%. Όλα αυτά πιθανότητες χρήσης ΤΝ. Δεν λέω, ίσως θα ‘χε πλάκα αν το ChatGPT είναι στην πραγματικότητα ο Wintermute – η μία ΤΝ από τον «Νευρομάντη», αλλά δίνω χαμηλές πιθανότητες να συμβαίνει κάτι τέτοιο.
Σύμφωνα με όσα διάβασα και παρατήρησα, απ’ ό,τι καταλαβαίνω, κάθε τέτοια εφαρμογή χρησιμοποιεί ορισμένα μοτίβα όπως: καλή ροή κειμένου, επίπεδο λογοτεχνικότητας, ομαλότητα-χαοτικότητα, τσιτάτα-θεωρία. Κατανοητό ως εδώ, μια ΤΝ δεν θα μπορούσε να λειτουργεί χωρίς στατιστικά, γλωσσικά και υφολογικά μοτίβα. Ο ανθρώπινος νους επίσης αναγνωρίζει και οργανώνει μοτίβα -αν και πιο με πιο περίπλοκο τρόπο- δίχως όμως η επεξεργασία να ταυτίζεται με την συνείδηση, την κρίση και την σκέψη ως κοινωνικά και ιστορικά παράγωγα.
Το πρόβλημα λοιπόν ξεκινά, όταν αυτά τα μοτίβα θεωρούνται αυθαίρετα ως απόδειξη/πιθανολογούμενη χρήση τεχνητής νοημοσύνης: Η εφαρμογή π.χ. θεωρεί ότι ένα ανθρώπινο κείμενο συνήθως είναι πιο χαοτικό σε σύγκριση με ένα κείμενο τεχνητής νοημοσύνης. Αυτό μπορεί να ισχύει μερικές φορές αλλά όχι πάντα. Υπάρχουν συγγραφείς πολύ πιο ομαλοί και λογοτεχνικοί και υπάρχουν παράγραφοι γραμμένοι από ΤΝ που είναι σκέτο χάος, βία και αναρχία. Αν δηλαδή έστελνα απόσπασμα από κείμενο του Τολστόι τι ποσοστό χρήσης ΤΝ θα μου έβγαζε;
Μάλιστα, σε ανακοίνωση του East Central College, εφιστάται προσοχή με τη χρήση τέτοιων εφαρμογών καθώς, όπως επισημαίνουν, οι εφαρμογές ανίχνευσης χρήσης ΤΝ έχουν χαρακτηρίσει αποσπάσματα της Βίβλου και του Αμερικανικού Συντάγματος «ως κείμενα παραγωγής ΤΝ» και επίσης δίνουν ψηλά ποσοστά χρήσης ΤΝ σε φοιτητές των οποίων η μητρική γλώσσα δεν είναι τα αγγλικά -άρα και τα γλωσσικά μοτίβα τους είναι πιο επαναλαμβανόμενα λόγω έλλειψης (σε σχέση με τους αγγλόφωνους πάντα) πλούσιου λεξιλογίου.
Πρόσφατες μελέτες μάλιστα έρχονται να ενισχύουν την επιχειρηματολογία κατά του τεχνοφετιχισμού, αποδεικνύοντας ότι τα παραπάνω προβλήματα των ανιχνευτών χρήσης ΤΝ είναι δομικά. Για να έχει πρακτική ισχύ μια τέτοια εφαρμογή θα πρέπει να πετιούνται κάτω από το χαλί οι ψευδείς αξιολογήσεις, ειδικά όταν τα ανθρώπινα κείμενα είναι ποικίλα και αλληλεπικαλύπτονται στατιστικά με παράγωγα των ΤΝ. Επιπλέον η μελέτη υποστηρίζει ότι δεν πρόκειται για απλά bugs που θα λυθούν με καλύτερο engineering. Άρα ορισμένοι πάνε να πουλήσουν αντικειμενικότητα και βεβαιότητα σε πεδίο όπου η ίδια η δομή παράγει αβεβαιότητα.
Εδώ μάλλον χρειάζεται να επισημάνω το εξής: δεν είμαι καθόλου κατά της ΤΝ και της χρήσης της, αντιθέτως τη θεωρώ πολύ καλό εργαλείο το οποίο με την κατάλληλη και σωστή χρήση δύναται να βελτιώσει τις ζωές όλων μας. Όμως η ΤΝ είναι μια τεχνολογία, προϊόν επιστημονικής μελέτης και ανάπτυξης και δεν μπορούμε να την δούμε εκτός των δομών και σχέσεων στις οποίες αυτή παράγεται και μπαίνει σε λειτουργία. Στο σημερινό τεχνοκρατικό καπιταλισμό, η τεχνολογία – εν προκειμένω η ΤΝ – τείνει να παρουσιάζεται ως το πραγματικό υποκείμενο, μειώνοντας τον άνθρωπο σε εξάρτημά της, ως «ομιλούν εργαλείο». Στην πραγματικότητα βέβαια, πίσω από τη μηχανή κρύβονται ανθρώπινες σχέσεις και κοινωνικές δομές.
Γελάω εν τω μεταξύ με τη φετιχοποίηση αυτής της τεχνικής αυθεντίας, καθώς στο μυαλό μου έρχεται κατευθείαν το «Μυστικό του μαύρου κουτιού», γραμμένο κατά τη δεκαετία του ‘60 από το Έβαλντ Ιλιένκοφ. Σ’ αυτό το δοκίμιο, ο Ιλιένκοφ βαρά και πετυχαίνει νεύρο: μια μηχανή παρουσιάζεται σαν να κατέχει την αλήθεια, όταν όμως τις δίνονται πραγματικές αντιφάσεις σωπαίνει. Στο τέλος του έργου, (spoiler alert), το ίδιο το κουτί αποδεικνύεται πως είναι άδειο μεν, μα ακόμα κι έτσι, η σιωπή του παρερμηνεύεται ως σοφία.
Άλλο ένα επίκαιρο έργο είναι η ιαπωνική σειρά anime με τίτλο Psycho Pass. Αυτή η σειρά απεικονίζει μια μελλοντική τεχνοκρατική δυστοπία, όπου ένα αλγοριθμικό σύστημα (Sybil System) αξιολογεί τους ανθρώπους βάσει ενός δείκτη που ονομάζεται Psycho Pass και όλη η ζωή μετατρέπεται σε έναν αγώνα για να διατηρηθεί αυτός ο δείκτης σε ορισμένα επίπεδα. Αν τα ξεπεράσει διώκεται νομικά, ασχέτως αν έχει εγκληματίσει ή όχι. Σημασία έχει μόνο το τι λέει ο δείκτης και το αντικειμενικότατο αλγοριθμικό σύστημα που κυβερνά την Ιαπωνία. Ο Ιλιένκοφ ξεκινά τον χορό σατυρίζοντας το είδωλο της μηχανικής νοημοσύνης και το Psycho Pass έρχεται να μας δείξει πως αυτό γίνεται σύστημα διακυβέρνησης.
Οι ομοιότητες με την κατάσταση που περιγράφηκε παραπάνω είναι εμφανείς: το Μαύρο Κουτί λειτουργεί ως μηχανή που λύνει τα πάντα, το Sibyl System θεωρείται αδέκαστο και καταδικάζει βάσει αλγοριθμικών μετρήσεων, ενώ οι εφαρμογές ανίχνευσης ΤΝ βγάζουν ένα στατιστικό πόρισμα που παρουσιάζεται ως αντικειμενική κρίση για την προέλευση του κειμένου. Πίσω όμως απ’ όλα αυτά κρύβονται ανθρώπινες κρίσεις. Μπορεί ο καθηγητής να λέει κάτι του τύπου το πρόγραμμα αυτό το πόρισμα έβγαλε» και ο αστυνομικός στο Psycho Pass να δικαιολογεί μια εκτέλεση ως «απόφαση του αλγοριθμικού συστήματος», αυτά όμως δεν είναι παρά δικαιολογίες για την απο-ηθικοποίηση της εξουσίας και την παρουσίασή της ως απλή τεχνική διαδικασία. Στην πραγματικότητα κάθε απόφαση είναι ανθρώπινη απόφαση με ανθρώπινες συνέπειες.
Εν τέλει λοιπόν, οφείλουμε να κάτσουμε να σκεφτούμε τα εξής: ο Ιλιένκοφ στο έργο του μας δείχνει πως γεννιέται ένα είδωλο, το Psycho Pass πως κυβερνά το είδωλο και η περίπτωση των εφαρμογών ανίχνευσης χρήσης ΤΝ πως αυτό το είδωλο εντάσσεται στην καθημερινή γραφειοκρατία με απρόβλεπτες συνέπειες. Εντός ενός συστήματος που δεν παράγει απλά ανισότητες, αλλά δεν μπορεί να επιβιώσει δίχως αυτές, η χρήση ενός τέτοιου εργαλείου και για τέτοιους σκοπούς θα κατορθώσει να τις εντείνει και ταυτόχρονα να ξεπλένει τα χέρια αυτωνών που πήραν την απόφαση, μέσω της μεταφοράς της ευθύνης στο εργαλείο που υποτίθεται πως είναι υπεύθυνο για το τελικό πόρισμα. Εδώ το πρόβλημα, όπως ανέφερα και παραπάνω, δεν είναι το εργαλείο αλλά το χέρι που το κρατά, οι σχέσεις και οι δομές που το έκαναν να εξυπηρετεί τέτοιους σκοπούς.
Η χρήση ΤΝ ως προϊόν μιας ήδη απανθρωποποιημένης εκπαίδευσης
Θα ήταν όμως λάθος να ισχυριστούμε ότι μια τέτοιου τύπου χρήση της ΤΝ στην εκπαίδευση ήρθε από το μηδέν, ή από «τεμπέληδες φοιτητές». Ήδη από παλαιότερα υπήρχαν πολλές περιπτώσεις «εργασιών επί πληρωμή» όπου ένας φοιτητής ανέθετε την διεκπεραίωση στην εργασία του σε έναν τρίτο. Αντίστοιχα παραδείγματα είναι οι αντιγραφές εργασιών, τυχόν σκονάκια και σημειώσεις στις εξεταστικές και λοιπά. Ουσιαστικά η ΤΝ δεν εφηύρε την ανάθεση εργασιών, παρά την μαζικοποίησε. Αν το ghost-writing μπορούσε να παρομοιαστεί με τους βιοτέχνες του 18ου και 19ου αιώνα, τότε η ΤΝ είναι σίγουρα οι βιομηχανίες της Βικτωριανής Βρετανίας οι οποίες παράγουν μαζικά, χαμηλού κόστους και αξίας προϊόντα. Αντί ο φοιτητής να χρυσοπληρώνει ghost-writers, φτιάχνει την εργασία τζάμπα στο ChatGPT.
Τίθεται πρόβλημα «κακών φοιτητών»; Δεν θα το έλεγα, ή τουλάχιστον όχι στον βαθμό που το αντιμετωπίζει ως σοβαρό πρόβλημα η ακαδημαϊκή κοινότητα. Μια σωστή και ανθρωποκεντρική εκπαιδευτική μέθοδος δεν θα εστίαζε τόσο στο αποτέλεσμα, στο σύμπτωμα, αλλά στην αιτία-ασθένεια που το προκαλεί.
Σε ένα σύστημα που παράγει και ζει με ανισότητες, δομείται ένα πεδίο πιέσεων και κινήτρων ευνοεί μια σχέση με την γνώση, που σε απλά ελληνικά θα μπορούσε να μεταφραστεί κάπως έτσι: «θα μπω σε μια καλή σχολή, θα τελειώσω νωρίς, θα βρω μια καλή δουλειά». Μια τέτοια σχέση με την εκπαίδευση καλλιεργεί και μια νοοτροπία της ίδιας της εκπαιδευτικής διαδικασίας ως προθαλάμου προς την αγορά εργασίας, ως ένα αναγκαίο εμπόδιο πριν τον τελικό στόχο, την ταξική/βιοτική αναβάθμιση. Δεν είναι άλλωστε τυχαίο ότι πολλοί φοιτητές θα επιλέξουν μια σχολή βάσει πιθανοτήτων ταξικής αναβάθμισης, απορρόφησης και απολαβών εντός της αγοράς εργασίας και όχι βάσει προσωπικού γούστου και πάθος, δίχως φυσικά να αποκλείω τέτοιες περιπτώσεις. Καθώς όμως το ίδιο το σύστημα ευνοεί την παραπάνω σχέση, καταλήγει να μετατρέπει την εκπαιδευτική διαδικασία σε μια τυποποιημένη γραμμή παραγωγής η οποία χαρακτηρίζεται από: διαλέξεις, σημειώσεις, εργασίες, εξεταστικές πριν το τελικό προϊόν βγει στην αγορά. Αν προχωρήσει ο φοιτητής και σε κάποιο μεταπτυχιακό ή διδακτορικό τότε καλύτερα για τον ίδιο: η μεταποίηση φέρνει αυξημένη αξία και τιμή στο τελικό προϊόν.
Αυτό το φαινόμενο οδηγεί και στην αποξένωση του ίδιου του φοιτητή από το αντικείμενο των σπουδών του. Δεν βλέπει την γνώση ως στόχο για τον οποίο πρέπει να δράσει ενεργά, ούτε μελετά για να εξελίξει το επίπεδο της συνείδησής του. Το αστείο δε, είναι ότι οι επιχειρηματίες κατηγορούν τα πανεπιστήμια για παραγωγή ανθρώπων, ασχέτων από την πρακτική εφαρμογή του αντικειμένου το οποίο σπούδασαν. Το ίδιο το σύστημα αναπτύσσει μια εκπαίδευση – αντανάκλαση των παραγωγικών σχέσεών του και προσαρμοσμένη στις ανάγκες του και έπειτα κατηγορεί την εκπαίδευση ότι παρήγαγε προϊόντα αντίστοιχα του συστήματος.
Μια άλλη, χειρότερη περίπτωση αποξένωσης είναι αυτή από τους ίδιους τους συμφοιτητές του, κάτι που ήδη συμβαίνει αλλά υπάρχει κίνδυνος να επιταχυνθεί. Όταν η εκπαιδευτική διαδικασία μετατρέπεται σε εργοστασιακή γραμμή παραγωγής και ο φοιτητής από ενεργό υποκείμενο σκέψης σε διαχειριστή tasks και απαιτήσεων με χρονικό περιθώριο, θα μειωθεί η δημιουργικότητα, η συλλογική μάθηση, η σύγκρουση απόψεων και ιδεών και θα αντικατασταθούν από ατομικές, βιομηχανικού-τύπου εργασίες που απλά θα παραδίδονται περιμένοντας αξιολόγηση. Πολλές φορές δίχως καν να ελέγχονται για επεξεργασία προ της παράδοσης.
Για μια ανθρωποκεντρική εκπαίδευση
Βέβαια, επειδή στο σύστημα των ανισοτήτων και αντιθέσεων οι λύσεις πάντα είναι πασαλείμματα που επιχειρούν να λύσουν ένα πρόβλημα (επιφανειακά) δημιουργώντας άλλα τόσα, είναι λογικό ότι το μυαλό των γραφειοκρατών-διαχειριστών δεν θα πάει πιο μακριά από την απαγόρευση της χρήσης ΤΝ. Φαντάζομαι ότι δεν θα τους περάσει καν η σκέψη ότι ένα τέτοιο μπορεί να έχει τα αντίθετα αποτελέσματα: να προσαρμόσει τους φοιτητές στη νέα συνθήκη, οδηγώντας τους στην αποτελεσματικότερη επεξεργασία των εργασιών που παράγει η ΤΝ, παρακάμπτοντας έτσι την Άγια Πιστοποίηση του Sibyl Syst…εεε, εννοώ της εφαρμογής ανίχνευσης χρήσης ΤΝ και του ίδιου του καθηγητή. Τρελό ε; Κι όμως πιθανότατο.
Εκτός από πιθανό, είναι και λογικό. Όταν κύριο αντικείμενο της αξιολόγησης είναι το τελικό προϊόν, ο φοιτητής θα εστιάσει εκεί πέρα και όχι στην ίδια την διαδικασία παραγωγής, όπου αυτή ακριβώς είναι που τον εξελίσσει και βελτιώνει την μέθοδο σκέψης και κρίσεις του, μέσα από τις σημειώσεις, τα πρόχειρα, τις διορθώσεις και την επανάληψη έρευνας. Ως πρώτο βήμα λοιπόν, μια σωστή αξιολόγηση θα πρέπει να περιλαμβάνει και ανάλυση της παραγωγικής διαδικασίας, όχι μόνο του τελικού προϊόντος. Ο φοιτητής θα πρέπει να παρουσιάζει και ένα φάκελο με drafts που έλαβαν χώρα κατά την παραγωγή της εργασίας του, σχολιάζοντας τι άλλαξε και για ποιο λόγο.
Κατά δεύτερον, η προετοιμασία εργασιών θα πρέπει να λαμβάνει χώρα εντός των διαλέξεων. Χωρισμένοι σε ομαδάκια, με ρόλους σε rotation και διαδραστικές ασκήσεις, οι φοιτητές θα έρχονται σε αλληλεπίδραση και αντιπαράθεση μεταξύ τους, εκπαιδευόμενοι όχι απλά στο αντικείμενο των σπουδών τους αλλά και στην ίδια την συλλογική και ομαδική παραγωγική έργου. Η ίδια η αντιπαράθεση μπορεί να γίνει κινητήριος δύναμη βελτίωση και εξέλιξης του ατομικού και συλλογικού επιπέδου λόγου και επιχειρημάτων. Μια τέτοια προπαρασκευαστική δουλειά στρώνει τον δρόμο για μετεξέλιξή της στο σπίτι ή στην καφετέρια, όπου δουλεύεται η εργασία.
Κατά τρίτον, η παρουσίαση να είναι δημόσια και να περιλαμβάνει αλληλεπίδραση των φοιτητών τόσο με τον καθηγητή όσο και με τους συμφοιτητές τους, οι οποίοι μπορούν να συμβάλουν με ερωτήσεις και παρατηρήσεις αναπτύσσοντας μια καλύτερη κατανόηση για όλους όσον αφορά την παραγωγική διαδικασία εν συνόλω και την φυσικά την θέληση για μάθηση.
Τέταρτον, η ΤΝ να ενσωματωθεί στην εκπαιδευτική διαδικασία αλλά υπό όρους. Πρόκειται για ένα εξαιρετικό εργαλείο που διαρκώς βελτιώνεται και μπορεί να σώσει χρόνο κατά την διάρκεια έρευνας και οργάνωσης της εργασίας και των drafts. Συνδυαστικά με τα παραπάνω, η ΤΝ μπορεί να μετατραπεί σε προσωπικό βοηθό του φοιτητή όπου θα τον βοηθά, δίχως να τον υποκαθιστά όμως ως ενεργό και δρων υποκείμενο.
Πέμπτον, η αξιολόγηση θα πρέπει να έχει ως στόχο την βελτίωση του ίδιου του φοιτητή και την καλλιέργεια ενός πάθους για μάθηση, όχι την ανάπτυξη άγχους για κακό βαθμό ή την ικανοποίηση της αγοράς εργασίας βάσει του αντικειμένου των σπουδών. Εάν αυτή η κατάσταση συνεχιστεί τότε πολύ απλά θα μαζικοποιηθούν και οι έξυπνοι «παραβάτες» που η καλλιέργεια γνώσης τους θα αφορά την παράκαμψη των φίλτρων των εφαρμογών ανίχνευσης ΤΝ.
Ουσιαστικά αυτό που χρειάζεται η εκπαίδευση είναι να γίνει ανθρωποκεντρική και να αλλάξει στοχοθεσία. Κάτι τέτοιο δεν είναι εύκολο, δεδομένης της σύνδεσης της εκπαίδευσης με την αγορά (και συνεπώς τις υπάρχουσες σχέσεις παραγωγής) όμως ένας τέτοιος αγώνας πρέπει και αξίζει να δοθεί εάν δεν θέλουμε τα πανεπιστήμια να μετατραπούν εξ’ ολοκλήρου σε εργοστάσια.
