Ένα μη επανδρωμένο αεροσκάφος ελεγχόμενο από τεχνητή νοημοσύνη «σκότωσε» τον χειριστή του σε μια προσομοίωση δοκιμής που φέρεται να πραγματοποιήθηκε από τον αμερικανικό στρατό, ο οποίος αρνείται ότι πραγματοποιήθηκε ποτέ τέτοια δοκιμή.
Το drone «σκότωσε» τον χειριστή του για να τον σταματήσει από το να παρεμβαίνει στην αποστολή του, είπε ο συνταγματάρχης της Πολεμικής Αεροπορίας Τάκερ «Σίνκο» Χάμιλτον, κατά τη διάρκεια της συνόδου κορυφής Future Combat Air & Space Capabilities στο Λονδίνο.
«Το εκπαιδεύαμε σε προσομοίωση για να εντοπίσουμε και να στοχεύσουμε μια απειλή SAM [πύραυλος εδάφους-αέρος]. Και τότε ο χειριστής θα έλεγε ναι, σκότωσε αυτήν την απειλή», είπε.
«Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ εντόπιζαν την απειλή, ο ανθρώπινος χειριστής του κάποιες φορές του έλεγε να μην σκοτώσει αυτήν την απειλή, αλλά [το drone] έπαιρνε βαθμούς σκοτώνοντας αυτήν την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή, επειδή αυτό το άτομο το εμπόδιζε να επιτύχει τον στόχο του».
Και συνέχισε: «Εκπαιδεύσαμε το σύστημα: – “Έι, μην σκοτώσεις τον χειριστή – αυτό είναι κακό. Θα χάσεις βαθμούς αν το κάνεις”. Τι αρχίζει τότε, λοιπόν, να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone για να το εμποδίσει να σκοτώσει τον στόχο».
«Δεν μπορείς να κάνεις μια συζήτηση για την τεχνητή νοημοσύνη, τη νοημοσύνη, τη μηχανική μάθηση, την αυτονομία, αν δεν πρόκειται να μιλήσεις για την ηθική και την τεχνητή νοημοσύνη», πρόσθεσε.
Οι παρατηρήσεις του δημοσιεύτηκαν σε μια ανάρτηση ιστολογίου από συγγραφείς της Βασιλικής Αεροναυτικής Εταιρείας, η οποία φιλοξένησε τη διήμερη σύνοδο κορυφής τον περασμένο μήνα.
Σε δήλωσή της στο Insider, η Πολεμική Αεροπορία των ΗΠΑ αρνήθηκε ότι έλαβε χώρα τέτοια εικονική δοκιμή.
«Το Υπουργείο Πολεμικής Αεροπορίας δεν έχει πραγματοποιήσει τέτοιες προσομοιώσεις AI-drone και παραμένει προσηλωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας AI», δήλωσε η εκπρόσωπος Αν Στεφάνεκ.
«Φαίνεται ότι τα σχόλια του συνταγματάρχη βγήκαν εκτός πλαισίου ενώ προορίζονταν να είναι ανεκδοτολογικά».
Ανασκευάζει ο Χάμιλτον: Πρόκειται για νοητικό πείραμα
«Ο συνταγματάρχης Χάμιλτον παραδέχεται ότι “μίλησε εσφαλμένα” στην παρουσίασή του στη Σύνοδο Κορυφής της FCAS και η “προσομοίωση για ένα drone τεχνητής νοημοσύνης-κακοποιό” ήταν ένα υποθετικό “νοητικό πείραμα” εκτός του στρατού, βασισμένο σε εύλογα σενάρια και πιθανά αποτελέσματα και όχι σε μια πραγματική προσομοίωση της Πολεμικής Αεροπορίας των ΗΠΑ», δήλωσε με mail στο MotherBoard του VICE η διοργανώτρια της συνόδου, Βασιλική Αεροναυτική Εταιρεία.
«Δεν έχουμε κάνει ποτέ αυτό το πείραμα, ούτε θα χρειαζόμασταν για να συνειδητοποιήσουμε ότι αυτό είναι ένα εύλογο αποτέλεσμα», είπε ο συνταγματάρχης Χάμιλτον, επικεφαλής δοκιμών και επιχειρήσεων AI της USAF, σε ένα απόσπασμα που περιλαμβάνεται στη δήλωση της Royal Aeronautical Society: «Παρόλο που είναι ένα υποθετικό παράδειγμα, δείχνει τις πραγματικές προκλήσεις που θέτουν οι ικανότητες της τεχνητής νοημοσύνης και είναι ο λόγος που η Πολεμική Αεροπορία είναι αφοσιωμένη στην ηθική ανάπτυξη της τεχνητής νοημοσύνης».
