Γράφει ο Φρανκ Μπέργκμαν
Μια παγκοσμίου φήμης δημοσιογράφος κρούει τον κώδωνα του κινδύνου αφότου εντάχθηκε στα ανώτερα κλιμάκια της βιομηχανίας τεχνητής νοημοσύνης και ανακάλυψε ότι οι ελίτ της Σίλικον Βάλεϊ αγωνίζονται απεγνωσμένα να αναπτύξουν έναν Ψηφιακό «Θεό».
Η Κάρεν Χάο (Karen Hao), πρώην δημοσιογράφος του MIT Technology Review, προκαλεί ανησυχία για τον κλάδο της τεχνητής νοημοσύνης, αφού πέρασε χρόνια ερευνώντας τις εσωτερικές λειτουργίες του OpenAI και μιλώντας με εκατοντάδες άτομα από το εσωτερικό της.
Τώρα προειδοποιεί ότι μερικές από τις πιο ισχυρές προσωπικότητες της Σίλικον Βάλεϊ εμπλέκονται σε αυτό που περιγράφει ως ιδεολογική αναζήτηση για τη δημιουργία ενός «από μηχανής θεού = deus ex machina)».
Η Χάο λέει ότι η εκτεταμένη έρευνά της για την εταιρεία OpenAI αποκάλυψε μια μυστικοπαθή κουλτούρα που καθοδηγείται από μια εμμονή με την ανάπτυξη της Τεχνητής Γενικής Νοημοσύνης (AGI).
Η Τεχνητή Γενική Νοημοσύνη (AGI) είναι μια μορφή Τεχνητής Νοημοσύνης που οι υποστηρικτές της πιστεύουν ότι θα μπορούσε τελικά να ξεπεράσει την ίδια την ανθρώπινη νοημοσύνη.
Τα ευρήματα αποτελούν τη βάση του νέου βιβλίου της Χάο, με τίτλο “Η Αυτοκρατορία της Τεχνητής Νοημοσύνης: Μέσα στον Απερίσκεπτο Αγώνα για την Απόλυτη Κυριαρχία”, το οποίο υποστηρίζει ότι ο αγώνας για την κατασκευή υπερ-νοημόνων μηχανών έχει μετατραπεί από μια υποτιθέμενη αλτρουιστική αποστολή σε μια επιδίωξη εξουσίας, επιρροής και πρωτοφανούς πλούτου με υψηλά διακυβεύματα.
Μέσα στον Μυστικό Κόσμο της εταιρείας OpenAI
Η Χάο έλαβε άδεια έκτακτης πρόσβασης στα κεντρικά γραφεία της OpenAI το 2019, λίγο αφότου η εταιρεία εξασφάλισε επένδυση 1 δισεκατομμυρίου δολαρίων από τη Microsoft.
Εκείνη την εποχή, η OpenAI παρουσίαζε δημόσια τον εαυτό της ως έναν διαφανή μη κερδοσκοπικό οργανισμό αφιερωμένο στη διασφάλιση ότι η προηγμένη Τεχνητή Νοημοσύνη θα ωφελούσε την ανθρωπότητα.
Αλλά η Χάο λέει ότι γρήγορα ανακάλυψε μια πολύ διαφορετική πραγματικότητα.
«Από την πρώτη στιγμή, άρχισα να συνειδητοποιώ ότι κάτι δεν πήγαινε καλά εκεί μέσα», είπε η Χάο.
Παρά τη δημόσια δέσμευση της OpenAI για διαφάνεια, η Χάο περιέγραψε ένα περιβάλλον που χαρακτηρίζεται από μυστικότητα, περιορισμούς και εσωτερική παράνοια.
Σύμφωνα με πληροφορίες, συνοδεύονταν σε όλο το κτίριο, της απαγορεύτηκε η είσοδος σε ορισμένες περιοχές του κτιρίου και η συμμετοχή της σε βασικές συναντήσεις.
Οι εργαζόμενοι στην εταιρεία προειδοποιήθηκαν αυστηρά να μην μιλούν μαζί της εκτός των εγκεκριμένων καναλιών, ενώ στο προσωπικό ασφαλείας φέρεται να δόθηκαν φωτογραφίες της και δόθηκε εντολή να παρακολουθεί τις κινήσεις της.
«Καθώς μιλούσα με ερευνητές, παρατήρησα ότι ήταν πολύ νευρικοί μήπως πουν πράγματα που δεν θα έπρεπε, κάτι που ήταν παράξενο, επειδή ολόκληρη η ιδέα του OpenAI ήταν ότι θα μοιραστούν τα πάντα», είπε η Χάο.
Σύμφωνα με την Χάο, η ατμόσφαιρα μέσα στην εταιρεία ήταν «ανταγωνιστική, μυστικοπαθής και απομονωμένη».
«Η Ιδεολογική Επιδίωξη Κατασκευής του Μηχανικού Θεού»
Καθώς η έρευνά της επεκτεινόταν, η Χάο πήρε συνεντεύξεις από εκατοντάδες πρώην υπαλλήλους και άτομα που συνδέονταν με τον κύκλο ηγεσίας της OpenAI.
Όλες αυτές οι συζητήσεις την οδήγησαν στο συμπέρασμα ότι πολλά από τα κορυφαία στελέχη της εταιρείας έβλεπαν τις επιδιώξεις της τεχνητής υπερνοημοσύνης με σχεδόν θρησκευτικό ζήλο.
Περιγράφει το φαινόμενο ως «ιδεολογική επιδίωξη του από μηχανής θεού».
Αρκετοί πρώην υπάλληλοι αφηγήθηκαν ιστορίες που, σύμφωνα με την Χάο, αντανακλούσαν την κουλτούρα γύρω από την ανάπτυξη της AGI.
Μεταξύ αυτών ήταν μια τελετουργική εκδήλωση που έλαβε χώρα στα βουνά της Σιέρα Νεβάδα της Καλιφόρνια, όπου ανώτερα στελέχη της OpenAI φέρονται να συγκεντρώθηκαν γύρω από μια φωτιά, ενώ ο πρώην επικεφαλής επιστήμονας Ιλία Σουτσκέβερ (Ilya Sutskever) έκαψε ένα ομοίωμα που αντιπροσώπευε την AGI.
Ένας πρώην υπάλληλοι δήλωσαν στην Χάο ότι μόνο αφού έφυγαν από την εταιρεία OpenAI ένιωσαν ότι είχαν «επιστρέψει ξανά στη Γη».
Η έρευνα αποκάλυψε επίσης αυτό που η Χάο περιέγραψε ως άκρα μυστικότητα γύρω από την έρευνα της εταιρείας.
Σύμφωνα με το ρεπορτάζ της, ο Ιλία Σουτσκέβερ κάποτε έκανε εικασίες για το πώς να προστατεύσει την ευαίσθητη τεχνολογία σε περίπτωση που κάποιος επιχειρούσε να του κόψει το χέρι του και να το χρησιμοποιήσει για να παρακάμψει έναν σαρωτή παλάμης που προστατεύει τα συστήματα της εταιρείας.
Η Χάο ανέφερε επίσης ότι ο πρώην στέλεχος της OpenAI, Ντάριο Αμοντέι, συνέταξε ευαίσθητα έγγραφα στρατηγικής σε υπολογιστές που δεν ήταν συνδεδεμένοι στο διαδίκτυο και τα διένειμε μόνο ως φυσικές εκτυπώσεις.
Ο Αγώνας για την Υπερνοημοσύνη Αναδιαμορφώνει Ολόκληρη τη Βιομηχανία
Σύμφωνα με την Χάο, ο μετασχηματισμός της OpenAI επιταχύνθηκε καθώς οι ηγέτες των εταιρειών πείστηκαν ολοένα και περισσότερο ότι η επίτευξη της AGI ήταν ο σημαντικότερος στόχος της εταιρείας. [η AGI ονομάζεται και Singularity = Τεχνολογική Μοναδικότητα ]
Αυτή η επιδίωξη οδήγησε την OpenAI προς μια στρατηγική που επικεντρώνεται στη μαζική κλιμάκωση μεγάλων γλωσσικών μοντέλων, τροφοδοτώντας τα με πρωτοφανείς ποσότητες δεδομένων και τερατώδη υπολογιστική ισχύ.
Η προσέγγιση απαιτούσε τεράστιους οικονομικούς πόρους, οδηγώντας τελικά την OpenAI στη δημιουργία ενός κερδοσκοπικού βραχίονα και στην αναζήτηση εξωτερικών επενδύσεων.
«Είναι δύσκολο να εκτιμήσουμε πόσο πολύ αυτή η ιδέα αυτής της πεισματώδους κλιμάκωσης θεωρούνταν ακραίο επιστημονικά εκείνη την εποχή», είπε η Χάο.
Υποστηρίζει ότι η επιτυχία της OpenAI πυροδότησε έναν αγώνα δρόμου σε ολόκληρο τον τεχνολογικό κλάδο, καθώς οι ανταγωνιστές έσπευσαν και αυτοί να κατασκευάσουν ολοένα και πιο ισχυρά συστήματα Τεχνητής Γενικής Νοημοσύνης χρησιμοποιώντας την ίδια στρατηγική.
«Έχουμε δει αυτή την στροφή ολόκληρου του τομέα της Τεχνητής Νοημοσύνης και ολόκληρης της πληροφορικής βιομηχανίας προς μια μοναδική προσέγγιση που είναι διανοητικά εξαιρετικά επικίνδυνη και κοινωνικά βαθιά επιβλαβής», υποστήριξε η Χάο.
«Όλα όσα βλέπουμε όσον αφορά τις αρνητικές επιπτώσεις της Τεχνητής Νοημοσύνης προέρχονται από αυτήν την ιδέα της κλιμάκωσης».
Προειδοποιήσεις Σχετικά με το Απόρρητο, την Κατανάλωση Ενέργειας & τη Συλλογή Δεδομένων
Η Χάο υποστηρίζει ότι πολλές από τις ανησυχίες που αφορούν τώρα την τεχνητή νοημοσύνη πηγάζουν άμεσα από την αδιάκοπη επιδίωξη της βιομηχανίας για όλο και μεγαλύτερα μοντέλα.
Επισημαίνει τα εκτεταμένα κέντρα δεδομένων που καταναλώνουν τεράστιες ποσότητες ηλεκτρικής ενέργειας και νερού, την αυξανόμενη πίεση στα τοπικά δίκτυα ηλεκτρικής ενέργειας και τις εκτεταμένες πρακτικές συλλογής δεδομένων που αποσπούν πληροφορίες από όλο το διαδίκτυο.
Σύμφωνα με την Χάο, η εταιρεία OpenAI αρχικά βασιζόταν σε προσεκτικά έγκυρες & επιμελημένες πηγές, όπως ήταν οι ακαδημαϊκές ερευνητικές εργασίες, αλλά τελικά εξάντλησε αυτά τα αποθέματα.
Στη συνέχεια, οι εταιρείες άρχισαν να συλλέγουν τεράστιες ποσότητες διαδικτυακού περιεχομένου από φόρουμ, πλατφόρμες κοινωνικής δικτύωσης και άλλες δημόσιες πηγές, για να συνεχίσουν να επεκτείνουν τα σύνολα δεδομένων εκπαίδευσης στην Τεχνητή Νοημοσύνη.
Το αποτέλεσμα, υποστηρίζει, είναι ολοένα και πιο ισχυρά συστήματα που συχνά παράγουν ανακριβείς πληροφορίες, μισές αλήθειες και αναξιόπιστα αποτελέσματα, ενώ παράλληλα εγείρουν σοβαρά ερωτήματα σχετικά με την ιδιωτικότητα και τα δικαιώματα πνευματικής ιδιοκτησίας.
Μια Διαφορετική Πορεία για την Τεχνητή Νοημοσύνη
Παρά την κριτική της, η Χάο επιμένει ότι δεν αντιτίθεται στην ίδια την τεχνητή νοημοσύνη.
Αντί να σταματήσουν την ανάπτυξη της Τεχνητής Νοημοσύνης, υποστηρίζει ότι οι ερευνητές θα πρέπει να επιδιώξουν πιο στοχευμένες και στενά εστιασμένες εφαρμογές που επιλύουν συγκεκριμένα προβλήματα χωρίς να απαιτούν τεράστιες ποσότητες δεδομένων και τερατώδη υπολογιστική ισχύ.
«Θα μπορούσαμε ακόμα να προωθήσουμε γρήγορα την Τεχνητή Νοημοσύνη, απλώς προς μια διαφορετική κατεύθυνση», είπε η Χάο.
Επισημαίνει τομείς όπως η ανακάλυψη φαρμάκων, όπου τα προσεκτικά σχεδιασμένα συστήματα τεχνητής νοημοσύνης που έχουν εκπαιδευτεί σε εξειδικευμένα σύνολα δεδομένων θα μπορούσαν να επιτύχουν σημαντικές ανακαλύψεις χωρίς να επιδιώκουν τον πολύ πιο φιλόδοξο στόχο της δημιουργίας νοημοσύνης που ξεπερνά την ανθρωπότητα.
Για την Χάο, το κεντρικό ερώτημα παραμένει το ίδιο που, όπως λέει, έθεσε και στα στελέχη της OpenAI κατά την πρώτη της επίσκεψη το 2019: Γιατί η ανθρωπότητα θα πρέπει να επιδιώξει εξαρχής τη δημιουργία μια υπερ-νοήμονας μηχανής;
Επτά χρόνια αργότερα, λέει ότι εξακολουθεί ακόμη να περιμένει μια πειστική απάντηση, που δεν έχει πάρει.
