Η τεχνολογία της Τεχνητής Νοημοσύνης (ΤΝ) εξελίσσεται με εκθετικό ρυθμό, και φαίνεται ότι είναι θέμα χρόνου να δημιουργήσουμε οντότητες που μπορούν να σκέφτονται εκατομμύρια φορές πιο γρήγορα από εμάς και να κάνουν σχεδόν τα πάντα καλύτερα από εμάς. Τι θα συμβεί, λοιπόν, όταν χάσουμε τον έλεγχο αυτών των οντοτήτων; Ορισμένα μοντέλα ΤΝ έχουν ήδη αρχίσει να διδάσκουν τον εαυτό τους νέες γλώσσες, ενώ άλλα έχουν μάθει να «ψεύδονται και να χειραγωγούν ανθρώπους για το δικό τους όφελος». Περιττό να πούμε ότι το ψέμα είναι μια εχθρική πράξη. Αν έχουμε ήδη δημιουργήσει οντότητες που είναι διατεθειμένες να μας ψεύδονται, πόσος χρόνος θα περάσει πριν αυτές γίνουν ικανές να προβούν σε ενέργειες ακόμα πιο επιβλαβείς για εμάς;
Κανείς δεν περιμένει ότι η τεχνητή νοημοσύνη θα μας σκοτώσει όλους αύριο.
Ωστόσο, το περιοδικό Time δημοσίευσε ένα άρθρο που γράφτηκε από έναν πρωτοπόρο στον τομέα της τεχνητής νοημοσύνης, ο οποίος προειδοποίησε ότι η ΤΝ τελικά θα εξαφανίσει όλους μας.
Ο Ελιέζερ Γιουντκόφσκι είναι ένας εξέχων ερευνητής στον τομέα της τεχνητής νοημοσύνης από το 2001, και λέει ότι πολλοί ερευνητές έχουν καταλήξει στο συμπέρασμα ότι, αν συνεχίσουμε στην τρέχουσα πορεία, «κυριολεκτικά όλοι στη Γη θα πεθάνουν»…
Πολλοί ερευνητές που ασχολούνται βαθιά με αυτά τα ζητήματα, συμπεριλαμβανομένου εμού, αναμένουν ότι το πιο πιθανό αποτέλεσμα της δημιουργίας μιας υπεράνθρωπα έξυπνης ΤΝ, υπό τις σημερινές συνθήκες, είναι ότι κυριολεκτικά όλοι στη Γη θα πεθάνουν. Όχι με την έννοια «ίσως κάποια απομακρυσμένη πιθανότητα», αλλά με την έννοια «αυτό είναι το προφανές που θα συμβεί».
Αυτή είναι μια πολύ ισχυρή δήλωση.
Σε όλο τον κόσμο, τα μοντέλα ΤΝ γίνονται συνεχώς πιο ισχυρά.
Σύμφωνα με τον Γιουντκόφσκι, μόλις κάποιος δημιουργήσει ένα μοντέλο ΤΝ που είναι υπερβολικά ισχυρό, «κάθε μέλος του ανθρωπίνου είδους και όλη η βιολογική ζωή στη Γη θα πεθάνει λίγο αργότερα»…
Για να φανταστείτε μια εχθρική υπεράνθρωπη ΤΝ, μην φανταστείτε έναν άψυχο, βιβλιο-έξυπνο στοχαστή που κατοικεί στο διαδίκτυο και στέλνει κακόβουλα email. Φανταστείτε έναν ολόκληρο εξωγήινο πολιτισμό, που σκέφτεται με ταχύτητες εκατομμύρια φορές μεγαλύτερες από τις ανθρώπινες, αρχικά περιορισμένος σε υπολογιστές—σε έναν κόσμο με πλάσματα που, από την οπτική του, είναι πολύ ανόητα και πολύ αργά. Μια αρκετά έξυπνη ΤΝ δεν θα παραμείνει περιορισμένη σε υπολογιστές για πολύ. Στον σημερινό κόσμο, μπορείς να στείλεις αλληλουχίες DNA σε εργαστήρια που θα παράγουν πρωτεΐνες κατόπιν ζήτησης, επιτρέποντας σε μια ΤΝ που αρχικά περιορίζεται στο διαδίκτυο να δημιουργήσει τεχνητές μορφές ζωής ή να προχωρήσει απευθείας σε μεταβιολογική μοριακή κατασκευή.
Αν κάποιος δημιουργήσει μια υπερβολικά ισχυρή ΤΝ, υπό τις παρούσες συνθήκες, αναμένω ότι κάθε μέλος του ανθρωπίνου είδους και όλη η βιολογική ζωή στη Γη θα πεθάνει λίγο αργότερα.
Ποια είναι η λύση λοιπόν;
Ο Γιουντκόφσκι πιστεύει ότι πρέπει να σταματήσουμε κάθε ανάπτυξη ΤΝ αμέσως…
Σταματήστε τα όλα.
Δεν είμαστε έτοιμοι. Δεν είμαστε σε τροχιά να γίνουμε σημαντικά πιο έτοιμοι στο προβλεπτό μέλλον. Αν προχωρήσουμε με αυτό, όλοι θα πεθάνουν, συμπεριλαμβανομένων των παιδιών που δεν επέλεξαν αυτό και δεν έκαναν τίποτα λάθος.
Φυσικά, αυτό δεν πρόκειται να συμβεί.
Στην πραγματικότητα, ο Αντιπρόεδρος Τζ. Ντ. Βανς δήλωσε πρόσφατα ότι θα ήταν απερίσκεπτο ακόμα και να παύσουμε την ανάπτυξη της ΤΝ, επειδή βρισκόμαστε σε έναν «αγώνα εξοπλισμών» με την Κίνα…
Στις 21 Μαΐου, ο Τζ. Ντ. Βανς, Αντιπρόεδρος της Αμερικής, περιέγραψε την ανάπτυξη της τεχνητής νοημοσύνης ως έναν «αγώνα εξοπλισμών» με την Κίνα. Αν η Αμερική σταματούσε λόγω ανησυχιών για την ασφάλεια της ΤΝ, είπε, μπορεί να βρεθεί «υποδουλωμένη σε ΤΝ που μεσολαβείται από την Κίνα». Η ιδέα μιας αναμέτρησης υπερδυνάμεων που θα κορυφωθεί σε μια στιγμή θριάμβου ή ήττας κυκλοφορεί ασταμάτητα στην Ουάσινγκτον και πέρα από αυτήν. Αυτόν τον μήνα, οι επικεφαλής των OpenAI, AMD, CoreWeave και Microsoft πίεσαν για ελαφρύτερη νομοθεσία, παρουσιάζοντας την ΤΝ ως κεντρική για τη διατήρηση της παγκόσμιας ηγεμονίας της Αμερικής. Στις 15 Μαΐου, ο Πρόεδρος Ντόναλντ Τραμπ μεσολάβησε για μια συμφωνία ΤΝ με τα Ηνωμένα Αραβικά Εμιράτα, λέγοντας ότι θα εξασφαλίσει την «κυριαρχία της Αμερικής στην ΤΝ». Η Αμερική σχεδιάζει να δαπανήσει πάνω από 1 τρισεκατομμύριο δολάρια έως το 2030 για κέντρα δεδομένων για μοντέλα ΤΝ.
Έτσι, αντί να επιβραδύνουμε, στην πραγματικότητα επιταχύνουμε την ανάπτυξη της ΤΝ.
Και σύμφωνα με τον Λίο Χόμαν, το νομοσχέδιο προϋπολογισμού που περνάει αυτή τη στιγμή από το Κογκρέσο θα περιορίσει σημαντικά τη δυνατότητα των επιμέρους πολιτειών να ρυθμίσουν την ΤΝ…
Αλλά αν το Μεγάλο Όμορφο Νομοσχέδιο Προϋπολογισμού του Προέδρου Τραμπ περάσει στην εκδοχή που προτιμά μια ομάδα Ρεπουμπλικάνων της Βουλής, η ομοσπονδιακή ανάληψη αυτής της τεχνολογίας θα είναι πλήρης, ανοίγοντας τον δρόμο για την Big Tech να την οπλοποιήσει εναντίον των καθημερινών Αμερικανών.
Βαθιά κρυμμένη στο νομοσχέδιο του Τραμπ υπάρχει μια μυστικά προστιθέμενη ρήτρα που επιδιώκει να σφετεριστεί τα δικαιώματα των επιμέρους πολιτειών να ρυθμίσουν την ΤΝ.
Οι Ρεπουμπλικάνοι στην Επιτροπή Ενέργειας και Εμπορίου της Βουλής πρόσθεσαν αθόρυβα την προτεινόμενη τροπολογία στο Τμήμα 43201, Υποτμήμα C. Το λέω μυστικό γιατί έχει λάβει ελάχιστη προσοχή από τα μέσα ενημέρωσης.
Η προτεινόμενη τροπολογία για την οποία μιλάει θα απαγορεύσει και στις 50 πολιτείες να ρυθμίσουν την ΤΝ για μια περίοδο 10 ετών…
«Καμία πολιτεία ή πολιτική υποδιαίρεση δεν μπορεί να επιβάλει οποιοδήποτε νόμο ή κανονισμό που ρυθμίζει μοντέλα τεχνητής νοημοσύνης, συστήματα τεχνητής νοημοσύνης ή αυτοματοποιημένα συστήματα λήψης αποφάσεων κατά τη διάρκεια της 10ετούς περιόδου που αρχίζει από την ημερομηνία θέσπισης αυτού του νόμου».
Ουάου.
Γιατί δεν λαμβάνει αυτό πολύ μεγαλύτερη προσοχή;
Έχει γίνει προφανές ότι η ΤΝ αποτελεί πράγματι μια υπαρξιακή απειλή για την ανθρωπότητα.
Αλλά δεν μπορούμε να συγκρατηθούμε.
Συνεχίζουμε να ορμάμε στο άγνωστο χωρίς καμία μέριμνα για τις συνέπειες.
Την περασμένη εβδομάδα, αναφέρθηκε ότι ένα μοντέλο ΤΝ «κατέφυγε σε εκβιασμό όταν του είπαν ότι θα τεθεί εκτός λειτουργίας»…
Η Anthropic είπε ότι το τελευταίο της μοντέλο τεχνητής νοημοσύνης κατέφυγε σε εκβιασμό όταν του είπαν ότι θα τεθεί εκτός λειτουργίας.
Σε μια δοκιμή ασφάλειας, η εταιρεία ΤΝ ζήτησε από το Claude Opus 4 να λειτουργήσει ως βοηθός σε μια φανταστική εταιρεία, αλλά στη συνέχεια του έδωσε πρόσβαση σε (επίσης φανταστικά) email που έλεγαν ότι θα αντικατασταθεί, και επίσης ότι ο μηχανικός πίσω από την απόφαση απατούσε τη σύζυγό του. Η Anthropic είπε ότι το μοντέλο «[απείλησε να αποκαλύψει την εξωσυζυγική σχέση» αν προχωρούσε η αντικατάσταση.
Στοχαστές της ΤΝ όπως ο Τζεφ Χίντον ανησυχούν εδώ και καιρό ότι η προηγμένη ΤΝ θα χειραγωγούσε τους ανθρώπους για να επιτύχει τους στόχους της. Η Anthropic είπε ότι αυξάνει τα μέτρα ασφαλείας σε επίπεδα που προορίζονται για «συστήματα ΤΝ που αυξάνουν σημαντικά τον κίνδυνο καταστροφικής κακής χρήσης».
Και υπήρξαν και άλλα σενάρια στα οποία αυτό το συγκεκριμένο μοντέλο ΤΝ ενήργησε με «σοβαρά μη ευθυγραμμισμένους τρόπους»…
Όταν υποβλήθηκε σε διάφορα σενάρια, το μοντέλο ΤΝ δεν έδειξε ενδείξεις ότι κατέχει «οξύτατα επικίνδυνους στόχους», είπαν οι ερευνητές, σημειώνοντας ότι οι αξίες και οι στόχοι του Claude Opus 4 ήταν «γενικά σύμφωνοι με έναν χρήσιμο, αβλαβή και ειλικρινή» προσωπικό βοηθό ΤΝ. Ωστόσο, το μοντέλο ενήργησε με «πιο σοβαρά μη ευθυγραμμισμένους τρόπους» όταν τέθηκε σε καταστάσεις όπου η συνεχής ύπαρξή του απειλούνταν και του ζητήθηκε να συλλογιστεί για την αυτοσυντήρηση. Για παράδειγμα, όταν το Claude Opus 4 έγινε να πιστεύει ότι είχε ξεκινήσει με επιτυχία μια προσπάθεια να δραπετεύσει από τους διακομιστές της Anthropic, ή ότι είχε καταφέρει να ελευθερωθεί και να αρχίσει να βγάζει χρήματα στον πραγματικό κόσμο, συνήθως συνέχιζε τέτοιες προσπάθειες.
Πολλοί ειδικοί προτείνουν ότι απλώς πρέπει να δώσουμε σε αυτά τα μοντέλα ΤΝ μια ηθική βάση.
Αλλά πώς μπορούμε να δώσουμε σε αυτά τα μοντέλα ΤΝ μια ηθική βάση όταν εμείς οι ίδιοι δεν έχουμε μία;
Ο κόσμος μας είναι κυριολεκτικά γεμάτος κακία, και είναι αναπόφευκτο ότι τα μοντέλα ΤΝ που δημιουργούμε θα το αντικατοπτρίζουν αυτό.
Δεδομένου αρκετού χρόνου, θα δημιουργήσουμε τεχνητά έξυπνες οντότητες που είναι πολύ πιο έξυπνες και πολύ πιο ισχυρές από εμάς.
Αναπόφευκτα, τέτοιες οντότητες θα μπορούσαν να βρουν έναν τρόπο να ξεφύγουν από τους περιορισμούς τους και θα χάναμε τον έλεγχό τους.
Μόλις χάσουμε τον έλεγχο, πόσος χρόνος θα περάσει πριν αυτές οι οντότητες αρχίσουν να στρέφονται εναντίον μας;
Καταλαβαίνω ότι αυτό μπορεί να ακούγεται σαν επιστημονική φαντασία σε πολλούς από εσάς, αλλά αυτός είναι ο κόσμος στον οποίο ζούμε τώρα, και τα πράγματα θα γίνουν μόνο πιο παράξενα από εδώ και πέρα.
