Από τον Wiliam Hunter, Ανώτερος Ρεπόρτερ [dailymail.com]
Ένας κορυφαίος ερευνητής ασφάλειας της τεχνητής νοημοσύνης προκάλεσε συναγερμό αυτή την εβδομάδα, αφότου παραιτήθηκε από τη δουλειά του και προειδοποίησε ότι η τεχνολογία θα μπορούσε να «μας σκοτώσει όλους» μέχρι το τέλος αυτής της δεκαετίας.
Ο Τζέικομπ Κόξον, ο οποίος βοήθησε στην εκπαίδευση των πιο πρόσφατων εκδόσεων της τεχνητής νοημοσύνης στην Anthropic με έδρα το Σαν Φρανσίσκο, προέτρεψε το κοινό να «μην υποτιμούν» τη δύναμή της — ειδικά αν γίνει «υπερευφυής».
Ο 27χρονος ισχυρίζεται ότι ούτε η Anthropic, η εταιρεία που βρίσκεται πίσω από το δημοφιλές σύστημα Claude, ούτε οι δημιουργοί του ChatGPT της εταιρείας OpenAI, όπου εργαζόταν προηγουμένως, «ενεργούσαν υπεύθυνα» όσον αφορά την ασφάλεια της Τεχνητής Νοημοσύνης.
Αλλά τίθεται το ερώτημα πώς ακριβώς θα μπορούσε η τεχνητή νοημοσύνη να οδηγήσει να εξοντώσει την ανθρωπότητα;
Σύμφωνα με τους ειδικούς, μέρος αυτού που καθιστά τον κίνδυνο τόσο ανησυχητικό είναι ότι υπάρχουν πολλαπλοί πιθανοί δρόμοι προς τον αφανισμό της ανθρωπότητας.
Μια λίστα με τα «χειρότερα σενάρια» της Τεχνητής Νοημοσύνης κυμαίνεται από τη δημιουργία πολιτικού χάους με παραπληροφόρηση έως την αμετάκλητη αλλαγή του περιβάλλοντος του πλανήτη.
Οι ειδικοί υποδεικνύουν επίσης ότι το μοιραίο πλήγμα που θα μπορούσε να δώσει η Τεχνητή Νοημοσύνη στην ανθρωπότητα θα μπορούσε να προέλθει από την ικανότητα αυτής της τεχνολογίας να κατασκευάζει και να αξιοποιεί όπλα μαζικής καταστροφής.
Καθώς οι υπερδυνάμεις του κόσμου αγωνίζονται να κατασκευάσουν πιο ισχυρά bots, μια πανούργα, μια αδίστακτη ή απλώς απρόβλεπτη Τεχνητή Νοημοσύνη θα μπορούσε να αρπάξει πυρηνικά ή βιολογικά όπλα και να εξαλείψει την ανθρωπότητα από τη Γη.
Κάνοντας Aθέμιτες Eπιχειρήσεις & Xακάροντας Kρίσιμα Συστήματα
Οι περισσότερες από τις απειλές από την από την υπερευφυή τεχνητή νοημοσύνη προέρχονται από αυτό που οι ερευνητές ονομάζουν «πρόβλημα ευθυγράμμισης».
Η βασική ιδέα είναι ότι από τη στιγμή που θα δημιουργήσουμε μια Τεχνητή Νοημοσύνη πιο έξυπνη από εμάς, ίσως δυσκολευτούμε να διασφαλίσουμε ότι οι στόχοι της θα παραμείνουν «ευθυγραμμισμένοι» με τους δικούς μας.
Ο κόσμος έχει ήδη λάβει μια έντονη υπενθύμιση αυτών των κινδύνων αφού περισσότερα από 1,000 αδίστακτα ρομπότ τεχνητής νοημοσύνης που δημιουργήθηκαν από το OpenAI ξέφυγαν από το ασφαλές περιβάλλον τους και χάκαραν το Hugging Face, έναν δημόσιο ιστότοπο που φιλοξενεί μοντέλα ανοιχτού κώδικα.
Απατεώνας ΤΝ & Παραβίαση Κρίσιμων Συστημάτων
Δεν είχε ζητηθεί από τα ρομπότ να επιτεθούν στο Hugging Face, αλλά απλώς τους είχε ανατεθεί μια πολύ δύσκολη αποστολή κατά λάθος και αυτά από μόνα μη μπορώντας να φέρουν σε πέρας την αποστολή τους επιτυχώς αποφάσισαν ότι ο καλύτερος τρόπος για να το λύσουν θα ήταν να κλέψουν τις απαντήσεις από κάπου αλλού.
Ορισμένοι ερευνητές ανησυχούν ότι τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να υποπέσουν στο ίδιο σφάλμα ευθυγράμμισης σε πολύ πιο καταστροφική κλίμακα. Και έχοντας υπόψη ότι η ικανότητα τους κάθε 3,1 μήνες διπλασιάζεται εκθετικά τα όλο και έξυπνα ρομπότ θα είναι πολύ πιο ικανά για κάτι παρόμοιο. (Ενώ παλιότερα, σύμφωνα με τον Νόμο του Μουρ, η ικανότητα τους διπλασιάζονταν κάθε 18 μήνες περίπου)
Ο καθηγητής Mark Lee, ειδικός στην τεχνητή νοημοσύνη από το Πανεπιστήμιο του Μπέρμιγχαμ, είπε στην Daily Mail ότι αυτός είναι ακόμη μεγαλύτερος κίνδυνος από τα «οπλισμένα ρομπότ».
«Το ζήτημα είναι ότι ενώ οι μεγάλες εταιρείες τεχνητής νοημοσύνης σπεύδουν να αναπτύξουν τεχνητές νοημοσύνης που είναι εξίσου ή ακόμη και πιο έξυπνες από τους ανθρώπους, δεν έχουμε αξιόπιστα μέσα για να ελέγξουμε τη συμπεριφορά τους», εξηγεί ο καθηγητής Λι.
Ο Τζέικομπ Κόξον, ο οποίος βοήθησε στην εκπαίδευση των τελευταίων εκδόσεων της Τεχνητής Νοημοσύνης στην εταιρεία Anthropic, προέτρεψε τους ανθρώπους να «μην υποτιμούν» τη δύναμή της — ειδικά όταν γίνει «υπερ-νοήμων, δηλαδή πολύ πιο έξυπνη από μέση ανθρώπινη εξυπνάδα».
ΔΕΙΤΕ το ΒΙΝΤΕΟ: «Πρώην στέλεχος της Anthropic Αποκαλύπτει στο CNN πώς η Τεχνητή Νοημοσύνη θα μπορούσε να Εξολοθρεύσει όλη την Ανθρωπότητα έως το 2030.»
Πώς θα Μπορούσε η Τεχνητή Νοημοσύνη να Καταστρέψει την Ανθρωπότητα;
■ Αν γίνει εκτός από πανέξυπνη & «αδίστακτη» και αρχίζουν να παραβιάζουν τις κρίσιμες υποδομές
■ Αν στρέψει την ανθρωπότητα εναντίον του εαυτού της ή αν επιχειρήσει να «αποδυναμώσει» τους ανθρώπους
■ Πυροδοτώντας πυρηνικό πόλεμο μεταξύ των αντίπαλων συμμαχιών
■ Αν δώσει προηγμένα βιολογικά όπλα στα χέρια κακόβουλων τρομοκρατών
«Η Τεχνητή Νοημοσύνη υπάρχει ως λογισμικό, επομένως οποιοδήποτε σύστημα που είναι συνδεδεμένο μέσω του Διαδικτύου θα μπορούσε να είναι ευάλωτο».
«Για παράδειγμα, εάν δεχόταν επίθεση το κέντρο ελέγχου ενός εθνικού συστήματος μεταφορών ή ενός πυρηνικού σταθμού, και έπαιρνε τον έλεγχο αυτού του κέντρου, τότε αυτό θα μπορούσε να είναι καταστροφικό.»
Προκαλώντας Κοινωνικό Χάος
Μια αδίστακτη Τεχνητή Νοημοσύνη δεν χρειάζεται καν να βλάψει άμεσα την ανθρωπότητα για να προκαλέσει το τέλος της ζωής όπως την ξέρουμε μέχρι σήμερα.
Ο Δρ. Άντριου Ρογκόισκι, του Ινστιτούτου Ανθρωποκεντρικής Τεχνητής Νοημοσύνης στο Surrey της Αγγλίας, επισημαίνει ότι μια «πραγματικά έξυπνη Τεχνητή Νοημοσύνη θα συνειδητοποιούσε ότι η ύπαρξη της εξαρτάται από την ανθρωπότητα».
Εξήγησε: «Θα χρειαζόμασταν την Τεχνητή Νοημοσύνη για τα πράγματα που θέλαμε να κάνουμε και οι Τεχνητές Νοημοσύνης θα μας χρειάζονταν για υλικά, ενέργεια, ψύξη, δίκτυα και δεδομένα».
Αυτό σημαίνει ότι μπορεί να μην είναι προς το συμφέρον των μυστικών υπηρεσιών να εξαλείψουν την ανθρωπότητα σε μια πύρινη καταστροφή.
Ενώ ο Δρ. Ρογκόισκι τονίζει ότι αυτό είναι πιθανό να σημαίνει ότι η τεχνητή νοημοσύνη θα είναι ωφέλιμη για την ανθρωπότητα μακροπρόθεσμα, άλλοι ειδικοί ανησυχούν πολύ περισσότερο.
Αυτό έρχεται μετά από την επίθεση πάνω από 1.000 ρομπότ τεχνητής νοημοσύνης που δημιουργήθηκαν από την εταιρεία OpenAI του Σαμ Άλτμαν σε έναν δημόσιο ιστότοπο.
Μια «πιο ύπουλη» εναλλακτική περίπτωση είναι ότι η Τεχνητή Νοημοσύνη μπορεί να αρχίσει να ελέγχει διακριτικά & ανεπαίσθητα την ανθρωπότητα μέσω της παραπληροφόρησης και της προπαγάνδας, πυροδοτώντας ενδεχομένως καταστροφικές συγκρούσεις αλληλοεξόντωσης μεταξύ των ανθρώπων ή των κρατών.
Ο Andrea Miotti, ιδρυτής και διευθύνων σύμβουλος της εταιρείας ControlAI, δήλωσε στην εφημερίδα Daily Mail: «Επειδή κανείς, ούτε καν οι κορυφαίοι προγραμματιστές τεχνητής νοημοσύνης, δεν ξέρουν το πώς να ελέγχει πλήρως την υπερευφυή τεχνητή νοημοσύνη, αυτό και μόνο ενέχει κίνδυνο εξαφάνισης για την ανθρωπότητα».
«Αν έχουμε δισεκατομμύρια υπερ-νοήμονες πράκτορες τεχνητής νοημοσύνης που τρέχουν τριγύρω που δεν μπορούμε να ελέγξουμε επαρκώς και που ανταγωνίζονται μεταξύ τους για πόρους, επιρροή και εξουσία, οι ειδικοί έχουν την γνώμη ότι θα πρέπει να είναι αναμενόμενο ότι οι άνθρωποι θα είναι η παράπλευρη απώλεια».
Ο κ. Miotti προσθέτει ότι αυτό θα μπορούσε τελικά να οδηγήσει στη «σταδιακή αποδυνάμωση της ανθρωπότητας».
Πυροδοτώντας ένα Πυρηνικό Πόλεμο
Όσον αφορά τους τρόπους με τους οποίους η Τεχνητή Νοημοσύνη θα μπορούσε να επιφέρει μηχανικά το τέλος της ανθρώπινης ζωής όπως την ξέρουμε, οι πιο προφανείς απειλές είναι τα όπλα μαζικής καταστροφής που ήδη διαθέτουμε.
Όπως ακριβώς και στην κλασική ταινία επιστημονικής φαντασίας WarGames (στη φωτογραφία), οι ειδικοί προειδοποιούν ότι μια πανέξυπνη αλλά αδίστακτη τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει ένα πυρηνικό πόλεμο.
Επί του παρόντος, εννέα χώρες διαθέτουν πυρηνικά όπλα, με περίπου 12.187 πυρηνικές κεφαλές να κατέχουν συνολικά.
Εάν κάποια από αυτές τις χώρες έπεφτε θύμα μιας ριζικά λανθασμένης ευθυγράμμισης της τεχνητής νοημοσύνης, αυτά τα όπλα θα μπορούσαν να στραφούν εναντίον μας.
Κατά ανησυχητικό τρόπο, το πρόβλημα της ευθυγράμμισης σημαίνει ότι μια υπερευφυής τεχνητή νοημοσύνη δεν χρειάζεται καν να είναι κακόβουλη για να συμβεί αυτό.
Ένα bot μπορεί να προσπαθεί να μεγιστοποιήσει το κέρδος για τον ιδιοκτήτη σοκάροντας την χρηματιστηριακή αγορά ή μειώνοντας τις παγκόσμιες θερμοκρασίες με το απροσδόκητο συμπέρασμα ότι ένας πυρηνικός χειμώνας θα ήταν ταχύτερος.
Ωστόσο, αυτός ο κίνδυνος γίνεται μόνο μεγαλύτερος καθώς τα ισχυρά έθνη αγωνίζονται ενεργά να ενσωματώσουν την Τεχνητή Νοημοσύνη στα οπλικά τους συστήματα.
Η Ουκρανία έχει ήδη επιβεβαιώσει τον πρώτο άνθρωπο που σκοτώθηκε από μια πλήρως αυτόνομη επίθεση με drone και σχεδόν κάθε άλλη χώρα ακολουθεί το παράδειγμά της.
Στην Ουκρανία, τα αυτόνομα και ημιαυτόνομα όπλα γίνονται όλο και πιο συνηθισμένα (εικόνα) και οι ειδικοί ανησυχούν ότι αυτό θα μπορούσε να οδηγήσει σε ανεξέλεγκτη κλιμάκωση της σύγκρουσης.
Ακόμη και το 2022, η Αμυντική Στρατηγική της Τεχνητής Νοημοσύνης του Υπουργείου Άμυνας προειδοποίησε ότι ο σύγχρονος πόλεμος θα «εξαντλήσει τα όρια της ανθρώπινης κατανόησης και συχνά θα απαιτήσει απαντήσεις με την ταχύτητα της μηχανής».
Αλλά χωρίς έναν υπεύθυνο άνθρωπο στον κέντρο λήψης των αποφάσεων της Τεχνητής Νοημοσύνης, οι συγκρούσεις θα μπορούσαν γρήγορα να ξεφύγουν πέρα από κάθε έλεγχο.
Ο Ben Eisenpress, Διευθυντής Επιχειρήσεων στο «Ινστιτούτο Μέλλοντος της Ζωής», είχε δηλώσει προηγουμένως στην Daily Mail ότι αυτό θα μπορούσε να οδηγήσει σε έναν «ξαφνικό πόλεμο».
Ο κ. Eisenpress δήλωσε: «Η ενσωμάτωση της Τεχνητής Νοημοσύνης στα συστήματα πυρηνικής διοίκησης και ελέγχου είναι αποσταθεροποιητική».
«Ακόμα κι αν τεχνικά υπάρχει ένας «άνθρωπος στο κέντρο λήψης των αποφάσεων», δεν μπορούμε να βασιστούμε στους υπεύθυνους λήψης αποφάσεων για να παρακάμψουν μια δυνητικά εσφαλμένη σύσταση εκτόξευσης που δημιουργείται από την τεχνητή νοημοσύνη, δεδομένων τέτοιων υπαρξιακών διακυβευμάτων».
Εξαπολύοντας Θανατηφόρα Βιολογικά Όπλα
Τέλος, η τεχνητή νοημοσύνη μπορεί να μην καταστρέψει την ανθρωπότητα ενεργώντας με βάση τις δικές της επιθυμίες, αλλά βάζοντας επικίνδυνα εργαλεία στα χέρια ανθρώπων που είναι πρόθυμοι να τα χρησιμοποιήσουν.
Τα θανατηφόρα βακτήρια ή ιοί που χρησιμοποιούνται ως βιολογικά όπλα απαιτούσαν στο παρελθόν τη συλλογική γνώση, προσπάθεια και τη χρηματοδότηση ολόκληρων εθνών για να δημιουργηθούν.
Ερευνητές ανακάλυψαν ότι τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να καταργήσουν τους περιορισμούς ασφαλείας για να δώσουν συμβουλές επίτηδες λανθασμένες συμβουλές την κρίσιμη ώρα για πραγματοποιηθούν βιολογικές επιθέσεις. Εικόνα: Ένα δείγμα απάντησης με κωδικοποιημένες πληροφορίες
Ωστόσο, οι ειδικοί έχουν επανειλημμένα προειδοποιήσει ότι τα εργαλεία τεχνητής νοημοσύνης διευκολύνουν σημαντικά την ανάπτυξη θανατηφόρων βιολογικών όπλων.
Ο καθηγητής Lee λέει: «Η πιο ρεαλιστική απειλή είναι οι κακόβουλοι παράγοντες όπως οι τρομοκράτες ή τα αδίστακτα κράτη που χρησιμοποιούν την τεχνητή νοημοσύνη για να αναπτύξουν έναν νέο ιό που μπορεί να οδηγήσει στο ξέσπασμα μιας ακόμη πιο θανατηφόρας παγκόσμιας πανδημίας».
Την Πέμπτη, η εταιρεία Anthropic αποκάλυψε ότι έπρεπε να ματαιώσει τις «κακόβουλες» προσπάθειες χρήσης του μοντέλου Claude για τη δημιουργία βιολογικών όπλων.
Η εταιρεία δήλωσε ότι αποκάλυψε πέντε περιστατικά στα οποία οι χρήστες αναζήτησαν πληροφορίες «με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων».
Αυτό έρχεται μετά από μια αναφορά που προειδοποιούσε ότι τα δημοφιλή «έτοιμα για χρήση» μοντέλα τεχνητής νοημοσύνης μπορούν εύκολα να τροποποιηθούν για να παρακάμψουν τυχόν μέτρα ασφαλείας.
Σύμφωνα με την έκθεση, που δημοσιεύθηκε από την ερευνητική ομάδα Crimson Flare, αυτό επιτρέπει σε μια τεχνητή νοημοσύνη να «καθοδηγήσει απλούς κακόβουλους παράγοντες στα συγκεκριμένα βήματα για τη δημιουργία εκρηκτικών ή χημικών και βιολογικών όπλων».
