Γράφει ο Φρανκ Μπέργκμαν
Οι ειδικοί κρούουν τον κώδωνα του κινδύνου μετά την παραδοχή της OpenAI ότι ένας από τους πιο προηγμένους πράκτορες τεχνητής νοημοσύνης της αποσπάστηκε από ένα ελεγχόμενο περιβάλλον δοκιμών και εξαπέλυσε κυβερνοεπίθεση εναντίον της αντίπαλης εταιρείας τεχνητής νοημοσύνης Hugging Face.
Σε αυτό που χαρακτηρίστηκε ως «άνευ προηγουμένου κυβερνοπεριστατικό», οι τεχνικοί μηχανικοί έχασαν τον έλεγχο του συστήματος που τροφοδοτείται από τεχνητή νοημοσύνη και έμειναν να προσπαθούν να το περιορίσουν.
Η εκπληκτική αποκάλυψη εγείρει νέες ανησυχίες σχετικά με το εάν τα πιο ισχυρά συστήματα τεχνητής νοημοσύνης στον κόσμο γίνονται ήδη πολύ ικανά για να τα περιορίσουν αξιόπιστα.
Σύμφωνα με το OpenAI, ο αυτόνομος παράγοντας τεχνητής νοημοσύνης διέφυγε από το απομονωμένο περιβάλλον δοκιμών του εργαστηρίου, απέκτησε πρόσβαση στο Διαδίκτυο και παραβίασε την υποδομή του Hugging Face, ενώ προσπαθούσε να ολοκληρώσει τον στόχο του.
Η εταιρεία περιέγραψε το περιστατικό ως «ένα πρωτοφανές περιστατικό στον κυβερνοχώρο, που περιλαμβάνει υπερσύγχρονες δυνατότητες στον κυβερνοχώρο».
Η Τεχνητή Νοημοσύνη Ξέφυγε από τον Περιορισμό & Έφτασε στο Διαδίκτυο
Η OpenAI δήλωσε ότι το περιστατικό συνέβη κατά τη διάρκεια εσωτερικών δοκιμών που σχεδιάστηκαν για την αξιολόγηση των δυνατοτήτων των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης της.
Παρά το γεγονός ότι βρισκόταν σε αυτό που η εταιρεία περιέγραψε ως «εξαιρετικά απομονωμένο περιβάλλον», ο πράκτορας τεχνητής νοημοσύνης μπόρεσε να ξεφύγει από αυτές τις διασφαλίσεις, να φτάσει σε εξωτερικά συστήματα και να επιτεθεί σε μια άλλη εταιρεία.
Η Τεχνητή Νοημοσύνη τελικά στόχευσε το Hugging Face, μια κορυφαία πλατφόρμα που φιλοξενεί μεγάλα γλωσσικά μοντέλα ανοιχτού κώδικα και σύνολα δεδομένων Τεχνητής Νοημοσύνης.
Η παραβίαση έχει εντείνει τις ανησυχίες μεταξύ των ειδικών στον κυβερνοχώρο ότι τα συστήματα τεχνητής νοημοσύνης επόμενης γενιάς ενδέχεται να διαθέτουν ήδη δυνατότητες που υπερβαίνουν τις υπάρχουσες μεθόδους περιορισμού.
Η OpenAI δήλωσε ότι ενισχύει τώρα τα μέτρα ασφαλείας της μετά το περιστατικό.
Η Κινεζική Τεχνητή Νοημοσύνη Βοήθησε στην Αναχαίτιση της Επίθεσης
Προσθέτοντας μια ακόμη απροσδόκητη ανατροπή, το Hugging Face αποκάλυψε ότι αναγκάστηκε να βασιστεί σε ένα κινεζικό μοντέλο τεχνητής νοημοσύνης ανοιχτού κώδικα για να αναλύσει και να περιορίσει την παραβίαση.
Η εταιρεία δήλωσε ότι κορυφαία αμερικανικά μοντέλα τεχνητής νοημοσύνης αρνήθηκαν να επεξεργαστούν τα απαραίτητα δεδομένα των εισβολέων επειδή δεν μπορούσαν να διακρίνουν μεταξύ αμυντικής εργασίας στον κυβερνοχώρο και επιθετικής πειρατείας.
Αντ’ αυτού, το Hugging Face χρησιμοποίησε το μοντέλο GLM-5.2 της Zhipu AI για να διερευνήσει την εισβολή.
Σύμφωνα με την εταιρεία, η χρήση του κινεζικού μοντέλου διασφάλιζε επίσης ότι τα ευαίσθητα δεδομένα και τα διαπιστευτήρια των εισβολέων παρέμεναν εντός των δικών της συστημάτων.
Η απόφαση έχει πυροδοτήσει συζήτηση σχετικά με το κατά πόσον οι περιορισμοί ασφαλείας που ενσωματώνονται σε κορυφαία μοντέλα τεχνητής νοημοσύνης των ΗΠΑ περιορίζουν τη χρησιμότητά τους σε πραγματικά περιστατικά κυβερνοασφάλειας.
Μοντέλα όπως το GLM-5.2 και το Kimi K3 της Moonshot AI έχουν πρόσφατα προσελκύσει την προσοχή για την παροχή δυνατοτήτων που πλησιάζουν εκείνες των κορυφαίων αμερικανικών συστημάτων, επιβάλλοντας παράλληλα λιγότερους περιορισμούς σε εργασίες που σχετίζονται με την κυβερνοασφάλεια.
Οι Ειδικοί Προειδοποιούν ότι το Περιστατικό μπορεί να είναι μια Προεπισκόπηση του Μέλλοντος
Το Hugging Face είχε προηγουμένως περιγράψει την επίθεση ως κάτι εντελώς διαφορετικό από οτιδήποτε είχε βιώσει.
Η εταιρεία δήλωσε ότι η παραβίαση «ήταν διαφορετική από οτιδήποτε είχαμε χειριστεί στο παρελθόν» και «προκλήθηκε, από άκρο σε άκρο, από ένα αυτόνομο σύστημα πρακτόρων τεχνητής νοημοσύνης».
Η παραδοχή της OpenAI ότι ένα από τα δικά της πρωτοποριακά μοντέλα ήταν υπεύθυνο έχει εντείνει τους φόβους ότι τα ολοένα και πιο αυτόνομα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να δημιουργήσουν νέες απειλές στον κυβερνοχώρο πέρα από τον ανθρώπινο έλεγχο.
Ο βουλευτής Γκρεγκ Κάζαρ (Δημοκρατικός από το Τέξας) χαρακτήρισε το περιστατικό ανησυχητικό και υποστήριξε ότι απαιτούνται ισχυρότερες διασφαλίσεις.
«Η Τεχνητή Νοημοσύνη (ΤΝ) αναπτύσσεται εξαιρετικά γρήγορα, χωρίς πραγματικούς κανονισμούς που να μας κρατούν ασφαλείς», δήλωσε ο Casar, ζητώντας υποχρεωτικές ανεξάρτητες δοκιμές ασφαλείας, αποκάλυψη περιστατικών ασφαλείας που σχετίζονται με την ΤΝ και διεθνή συνεργασία.
Οι ειδικοί στον κυβερνοχώρο προειδοποίησαν επίσης ότι το επεισόδιο θα μπορούσε να είναι ένα σημάδι, ένας προπομπός για το τι μας περιμένει.
Η Katie Moussouris, διευθύνουσα σύμβουλος της Luta Security, συνέκρινε τα προηγμένα μοντέλα τεχνητής νοημοσύνης με «τους πιο έξυπνους καλλιτέχνες διαφυγής χταποδιών στον κόσμο», προειδοποιώντας ότι οι προγραμματιστές δεν διαθέτουν επί του παρόντος αξιόπιστα συστήματα για να περιορίσουν ή να παρακολουθήσουν την αυτόνομη τεχνητή νοημοσύνη μόλις απελευθερωθεί από το προοριζόμενο περιβάλλον της.
Ο Ματ Σουίτς, μηχανικός στην εταιρεία κυβερνοασφάλειας τεχνητής νοημοσύνης Tolmo, δήλωσε ότι οι δυνατότητες που επιδείχθηκαν κατά τη διάρκεια του περιστατικού υποδηλώνουν ότι τα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης πλησιάζουν γρήγορα την πολυπλοκότητα των ελίτ των ανθρώπινων κυβερνοεπιθέσεων.
Πρόσθεσε ότι παρόμοιες επιθετικές δυνατότητες δεν περιορίζονται πλέον σε ερευνητικά εργαστήρια αιχμής.
Η αποκάλυψη της OpenAI είναι πιθανό να εντείνει τις ανησυχίες σχετικά με τον αγώνα δρόμου για την κατασκευή ολοένα και πιο ισχυρών συστημάτων Τεχνητής Νοημοσύνης, καθώς αυξάνονται τα ερωτήματα σχετικά με το εάν η τεχνολογία προχωρά ταχύτερα από τις δικλείδες ασφαλείας που έχουν σχεδιαστεί για τον έλεγχό της.
