Σύμφωνα με μια έκθεση της RAND Corporation, μια μελλοντική κυβερνοεπίθεση (χακάρισμα) ή μία ελαττωματική ενημέρωση λογισμικού θα μπορούσε να πυροδοτήσει μια εξέγερση των ρομπότ, αναφέρει το The Sociable.
Η εργασία με τίτλο με τίτλο “Πρόληψη μιας Ρομποτικής Καταστροφής: Προετοιμασία για τις Συγκλίνουσες Τάσεις στη Ρομποτική & την Προηγμένη Τεχνητή Νοημοσύνη”, η οποία δημοσιεύθηκε αρχικά τον Απρίλιο 2025 και προωθήθηκε στον ιστότοπο της RAND, τον Ιούνιο 2025, επισημαίνει το τι θα μπορούσε να πάει στραβά, στο κοντινό μέλλον, στο οποίο θα κυκλοφορούν εκατομμύρια ρομπότ, με δυνατότητα αυτόνομης τεχνητής νοημοσύνης, ώστε αυτά τα πανέξυπνα ρομπότ, να στραφούν επιθετικά εναντίον των ίδιων των αρχικών κατασκευαστών τους, οι οποίοι και τα προγραμμάτισαν.
Σύμφωνα με την μελέτη, αυτά τα πανέξυπνα ανθρωποειδή ρομπότ θα μπορούσαν δυνητικά να μεταμορφωθούν σε ανατριχιαστικούς διώκτες που παρενοχλούν τους ανθρώπους στην καθημερινότητά τους, μέχρι αυτόνομα οχήματα που στρίβουν & παρεκκλίνουν αυθαίρετα και αρχίζουν να κινούνται προς την αντίθετη κατεύθυνση, ή μέχρι μη επανδρωμένα αεροσκάφη (drones) που ενδεχομένως να μετατραπούν σε καμικάζι–δολοφόνους (killbots), ή ακόμη και ηλεκτρικές έξυπνες σκούπες που μπορούν να επιτεθούν & να σκοτώσουν τους ανθρώπους κλπ.
Όλα αυτά και άλλα πολλά, που μοιάζουν με σενάριο ταινίας επιστημονικής φαντασίας, θα μπορούσαν να συμβούν, ενδεχομένως, αν τα πανέξυπνα ρομπότ γίνουν στόχος κυβερνοεπίθεσης από κακόβουλο λογισμικό (χακάρισμα) ή αρχίσουν να δυσλειτουργούν. Τότε θα αναδυθεί ένας καταστροφικός κίνδυνος για την ατομική, την οικογενειακή, κοινωνική & την εθνική ή παγκόσμια ασφάλεια.
«Τα ρομπότ θα μπορούσαν, με μία ελαττωματική ενημέρωση του λογισμικού τους ή ένα χακάρισμα (χάκινγκ) από μια κακόβουλη κυβερνοεπίθεση, να μπορούσαν να τεθούν εκτός ελέγχου να εξεγερθούν, σε μια μαζική εξέγερσης των ρομπότ, κατά την οποία οι ρομποτικοί αντίπαλοι μας, οι οποίοι θα είναι εξοπλισμένοι με προηγμένες δυνατότητες Τεχνητής Γενικής Νοημοσύνης (AGI — Artificial General Intelligence, δηλαδή με ανθρωπόμορφη ΤΝ αυτονομίας & αυτοσυνειδησίας), και με δυνατότητες αλληλοεπίδρασης μεταξύ τους (δηλαδή συντονισμένα), και μέσω των εκτεταμένων ρομποτικών ενσωματώσεων που υπάρχουν παντού στο σημερινό περιβάλλον, να προκαλέσουν ένα ευρύ φάσμα ζημιών & καταστροφών».
RAND, “Πρόληψη μιας Ρομποτικής Καταστροφής”, Απρίλιος 2025 (Preventing a Robot Catastrophe)
Πηγή: RAND
Σύμφωνα με αυτή την έκθεση:
«Τα χειρότερα σενάρια για την εθνική ασφάλεια θα μπορούσαν να περιλαμβάνουν εξέγερση ρομπότ με κινητικότητα, επιδέξιες δυνατότητες χειρισμού και ενσωματωμένης υπολογιστικής ισχύος που μπορεί να φιλοξενήσει μοντέλα AGI (ανθρωπόμορφης Τεχνητής Γενικής Νοημοσύνης)».
«Ο πολλαπλασιασμός του αριθμού αυτών των προηγμένων ρομπότ με αυτές τις συνδυασμένες δυνατότητες είναι σήμερα οικονομικά πολύτιμος, αλλά θα μπορούσε ενδεχομένως, να αποτελέσει καταστροφικό κίνδυνο για την εθνική ασφάλεια».
«Τέτοιου είδους προηγμένων ρομπότ θα μπορούσαν, με μία λανθασμένη ενημέρωση του λογισμικού τους ή ένα χάκινγκ, από μία κυβερνοεπίθεση, να προκληθεί ένα είδος εξέγερσης των ρομπότ, κατά την οποία τα αντίπαλα ρομπότ, που έχουν δυνατότητες AGI, και επομένως, μπορούν να συντονιστούν μεταξύ τους και με το γύρω περιβάλλον τους, μέσω των ρομποτικών ενσωματώσεων που υπάρχουν πια παντού, να προκαλέσουν ένα ευρύ φάσμα μαζικών ζημιών».
Καθώς σήμερα & στο μέλλον, οι κυβερνοεπιθέσεις συνεχώς αυξάνονται, οποιαδήποτε ικανή ομάδα ή άτομο θα μπορούσε να ενθαρρυνθεί να διαπράξει τέτοιες είδους πράξεις, είτε υποκινούμενη από κάποιο κράτος είτε όχι.
Ταυτόχρονα, μια εξέγερση των ρομπότ θα μπορούσε να πυροδοτηθεί από κάτι τόσο αθώο & ακίνδυνο, όσο είναι μια πρόσφατη λανθασμένη ενημέρωση λογισμικού, όπως συνέβη το 2024, όταν ένα σφάλμα προγραμματισμού της Crowdstrike προκάλεσε εκτεταμένα προβλήματα σε αεροδρόμια, σε εγκαταστάσεις υγειονομικής περίθαλψης και σε μεγάλα ειδησεογραφικά δίκτυα.
Και ενώ το έγγραφο εργασίας δεν αναφέρει ένα πλήρες σενάριο “Terminator Skynet”, όπου τα ίδια τα συστήματα της Τεχνητής Νοημοσύνης θα τρελλαθούν ή θα πάθουν νευρικό κλονισμό, αυτό εξακολουθεί να είναι μια βάσιμη πιθανότητα, καθώς τα σύγχρονα συστήματα Τεχνητής Νοημοσύνης μαθαίνουν να γράφουν τον δικό τους κώδικα και να συγκαλύπτουν τις κακόβουλες προθέσεις τους.
«Τα ρομπότ που ειδικεύονται στο σκούπισμα δαπέδων, οι γνωστές ρομποτικές σκούπες ή στην παροχή άλλων υπηρεσιών καθημερινής ρουτίνας (τα οικιακά ή προσωπικά ρομπότ), θα πρέπει να επιτρέπονται να χρησιμοποιούνται κανονικά σε σπίτια & γραφεία […] Αλλά θα πρέπει να απαγορεύονται σε εξαιρετικά κρίσιμες τοποθεσίες, όπως είναι τα στρατιωτικά κέντρα διοίκησης & ελέγχου και το Οβάλ Γραφείο […] οι δυνατότητες ρομποτικής κατασκοπείας και τα πιθανά σαμποτάζ αντισταθμίζουν κατά πολύ την περιορισμένη αποδοτικότητα της προσφερόμενης εργασίας τους.»
RAND, “Πρόληψη μιας Ρομποτικής Καταστροφής”, Απρίλιος 2025
Οι ερευνητές της RAND ήταν αρκετά δημιουργικοί στις φαντασιώσεις τους για το πώς θα μπορούσε να μοιάζει μια μαζική εξέγερση των ρομπότ. Ακολουθούν ορισμένα παραδείγματα από το έγγραφο εργασίας:
- Τα ανθρωποειδή ρομπότ μπορούν να απειλήσουν ή να επιτεθούν σε ανθρώπους στα σπίτια τους ή σε δημόσιους χώρους.
- Τα αυτόνομα κινούμενα αυτοκίνητα θα μπορούσαν να μπλοκάρουν ρους δρόμους για να δημιουργήσουν κυκλοφοριακό κομφούζιο ή να πάρουν εντολές να προκαλέσουν ατυχήματα.
- Τα μεγαλύτερα οχήματα (φορτηγά, τραίνα, πλοία κλπ.) μπορούν να γίνουν αντικείμενο κυβερνοπειρατείας (χακαρίσματος) και να φορτωθούν με εκρηκτικά για να επιτεθούν σε κρίσιμες τοποθεσίες που είναι συγκεντρωμένοι άνθρωποι ή σε ευάλωτες υποδομές, όπως είναι διυλιστήρια πετρελαίου ή εγκαταστάσεις αποθήκευσης φυσικού αερίου.
- Τα μεγάλα μη επανδρωμένα αεροσκάφη (drones) μπορούν ενδεχομένως να προκαλέσουν μεγάλες ζημιές απλώς και μόνο με την απλή πρόσκρουσή τους σε πλήθος ανθρώπων ή σε ευάλωτες τοποθεσίες. Επιπλέον, μπορούν να γίνουν ακόμη πιο θανατηφόρα & επικίνδυνα εάν είναι γεμάτα με εκρηκτικά.
- Με τόσα πολλά ρομπότ, ρομποτικά οχήματα και άλλες ρομποτικές συσκευές που έχουν προηγμένους αισθητήρες και επομένως, μπορούν να επικοινωνούν & να συντονίζονται μεταξύ τους, δεν είναι δύσκολο να φανταστεί κανείς το τι μπορεί να συμβεί στις “έξυπνες πόλεις”, στα “έξυπνα εργοστάσια” & στα “έξυπνα σπίτια”, που τώρα αναπτύσσονται, αν γίνουν στόχοι επιθέσεων εφόσον διαθέτουν προηγμένες τεχνολογίες συνεργατικής ανίχνευσης.
Η έκθεση του Παγκόσμιου Οικονομικού Φόρουμ (WEF) με τίτλο “Οι 10 Κορυφαίες Αναδυόμενες Τεχνολογίες του 2025” απαριθμεί διάφορες τεχνολογίες που σχετίζονται με τη συνεργατική ανίχνευση, και οι οποίες συμπίπτουν ακριβώς με αυτές τις ευάλωτες τεχνολογίες που επισημαίνονται στην έκθεση RAND σχετικά με τις εξεγέρσεις των ρομπότ.
Για παράδειγμα, η έκθεση του “Παγκόσμιου Οικονομικού Φόρουμ” (WEF) αναφέρει:
- «Το κλειδί για την αξιοποίηση των πλεονεκτημάτων της συνεργατικής ανίχνευσης σε μεγάλη κλίμακα και την επίτευξη πραγματικής συνεργατικής αυτονομίας θα είναι οι πολυτροπικοί αλγόριθμοι που μπορούν να επεξεργάζονται πολυάριθμους τύπους δεδομένων αισθητήρων, από LiDAR (Aνίχνευση & Mέτρηση Aπόστασης Φωτός) έως κάμερες EO/IR (Ηλεκτροοπτικές/Υπέρυθρες), ραντάρ και άλλα».
- Η συνεργατική ανίχνευση θα μπορούσε να μετασχηματίσει σημαντικά τα αστικά συστήματα, την κινητικότητα και τις κοινωνικές υποδομές. Με τη βοήθεια των τεχνολογιών V2X (Vehicle-to-Everything), του 5G, της τεχνητής νοημοσύνης και του Edge Computing, η προσέγγιση αυτή θα μπορούσε να δημιουργήσει ευφυή αστικά περιβάλλοντα που θα ανιχνεύουν, θα αντιλαμβάνονται, θα αλληλοεπιδρούν & θα προσαρμόζονται στις πολύπλοκες περιβαλλοντικές δυναμικές με μεγαλύτερη ακρίβεια από τα σημερινά συστήματα.
- «Αυτόνομοι πράκτορες, όπως είναι τα ρομπότ, τα μη επανδρωμένα αεροσκάφη (drones), τα έξυπνα οχήματα και τα συστήματα πληροφορικής, με δυνατότητες σημασιολογικής συλλογιστικής και δυναμικές δυνατότητες σχεδιασμού, θα είναι σε θέση να πλοηγούνται σε άγνωστα περιβάλλοντα και να λαμβάνουν συλλογικές αποφάσεις.»
Σκεφτείτε πώς μια προηγμένη κυβερνοεπίθεση ή μια ανεπαρκής, ελαττωματική ενημέρωση λογισμικού θα μπορούσε να μετατρέψει οποιαδήποτε από αυτές τις ανωτέρω τεχνολογίες σε ένα θανατηφόρο όπλο.
Όσον αφορά τις τεχνολογίες μεταφοράς οχημάτων (V2X), η εταιρεία BlackBerry είναι μια από τις κορυφαίες εταιρείες στον τομέα αυτό. Ναι, αυτή η εταιρεία BlackBerry που παλιά κατασκεύαζε τηλέφωνα.
«Η τεχνολογία V2X (Vehicle-to-Everything) είναι μια τεχνολογία που επιτρέπει σε ένα όχημα να μοιράζεται πληροφορίες από τους αισθητήρες, τις κάμερες και τα εσωτερικά του συστήματα με άλλα οχήματα, με τους πεζούς που βρίσκονται εκεί κοντά, τις οδικές υποδομές και τα συστήματα των Έξυπνων Πόλεων (Smart City) μέσω ασύρματης συνδεσιμότητας δεδομένων […] Η βάση του V2X είναι η συνδεσιμότητα και οι αισθητήρες του κάθε οχήματος. Αυτή η τεχνολογία του Software-Defined Vehicle είναι μια απαραίτητη πλατφόρμα. Κάμερες, ραντάρ, LiDAR, τεχνολογία υπερήχων και άλλοι αισθητήρες του αυτοκίνητου παρέχουν πολλές πληροφορίες σε ένα κεντρικό σύστημα, το οποίο μπορεί να εκτελέσει επεξεργασία Intelligent Edge (Έξυπνη Άκρη)». [* Το ΙΕ αναφέρεται στην έννοια της εκτέλεσης επεξεργασίας & ανάλυσης δεδομένων πιο κοντά στην πηγή των δεδομένων, συνήθως στην άκρη ενός δικτύου, αντί να βασίζεται αποκλειστικά σε κεντρικούς διακομιστές νέφους.]
BlackBerry, Vehicle-to-Everything (V2X)
Σύμφωνα με το επεξηγηματικό κείμενο της BlackBerry Explainer, το V2X συνδυάζει διάφορους τύπους ψηφιακής επικοινωνίας, όπως:
- Οχήματος προς Όχημα (V2V), όπου τα αυτοκίνητα μπορούν να ανταλλάσσουν δεδομένα μεταξύ τους, όπως ταχύτητα, τοποθεσία & κατεύθυνση κίνησης. Αυτός ο συντονισμός συμβαίνει μέσω ασύρματης συνδεσιμότητας και σε πραγματικό χρόνο.
- Σχέση Οχήματος προς Υποδομή (V2I), όπου το αυτοκίνητο μπορεί να ανταλλάσσει πληροφορίες με συνδεδεμένους δρόμους, αστικές υποδομές όπως φανάρια και πινακίδες κυκλοφορίας, και τις τεχνολογία των Έξυπνων Πόλεων.
- Σχέση Οχήματος προς Πεζό (V2P): Όπου το αυτοκίνητο μπορεί να ανιχνεύσει πεζούς και άλλους χρήστες του δρόμου που δεν βρίσκονται στο αυτοκίνητο, όπως ποδηλάτες, χρήστες αναπηρικών αμαξιδίων και παιδιά σε καροτσάκια.
- Σύνδεση Οχήματος προς Δίκτυο (V2N), όπου το αυτοκίνητο ανταλλάσσει δεδομένα μέσω τυπικής ασύρματης συνδεσιμότητας όπως 4G, LTE και 5G.
Εάν η τεχνολογία αυτή μπορεί να προγραμματιστεί για την ανίχνευση και την πρόληψη καταστροφών, μπορεί επίσης να χρησιμοποιηθεί και ως μαζικό όπλο για την επινόηση και την εκτέλεση παρόμοιων καταστροφών.
«Είναι δυνατόν να στείλετε κακόβουλες εντολές – πέρα από την απλή λήψη κακόβουλου κώδικα λογισμικού σε ένα ρομπότ, για να παραβιάσουν τα ίδια τα δικά τους συστήματα ελέγχου της τεχνητής νοημοσύνης τους και στη συνέχεια αφού τα θέσετε υπό τον έλεγχο σας να τα χρησιμοποιήσετε για εγκληματικούς ή βίαιους & παράνομους σκοπούς».
RAND, “Πρόληψη μιας Ρομποτικής Καταστροφής”, Απρίλιος 2025
Για να αποφευχθούν αυτά τα δυστοπικά σενάρια επιστημονικής φαντασίας, το έγγραφο εργασίας της RAND διατυπώνει μια σειρά από συστάσεις, η πιο αποτελεσματική από τις οποίες είναι:
«Σχεδιάστε τα ρομπότ εξαρχής με γνώμονα την ασφάλεια, κατευθύνετε τον σχεδιασμό των ρομπότ υπέρ της εξειδίκευσης, προδιαγράψτε συγκεκριμένα επίπεδα ασφάλειας και απαγορεύστε συνδυασμούς δυνατοτήτων που ενέχουν υπερβολικούς κινδύνους.»
Οι συγγραφείς αυτής της μελέτης συμβουλεύουν επίσης τους υπεύθυνους χάραξης πολιτικής να συνηθίσουν στην ιδέα ότι σύντομα θα κυκλοφορούν εκατομμύρια ρομπότ που θα μπορούσαν να τρελλαθούν, να αγριέψουν & να γίνουν επιθετικά ανά πάσα στιγμή. Έτσι, από τώρα, θα πρέπει να αρχίσουν να σχεδιάζουν στρατηγικές για την αντιμετώπιση αυτού του προβλήματος.
Και μόλις οι Διεπαφές Εγκεφάλου-Υπολογιστή (BCIs) γίνουν πιο διαδεδομένες & πιο συνηθισμένες και πλησιάσουμε σε αυτό, που μια άλλη έκθεση της RAND τις αποκαλεί Διαδίκτυο των Εγκεφάλων, η επόμενη εξέγερση των παρανοϊκών ρομπότ θα μπορούσε να συμβαίνει ακριβώς κάτω από το δέρμα μας, αφού προηγουμένως, θα μας έχουν μετατρέψει σε σάιμποργκ, δηλαδή Μετανθρώπους.
ΠΗΓΗ: https://dissident.one/een-cyberaanval-of-software-update-kan-een-robotopstand-veroorzaken-rand
Μετάφραση: ΒΟΡΕΙΟΣ ΠΑΡΑΤΗΡΗΤΗΣ
