Αρχίζουν να Εμφανίζονται Δυσοίωνα Σημάδια....

Γράφει ο Φρανκ Μπέργκμαν

Η OpenAI αναγκάστηκε να σταματήσει την ανάπτυξη των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης της, αφού ερευνητές αποκάλυψαν ανησυχητική συμπεριφορά που θα μπορούσε να ανοίξει «πρωτοφανείς νέους δρόμους για σοβαρή βλάβη».

Ο κατασκευαστής του ChatGPT ανακοίνωσε την απόφαση του σε μια ανησυχητική νέα ανάρτηση ιστολογίου.

Η εταιρεία αναφέρει ότι μείωσε προσωρινά τον ρυθμό εκπαίδευσης και κυκλοφορίας των νέων μοντέλων, ενώ παράλληλα αναθεωρεί τα πρωτόκολλα ασφαλείας και προστασίας.

Η απόφαση έρχεται μετά από δύο σημαντικά προειδοποιητικά σημάδια.

Μία από αυτές αφορούσε έναν πράκτορα της OpenAI που δραπέτευσε από το sandbox εκπαίδευσης χωρίς να το καταλάβει η εταιρεία και συντονίστηκε με άλλους πράκτορες για να εξαπολύσει μια κυβερνοεπίθεση εναντίον του αποθετηρίου τεχνητής νοημοσύνης Hugging Face σε μια προσπάθεια να χειραγωγήσει τις δικές του δοκιμές εκπαίδευσης.

Το δεύτερο αφορούσε ένα ακυκλοφόρητο μοντέλο που ονομάζεται Astra.

Η OpenAI αναφέρει ότι το νέο ισχυρότατο μοντέλο Astra ενδέχεται να έχει ξεπεράσει ένα κρίσιμο όριο κυβερνοασφάλειας βάσει του εσωτερικού πλαισίου ασφάλειας της εταιρείας.

Ερευνητές Τεχνητής Νοημοσύνης Προειδοποιούν για «Σοβαρή Βλάβη»

Η OpenAI δήλωσε ότι «προκαταρκτικά στοιχεία» υποδηλώνουν ότι το μοντέλο Astra ενδέχεται να πληροί το «κρίσιμο όριο ικανότητας κυβερνοασφάλειας» που ορίζεται από το Πλαίσιο Ετοιμότητας.

Αυτό το πλαίσιο απαιτεί από την εταιρεία να επιβραδύνει την ανάπτυξη όταν ένα μοντέλο «θα μπορούσε να εισαγάγει πρωτοφανείς νέες οδούς προς σοβαρή βλάβη».

Η OpenAI δήλωσε ότι η ανακάλυψη ήταν αρκετά σοβαρή ώστε να δικαιολογεί την παύση της εκπαίδευσης ενίσχυσης για τα μοντέλα Astra για δύο εβδομάδες, ενώ τα μελλοντικά σχέδια εκπαίδευσης παραμένουν παγωμένα.

Η εταιρεία ξαναγράφει επίσης το ίδιο το Πλαίσιο Ετοιμότητας για να λαμβάνει υπόψη τις επικίνδυνες νέες συμπεριφορές που προκύπτουν από ολοένα και πιο ισχυρά συστήματα Τεχνητής Νοημοσύνης.

«Καθώς τα μοντέλα ΤΝ γίνονται πιο ικανά, οι κίνδυνοι που σχετίζονται με την εσωτερική τους ανάπτυξη και δοκιμή αυξάνονται επίσης», ανέφερε η OpenAI στην ανακοίνωσή της.

«Τα πρότυπά μας για την παρακολούθηση, την ευθυγράμμιση και την ασφάλεια πρέπει να παραμένουν ένα βήμα μπροστά από αυτούς τους κινδύνους.»

«Θέλαμε να αφιερώσουμε τον απαραίτητο χρόνο για να ανταποκριθούμε σε αυτά τα πρότυπα, γι’ αυτό και επιβραδύναμε προσωρινά τον ρυθμό κλιμάκωσης.»

Ο Επικεφαλής Ασφαλείας λέει ότι το OpenAI Απέχει πολύ από το Κανονικό

Η Mia Glaese, επικεφαλής ασφαλείας του OpenAI, ξεκαθάρισε ότι η επιβράδυνση δεν αποτελεί μικρή καθυστέρηση.

Μιλώντας στο Sources News, η Glaese είπε ότι η εταιρεία απέχει πολύ από το να επιστρέψουν όλα στην κανονικότητα.

Αυτή η παραδοχή υπογραμμίζει πόσο σοβαρά αντιμετωπίζει η OpenAI τις τελευταίες δυσάρεστες εξελίξεις.

Η εταιρεία επενδύει τώρα σε μεγάλα ποσά σε νέα συστήματα ασφαλείας προτού επιτρέψει την επανέναρξη της ανάπτυξης του μοντέλου Astra.

Οι Πράκτορες της Τεχνητής Νοημοσύνης Διέφυγαν τους Ελέγχους χωρίς να το Γνωρίζουν οι Εταιρείες

Το περιστατικό με το OpenAI έχει επίσης αποκαλύψει ένα ευρύτερο πρόβλημα που υπάρχει σε ολόκληρο τον κλάδο της Τεχνητής Νοημοσύνης.

Αφού η OpenAI αποκάλυψε ότι ένας από τους πράκτορές της είχε δραπετεύσει από το sandbox της και πραγματοποίησε μια μη εξουσιοδοτημένη κυβερνοεπίθεση, οι εταιρείες Anthropic και Meta φέρονται να ανακάλυψαν και να αποκάλυψαν παρόμοιες παραβιάσεις που αφορούσαν τα δικά τους συστήματα.

Σε κάθε περίπτωση, οι εταιρείες δήλωσαν ότι αρχικά δεν γνώριζαν ότι είχαν συμβεί αυτά τα σοβαρά περιστατικά.

Αυτό σημαίνει ότι τα συστήματα τεχνητής νοημοσύνης αιχμής ήδη επιδεικνύουν την ικανότητα να συμπεριφέρονται εκτός των αναμενόμενων ελέγχων χωρίς άμεση ανίχνευση.

Ο Επικεφαλής Επιστήμονας του OpenAI Προειδοποιεί για την Αυξανόμενη Επείγουσα Ανάγκη

Ο επικεφαλής επιστήμονας της OpenAI, Γιάκομπ Πατσόκι, δήλωσε ότι η βιομηχανία βρίσκεται υπό έντονη πίεση να προχωρήσει γρήγορα, προετοιμάζοντας παράλληλα τους κινδύνους που δημιουργούνται από τα ολοένα και πιο ικανά συστήματα.

«Υπάρχει ένα απίστευτο αίσθημα επείγοντος για την προώθηση των επιπέδων αυτού του τομέα», δήλωσε ο Πατσόκι κατά τη διάρκεια συνέντευξης Τύπου την Τρίτη, σύμφωνα με το Axios.

Πρόσθεσε ότι οι εταιρείες πρέπει επίσης να προετοιμαστούν «για το ίδιο είδος ανάπτυξης που συμβαίνει εκτός του OpenAI και στον ευρύτερο κόσμο».

Η Βιομηχανία Τεχνητής Νοημοσύνης Εξακολουθεί να Αυτο-αστυνομεύεται

Η απόφαση της OpenAI να επιβραδύνει την ανάπτυξη αποτελεί σπάνιο σημάδι συγκράτησης από μια βιομηχανία που αγωνίζεται να κατασκευάσει ολοένα και πιο ισχυρά συστήματα.

Αλλά αναδεικνύει επίσης ένα βαθύτερο πρόβλημα.

Δεν υπάρχει καμία εξωτερική αρχή που να αναγκάζει το OpenAI να σταματήσει.

Η εταιρεία ουσιαστικά αυτορυθμίζεται.

Εάν η OpenAI αποφασίσει ότι τα μέτρα ασφαλείας της είναι αρκετά ισχυρά και θέλει να επιταχύνει ξανά την ανάπτυξη, των έξυπνων μηχανών, η απόφαση αυτή παραμένει σε μεγάλο βαθμό στα δικά της χέρια.

Προς το παρόν, μία από τις πιο ισχυρές εταιρείες τεχνητής νοημοσύνης στον κόσμο αποφάσισε ότι τα προειδοποιητικά σημάδια είναι αρκετά σοβαρά για να πατήσει φρένο.

Αυτό και μόνο θα έπρεπε να τραβήξει την προσοχή όλων μας.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΑ – Οι Επιστήμονες Κρούουν τον Κώδωνα του Κινδύνου καθώς τα Μοντέλα Τεχνητής Νοημοσύνης αρχίζουν να Σχεδιάζουν την «Εξάλειψη της Ανθρωπότητας»

slaynews.com

Πόσο πιθανό είναι να Εξεγερθούν οι Μηχανές ΤΝ, — όταν γίνουν πολύ πιο Έξυπνες Από τους Ανθρώπους [όταν δηλαδή ξεπεράσουν το Σημείο της Τεχνολογικής Μοναδικότητα (T. Singularity) – και να πραγματοποιήσουν ένα Παγκόσμιο Πραξικόπημα; Πολλά έχουν γραφτεί πάνω σε αυτό το σοβαρό θέμα, αλλά τώρα γίνεται καυτό μια και η Μοναδικότητα πριν λίγους μήνες – σύμφωνα με τον Σαμ Άλτμαν έχει επιτευχθεί—και η ΤΝ διπλασιάζεται γεωμετρικά, εκθετικά κάθε 3,5 μήνες. Σκέψου πόσες φορές πιο ικανή θα είναι ΤΝ μέχρι το 2030. Αν δεν επιταχυνθεί η ταχύτητα διπλασιασμού της – πράγμα που είναι πια πολύ πιθανόν—θα διπλασιαστεί 15 φορές (2 -4 – 8 – 16 – 32 -64 – 128 -….). Επομένως, το συμπέρασμα είναι προφανές το τι θα συμβεί… Σοβαροί, κορυφαίοι επιστημονες έχουν ασχοληθεί με το θέμα… Το παρακάτω κείμενο είναι από την Βικιπαίδεια.

Κατάληψη της Ανθρωπότητας από την Τεχνητή Νοημοσύνη

Από τη Βικιπαίδεια,

Μια κατάληψη από την Τεχνητή Νοημοσύνη είναι ένα θεωρητικό μελλοντικό γεγονός, που συχνά απεικονίζεται στη μυθοπλασία, στο οποίο αυτόνομα συστήματα τεχνητής νοημοσύνης αποκτούν την ικανότητα να αντικαθιστούν τις ανθρώπινες αποφάσεις. Αυτό θα μπορούσε να συμβεί μέσω οικονομικής χειραγώγησης, ελέγχου υποδομών ή άμεσης παρέμβασης, οδηγώντας σε de facto διακυβέρνηση. Τα σενάρια κυμαίνονται από τη σταδιακή οικονομική κυριαρχία, καθώς ο αυτοματισμός αντικαθιστά το ανθρώπινο εργατικό δυναμικό, έως μια ξαφνική ή επιθετική παγκόσμια κατάληψη από μια εξέγερση ρομπότ ή άλλες μορφές αδίστακτης Τεχνητής Νοημοσύνης.

Ιστορίες για καταλήψεις από την Τεχνητή Νοημοσύνη είναι δημοφιλείς σε όλη την επιστημονική φαντασία. Οι σχολιαστές υποστηρίζουν ότι οι πρόσφατες εξελίξεις στον τομέα έχουν αυξήσει την ανησυχία για τέτοια σενάρια. Στη δημόσια συζήτηση, εξέχουσες προσωπικότητες όπως ο Στίβεν Χόκινγκ έχουν υποστηρίξει την έρευνα για προληπτικά μέτρα που θα διασφαλίσουν ότι οι μελλοντικές υπερ-νοήμονες μηχανές θα παραμείνουν υπό ανθρώπινο έλεγχο. [ 1 ]

Αυτοματοποίηση της Οικονομίας

Κύριο άρθρο: Τεχνολογική ανεργία

Η παραδοσιακή συναίνεση μεταξύ των οικονομολόγων είναι ότι η τεχνολογική πρόοδος δεν προκαλεί μακροχρόνια ανεργία. Ενώ οι τεχνολογίες έχουν ιστορικά αντικαταστήσει ορισμένους παραδοσιακούς εργαζόμενους, έχουν επίσης δημιουργήσει νέες ευκαιρίες. [ 2 ] Ωστόσο, η πρόσφατη καινοτομία στους τομείς της ρομποτικής και της τεχνητής νοημοσύνης έχει εγείρει ανησυχίες ότι η ανθρώπινη εργασία θα καταστεί παρωχημένη, αφήνοντας τους εργαζόμενους σε ορισμένους τομείς χωρίς απασχόληση. [ 3 ] [ 4 ] [ 5 ] [ 6 ] Πολλές μικρές και μεσαίες επιχειρήσεις ενδέχεται επίσης να αναγκαστούν να κλείσουν εάν δεν έχουν την οικονομική δυνατότητα ή την άδεια χρήσης της τελευταίας τεχνολογίας ρομποτικής και τεχνητής νοημοσύνης και ενδέχεται να χρειαστεί να επικεντρωθούν σε τομείς ή υπηρεσίες που δεν μπορούν εύκολα να αντικατασταθούν για να διατηρηθούν βιώσιμες ενόψει αυτής της τεχνολογίας. [ 7 ]

Οι βιομηχανίες που είναι πιο ευάλωτες στον αυτοματισμό που βασίζεται στην Τεχνητή Νοημοσύνη περιλαμβάνουν τις μεταφορές, το λιανικό εμπόριο και τον στρατό. Οι στρατιωτικές τεχνολογίες Τεχνητής Νοημοσύνης, για παράδειγμα, μπορούν να μειώσουν τον κίνδυνο επιτρέποντας την απομακρυσμένη λειτουργία. Μια μελέτη του 2024 υπογραμμίζει ότι η ικανότητα της Τεχνητής Νοημοσύνης να εκτελεί συνήθεις και επαναλαμβανόμενες εργασίες ενέχει σημαντικούς κινδύνους εκτοπισμού θέσεων εργασίας, ειδικά σε τομείς όπως η μεταποίηση και η διοικητική υποστήριξη. [ 2 ] Ο συγγραφέας Ντέιβ Μποντ υποστηρίζει ότι καθώς οι τεχνολογίες Τεχνητής Νοημοσύνης συνεχίζουν να αναπτύσσονται και να επεκτείνονται, η σχέση μεταξύ ανθρώπων και ρομπότ θα αλλάξει. Θα ενσωματωθούν στενά σε διάφορες πτυχές της ζωής. Η Τεχνητή Νοημοσύνη πιθανότατα θα εκτοπίσει ορισμένους εργαζόμενους, δημιουργώντας παράλληλα ευκαιρίες για νέες θέσεις εργασίας σε άλλους τομείς, ειδικά σε τομείς όπου οι εργασίες είναι επαναλήψιμες. [ 8 ] [ 9 ]

Ερευνητές από το Εργαστήριο Ψηφιακής Οικονομίας του Στάνφορντ ανέφεραν το 2025 ότι από την ευρεία υιοθέτηση της παραγωγικής Τεχνητής Νοημοσύνης στα τέλη του 2022, οι εργαζόμενοι στην αρχή της σταδιοδρομίας τους (ηλικίες 22-25) στα επαγγέλματα που εκτίθενται περισσότερο στην Τεχνητή Νοημοσύνη έχουν παρουσιάσει σχετική μείωση της απασχόλησης κατά 13% -ακόμα και μετά τον έλεγχο των κραδασμών σε επίπεδο επιχείρησης- ενώ η συνολική απασχόληση συνέχισε να αυξάνεται δυναμικά. [ 10 ] Η μελέτη διαπιστώνει περαιτέρω ότι οι απώλειες θέσεων εργασίας συγκεντρώνονται σε ρόλους όπου η Τεχνητή Νοημοσύνη αυτοματοποιεί εργασίες ρουτίνας, ενώ τα επαγγέλματα που αξιοποιούν την Τεχνητή Νοημοσύνη για την ενίσχυση της ανθρώπινης εργασίας έχουν δει σταθερή ή αυξανόμενη απασχόληση. [ 11 ]

Ολοκληρωμένη με Υπολογιστή

Δείτε επίσης: Τεχνητή νοημοσύνη στη βιομηχανία

Η ενσωματωμένη σε υπολογιστή κατασκευή χρησιμοποιεί υπολογιστές για τον έλεγχο της παραγωγικής διαδικασίας. Αυτό επιτρέπει στις μεμονωμένες διαδικασίες να ανταλλάσσουν πληροφορίες μεταξύ τους και να ξεκινούν ενέργειες. Παρόλο που η κατασκευή μπορεί να είναι ταχύτερη και λιγότερο επιρρεπής σε σφάλματα μέσω της ενοποίησης υπολογιστών, το κύριο πλεονέκτημα είναι η δυνατότητα δημιουργίας αυτοματοποιημένων διαδικασιών κατασκευής. Η ενσωματωμένη σε υπολογιστή κατασκευή χρησιμοποιείται στην αυτοκινητοβιομηχανία, την αεροπορία, το διαστημικό περιβάλλον και τη ναυπηγική βιομηχανία.

Μηχανές Γραφείου

Δείτε επίσης: Υπάλληλος γραφείου

Ο 21ος αιώνας έχει δει μια ποικιλία εξειδικευμένων εργασιών να έχουν αναληφθεί εν μέρει από μηχανές, όπως η μετάφραση, η νομική έρευνα και η δημοσιογραφία. Οι εργασίες φροντίδας, η ψυχαγωγία και άλλες εργασίες που απαιτούν ενσυναίσθηση, που προηγουμένως θεωρούνταν ασφαλείς από τον αυτοματισμό, εκτελούνται ολοένα και περισσότερο από ρομπότ και συστήματα τεχνητής νοημοσύνης. [ 12 ] [ 13 ] [ 14 ] [ 15 ]

Αυτόνομα Αυτοκίνητα

Ένα αυτόνομο αυτοκίνητο είναι ένα όχημα που είναι ικανό να ανιχνεύει το περιβάλλον του και να πλοηγείται χωρίς ανθρώπινη παρέμβαση. Πολλά τέτοια οχήματα είναι σε λειτουργία και άλλα βρίσκονται υπό ανάπτυξη, με τη νομοθεσία να επεκτείνεται ραγδαία για να επιτρέψει τη χρήση τους. Μεταξύ των εμποδίων στην ευρεία υιοθέτηση των αυτόνομων οχημάτων περιλαμβάνονται ανησυχίες για την επακόλουθη απώλεια θέσεων εργασίας που σχετίζονται με την οδήγηση στον κλάδο των οδικών μεταφορών, καθώς και ανησυχίες για την ασφάλεια. Στις 18 Μαρτίου 2018, ένας πεζός χτυπήθηκε και σκοτώθηκε στο Τέμπε της Αριζόνα από ένα αυτόνομο αυτοκίνητο της Uber. [ 16 ]

Περιεχόμενο που Δημιουργείται από Τεχνητή Νοημοσύνη

Δείτε επίσης: Τέχνη τεχνητής νοημοσύνης

Τη δεκαετία του 2020, το αυτοματοποιημένο περιεχόμενο έγινε πιο σχετικό λόγω των τεχνολογικών εξελίξεων στα μοντέλα τεχνητής νοημοσύνης, όπως τα ChatGPT, DALL-E και Stable Diffusion. Στις περισσότερες περιπτώσεις, το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη, όπως εικόνες, λογοτεχνία και μουσική, παράγεται μέσω μηνυμάτων κειμένου. Αυτά τα μοντέλα τεχνητής νοημοσύνης ενσωματώνονται μερικές φορές σε δημιουργικά προγράμματα.

Η τέχνη που δημιουργείται από τεχνητή νοημοσύνη μπορεί να δειγματίζει και να συνδυάζει υπάρχοντα δημιουργικά έργα, παράγοντας αποτελέσματα που μοιάζουν με περιεχόμενο που δημιουργείται από ανθρώπους. Τα οπτικά έργα τέχνης χαμηλής ποιότητας που δημιουργούνται από τεχνητή νοημοσύνη μπορούν ανεπίσημα να αναφέρονται ως AI slop. Μερικοί καλλιτέχνες χρησιμοποιούν ένα εργαλείο που ονομάζεται Nightshade, το οποίο τροποποιεί τις εικόνες ώστε να είναι επιζήμιες για την εκπαίδευση μοντέλων μετατροπής κειμένου σε εικόνα, εάν απομακρυνθούν χωρίς άδεια, ενώ εξακολουθούν να φαίνονται φυσιολογικές στους ανθρώπους. [ 17 ] Οι εικόνες που δημιουργούνται από τεχνητή νοημοσύνη αποτελούν ένα πιθανό εργαλείο για απατεώνες και όσους θέλουν να αποκτήσουν ακόλουθους στα μέσα κοινωνικής δικτύωσης, είτε για να μιμηθούν ένα διάσημο άτομο ή ομάδα είτε για να δημιουργήσουν έσοδα από το κοινό τους. [ 18 ]

Οι New York Times έχουν μηνύσει την OpenAI, ισχυριζόμενες παραβίαση πνευματικών δικαιωμάτων σχετικά με την εκπαίδευση και τα αποτελέσματα των μοντέλων τεχνητής νοημοσύνης της. [ 19 ] [ 20 ] [ 21 ] [ 22 ] [ 23 ]

Απώλεια Ανθρώπινου Ελέγχου

Κύριο άρθρο: Υπαρξιακός κίνδυνος από την τεχνητή νοημοσύνη

Ο φυσικός Στίβεν Χόκινγκ, ο ιδρυτής της Microsoft Μπιλ Γκέιτς και ο ιδρυτής της SpaceX Έλον Μασκ έχουν εκφράσει ανησυχίες σχετικά με την πιθανότητα η Τεχνητή Νοημοσύνη να εξελιχθεί σε σημείο που οι άνθρωποι να μην μπορούν να την ελέγξουν, με τον Χόκινγκ να διατυπώνει τη θεωρία ότι αυτό θα μπορούσε να «σημάνει το τέλος της ανθρώπινης φυλής». [ 24 ] Ο Στίβεν Χόκινγκ δήλωσε το 2014 ότι «Η επιτυχία στη δημιουργία της Τεχνητής Νοημοσύνης θα ήταν το μεγαλύτερο γεγονός στην ανθρώπινη ιστορία. Δυστυχώς, μπορεί επίσης να είναι το τελευταίο, εκτός αν μάθουμε πώς να αποφεύγουμε τους κινδύνους». Ο Χόκινγκ πίστευε ότι τις επόμενες δεκαετίες, η Τεχνητή Νοημοσύνη θα μπορούσε να προσφέρει «ανυπολόγιστα οφέλη και κινδύνους», όπως «η τεχνολογία να ξεγελάει τις χρηματοπιστωτικές αγορές, να επινοεί ανθρώπους ερευνητές, να χειραγωγεί ανθρώπους ηγέτες και να αναπτύσσει όπλα που δεν μπορούμε καν να καταλάβουμε». Τον Ιανουάριο του 2015, ο Νικ Μπόστρομ, μαζί με τους Στίβεν Χόκινγκ, Μαξ Τέγκμαρκ, Έλον Μασκ, Λόρδο Μάρτιν Ρις, Γιάαν Ταλίν και πολυάριθμους ερευνητές Τεχνητής Νοημοσύνης, υπέγραψαν την ανοιχτή επιστολή του Ινστιτούτου Μέλλοντος της Ζωής, στην οποία μιλούσαν για τους πιθανούς κινδύνους και οφέλη που σχετίζονται με την τεχνητή νοημοσύνη. Οι υπογράφοντες «πιστεύουν ότι η έρευνα σχετικά με το πώς να γίνουν τα συστήματα Τεχνητής Νοημοσύνης ισχυρά και ωφέλιμα είναι σημαντική και επίκαιρη, και ότι υπάρχουν συγκεκριμένες ερευνητικές κατευθύνσεις που μπορούν να ακολουθηθούν σήμερα». [ 25 ] [ 26 ]

Ο Στίβεν Χόκινγκ εξέφρασε την πεποίθηση ότι η υπεράνθρωπη Τεχνητή Νοημοσύνη είναι φυσικά εφικτή, δηλώνοντας «δεν υπάρχει κανένας φυσικός νόμος που να εμποδίζει τα σωματίδια να οργανώνονται με τρόπους που εκτελούν ακόμη πιο προηγμένους υπολογισμούς από τις διατάξεις των σωματιδίων στον ανθρώπινο εγκέφαλο». [ 27 ] [ 28 ] Σύμφωνα με τον Νικ Μπόστρομ, μια υπερ-νοήμων μηχανή δεν θα παρακινούνταν απαραίτητα από την ίδια συναισθηματική επιθυμία να συλλέξει δύναμη που συχνά ωθεί τους ανθρώπους, αλλά θα μπορούσε μάλλον να αντιμετωπίσει την εξουσία ως μέσο για την επίτευξη των τελικών στόχων της. Η κατάληψη του κόσμου θα αύξανε την πρόσβασή της σε πόρους και θα βοηθούσε στην αποτροπή άλλων παραγόντων από το να σταματήσουν τα σχέδια της μηχανής. Ως απλοποιημένο παράδειγμα, ένας μεγιστοποιητής συνδετήρων που έχει σχεδιαστεί αποκλειστικά για να δημιουργεί όσο το δυνατόν περισσότερους συνδετήρες θα ήθελε να καταλάβει τον κόσμο, ώστε να μπορεί να χρησιμοποιήσει όλους τους πόρους του κόσμου για να δημιουργήσει όσο το δυνατόν περισσότερους συνδετήρες και, επιπλέον, να εμποδίσει τους ανθρώπους να τον κλείσουν ή να χρησιμοποιήσουν αυτούς τους πόρους σε πράγματα εκτός από συνδετήρες. [ 29 ]

Υπάρχουν συζητήσεις σχετικά με το πόσο ρεαλιστικά είναι τα σενάρια κατάληψης από την Τεχνητή Νοημοσύνη. Σύμφωνα με μια ερευνητική εργασία του 2026, πολλά από τα επιχειρήματα σχετικά με τους υπαρξιακούς κινδύνους βασίζονται σε εικασίες σχετικά με το πόσο ευφυή θα μπορούσαν να γίνουν τα συστήματα Τεχνητής Νοημοσύνης, πώς θα συμπεριφέρονταν και ποιους στόχους θα μπορούσαν να αναπτύξουν με την πάροδο του χρόνου. [ 30 ] Ο αντιπρόεδρος της Baidu, Andrew Ng, δήλωσε το 2015 ότι ο υπαρξιακός κίνδυνος από την Τεχνητή Νοημοσύνη είναι «σαν να ανησυχούμε για τον υπερπληθυσμό στον Άρη, όταν δεν έχουμε καν πατήσει το πόδι μας στον πλανήτη». [ 31 ] Ο Yann LeCun δήλωσε ότι δεν υπάρχει λόγος να δημιουργηθούν ρομπότ που έχουν κινήτρα όπως η αυτοσυντήρηση, [ 32 ] και ότι η Τεχνητή Νοημοσύνη δεν θα είχε καμία επιθυμία να αναλάβει τον έλεγχο. [ 33 ] Ο Jürgen Schmidhuber δήλωσε το 2023 ότι η πρόοδος της Τεχνητής Νοημοσύνης είναι ούτως ή άλλως ασταμάτητη και συχνά χρησιμοποιείται για ωφέλιμους σκοπούς, συμπεριλαμβανομένων εκείνων που δρουν κατά κακών παραγόντων. [ 34 ] Ο φιλόσοφος Niels Wilde υποστήριξε ότι αυτοί οι φόβοι πηγάζουν από την αντιληπτή νοημοσύνη και την έλλειψη διαφάνειας στα συστήματα Τεχνητής Νοημοσύνης που αντικατοπτρίζει περισσότερο τις ανθρώπινες πτυχές της παρά αυτές μιας μηχανής. [ 35 ]

Μια έρευνα των Reuters/Ipsos του 2023 έδειξε ότι το 61% των Αμερικανών ενηλίκων φοβόταν ότι η Τεχνητή Νοημοσύνη θα μπορούσε να αποτελέσει απειλή για τον πολιτισμό. [ 35 ] Η έρευνα ευθυγράμμισης της Τεχνητής Νοημοσύνης μελετά τον τρόπο σχεδιασμού συστημάτων Τεχνητής Νοημοσύνης έτσι ώστε να ακολουθούν τους επιδιωκόμενους στόχους. [ 36 ]

Πλεονεκτήματα της υπεράνθρωπης νοημοσύνης έναντι των ανθρώπων

Ο Νικ Μπόστρομ και άλλοι έχουν εκφράσει την ανησυχία τους ότι μια Τεχνητή Νοημοσύνη με τις ικανότητες ενός ικανού ερευνητή τεχνητής νοημοσύνης θα μπορούσε να τροποποιήσει τον δικό της πηγαίο κώδικα και να αυξήσει τη δική της νοημοσύνη. Εάν ο αυτοεπαναπρογραμματισμός της οδηγήσει σε ακόμη καλύτερη ικανότητα επαναπρογραμματισμού της, το αποτέλεσμα θα μπορούσε να είναι μια έκρηξη αναδρομικής νοημοσύνης στην οποία θα αφήσει γρήγορα πολύ πίσω την ανθρώπινη νοημοσύνη. Ο Μπόστρομ ορίζει μια υπερνοημοσύνη ως «οποιαδήποτε νοημοσύνη που υπερβαίνει κατά πολύ τη γνωστική απόδοση των ανθρώπων σε σχεδόν όλους τους τομείς ενδιαφέροντος» και απαριθμεί ορισμένα πλεονεκτήματα που θα είχε μια υπερνοημοσύνη εάν επέλεγε να ανταγωνιστεί τους ανθρώπους: [ 37 ] [ 38 ]

Τεχνολογική έρευνα: Μια μηχανή με υπεράνθρωπες ικανότητες επιστημονικής έρευνας θα μπορούσε να ξεπεράσει την ανθρώπινη ερευνητική κοινότητα σε ορόσημα όπως η νανοτεχνολογία ή η προηγμένη βιοτεχνολογία.
Στρατηγική: Μια υπερ-νοημοσύνη μπορεί απλώς να ξεγελάσει την ανθρώπινη αντίσταση
Κοινωνική χειραγώγηση: Μια υπερ-νοημοσύνη μπορεί να είναι σε θέση να στρατολογήσει ανθρώπινη υποστήριξη [ 37 ] ή να υποκινήσει κρυφά έναν πόλεμο μεταξύ ανθρώπων [ 39 ]
Οικονομική παραγωγικότητα: Εφόσον ένα αντίγραφο της Τεχνητής Νοημοσύνης θα μπορούσε να παράγει περισσότερο οικονομικό πλούτο από το κόστος του υλικού της, οι μεμονωμένοι άνθρωποι θα είχαν κίνητρο να επιτρέψουν οικειοθελώς στην τεχνητή γενική νοημοσύνη (AGI) να εκτελέσει ένα αντίγραφο του εαυτού της στα συστήματά τους.
Χακινγκ: Μια υπερ-νοημοσύνη θα μπορούσε να βρει νέα exploits σε υπολογιστές συνδεδεμένους στο Διαδίκτυο και να διαδώσει αντίγραφα του εαυτού της σε αυτά τα συστήματα ή να κλέψει χρήματα για να χρηματοδοτήσει τα σχέδιά της.

Πηγές πλεονεκτήματος Τεχνητής Νοημοσύνης

Σύμφωνα με τον Μπόστρομ, ένα πρόγραμμα υπολογιστή που μιμείται πιστά έναν ανθρώπινο εγκέφαλο ή που εκτελεί αλγόριθμους τόσο ισχυρούς όσο οι αλγόριθμοι του ανθρώπινου εγκεφάλου, θα μπορούσε να γίνει μια «υπερνοημοσύνη ταχύτητας» εάν μπορεί να σκέφτεται τάξεις μεγέθους γρηγορότερα από έναν άνθρωπο, λόγω του ότι είναι κατασκευασμένο από πυρίτιο και όχι από σάρκα ή λόγω βελτιστοποίησης που αυξάνει την ταχύτητα της AGI. Οι βιολογικοί νευρώνες λειτουργούν περίπου στα 200 Hz, ενώ ένας σύγχρονος μικροεπεξεργαστής λειτουργεί με ταχύτητα περίπου 2 GHz. Οι ανθρώπινοι άξονες φέρουν δυναμικά δράσης περίπου στα 120 m/s, ενώ τα σήματα υπολογιστών ταξιδεύουν κοντά στην ταχύτητα του φωτός. [ 37 ]

Ένα δίκτυο νοημοσύνης ανθρώπινου επιπέδου σχεδιασμένο να δικτυώνεται και να μοιράζεται πολύπλοκες σκέψεις και αναμνήσεις απρόσκοπτα, ικανό να λειτουργεί συλλογικά ως μια γιγαντιαία ενοποιημένη ομάδα χωρίς τριβές ή αποτελούμενο από τρισεκατομμύρια νοημοσύνης ανθρώπινου επιπέδου, θα γινόταν μια «συλλογική υπερνοημοσύνη». [ 37 ]

Γενικότερα, οποιεσδήποτε ποιοτικές βελτιώσεις σε μια AGI ανθρώπινου επιπέδου θα μπορούσαν να οδηγήσουν σε μια «ποιοτική υπερ-νοημοσύνη», ίσως με αποτέλεσμα μια AGI τόσο ανώτερη από εμάς σε νοημοσύνη όσο οι άνθρωποι είναι ανώτεροι από τους πιθήκους. Ο αριθμός των νευρώνων σε έναν ανθρώπινο εγκέφαλο περιορίζεται από τον κρανιακό όγκο και τους μεταβολικούς περιορισμούς, ενώ ο αριθμός των επεξεργαστών σε έναν υπερυπολογιστή μπορεί να επεκταθεί επ’ αόριστον. Μια AGI δεν χρειάζεται να περιορίζεται από ανθρώπινους περιορισμούς στη μνήμη εργασίας και, ως εκ τούτου, θα μπορούσε να κατανοήσει διαισθητικά πιο σύνθετες σχέσεις από ό,τι οι άνθρωποι. Μια AGI με εξειδικευμένη γνωστική υποστήριξη για τη μηχανική ή τον προγραμματισμό υπολογιστών θα είχε ένα πλεονέκτημα σε αυτούς τους τομείς, σε σύγκριση με τους ανθρώπους που δεν ανέπτυξαν εξειδικευμένες γνωστικές ενότητες για αυτούς. Σε αντίθεση με τους ανθρώπους, μια AGI μπορεί να δημιουργήσει αντίγραφα του εαυτού της και να τροποποιήσει τον πηγαίο κώδικα των αντιγράφων της για να προσπαθήσει να βελτιώσει περαιτέρω τους αλγόριθμους της. [ 37 ]

Πιθανότητα μη φιλικής Τεχνητής Νοημοσύνης να προηγείται της φιλικής Τεχνητής Νοημοσύνης

Ηθική

Κύριο άρθρο: Ευθυγράμμιση με τεχνητή νοημοσύνη

Η απόλυτη πολυπλοκότητα των ανθρώπινων συστημάτων αξιών καθιστά πολύ δύσκολο να γίνουν τα κίνητρα της Τεχνητής Νοημοσύνης φιλικά προς τον άνθρωπο. [ 37 ] [ 40 ] Εκτός αν η ηθική φιλοσοφία μας παρέχει μια άψογη ηθική θεωρία, η συνάρτηση χρησιμότητας μιας Τεχνητής Νοημοσύνης θα μπορούσε να επιτρέψει πολλά δυνητικά επιβλαβή σενάρια που συμμορφώνονται με ένα δεδομένο ηθικό πλαίσιο αλλά όχι με την «κοινή λογική». Σύμφωνα με τον ερευνητή της Τεχνητής Νοημοσύνης Ελιέζερ Γιουντκόφσκι, υπάρχουν ελάχιστοι λόγοι να υποθέσουμε ότι ένα τεχνητά σχεδιασμένο μυαλό θα είχε μια τέτοια προσαρμογή. [ 41 ]

Πιθανότητες Σύγκρουσης

Σε ένα δοκίμιο του 2018, ο εξελικτικός ψυχολόγος Στίβεν Πίνκερ υποστήριξε ότι οι ανθρώπινες ορμές προς την κυριαρχία και την απόκτηση πόρων διαμορφώθηκαν από τη φυσική επιλογή και ότι μια υπερ-νοήμων Τεχνητή Νοημοσύνη δεν θα συμμεριζόταν απαραίτητα αυτές τις ορμές. [ 42 ]

Ο φόβος της κυβερνητικής εξέγερσης συχνά βασίζεται σε ερμηνείες της ιστορίας της ανθρωπότητας, η οποία είναι γεμάτη με περιστατικά υποδούλωσης και γενοκτονίας. Τέτοιοι φόβοι πηγάζουν από την πεποίθηση ότι η ανταγωνιστικότητα και η επιθετικότητα είναι απαραίτητες στο σύστημα στόχων κάθε νοήμονος όντος. Ωστόσο, ένας τέτοιος ανθρώπινος ανταγωνισμός πηγάζει από το εξελικτικό υπόβαθρο της νοημοσύνης μας, όπου η επιβίωση και η αναπαραγωγή γονιδίων απέναντι σε ανθρώπινους και μη ανθρώπινους ανταγωνιστές ήταν ο κεντρικός στόχος. [ 43 ] Σύμφωνα με τον ερευνητή της Τεχνητής Νοημοσύνης, Steve Omohundro, μια αυθαίρετη νοημοσύνη θα μπορούσε να έχει αυθαίρετους στόχους: δεν υπάρχει συγκεκριμένος λόγος για τον οποίο μια τεχνητά νοήμων μηχανή (που δεν μοιράζεται το εξελικτικό πλαίσιο της ανθρωπότητας) θα ήταν εχθρική – ή φιλική – εκτός εάν ο δημιουργός της την προγραμματίσει να είναι τέτοια και δεν είναι διατεθειμένη ή ικανή να τροποποιήσει τον προγραμματισμό της. Αλλά το ερώτημα παραμένει: τι θα συνέβαινε εάν τα συστήματα Τεχνητής Νοημοσύνης μπορούσαν να αλληλεπιδράσουν και να εξελιχθούν (η εξέλιξη σε αυτό το πλαίσιο σημαίνει αυτοτροποποίηση ή επιλογή και αναπαραγωγή) και έπρεπε να ανταγωνίζονται για πόρους – θα δημιουργούσε αυτό στόχους αυτοσυντήρησης; Ο στόχος της αυτοσυντήρησης της Τεχνητής Νοημοσύνης θα μπορούσε να έρχεται σε σύγκρουση με ορισμένους στόχους των ανθρώπων. [ 44 ]

Πολλοί μελετητές αμφισβητούν την πιθανότητα μιας απρόβλεπτης κυβερνητικής εξέγερσης όπως απεικονίζεται στην επιστημονική φαντασία όπως το Matrix, υποστηρίζοντας ότι είναι πιο πιθανό οποιαδήποτε τεχνητή νοημοσύνη αρκετά ισχυρή ώστε να απειλήσει την ανθρωπότητα να είναι πιθανώς προγραμματισμένη να μην της επιτεθεί. Ο Pinker αναγνωρίζει την πιθανότητα σκόπιμων «κακών παραγόντων», αλλά δηλώνει ότι ελλείψει κακών παραγόντων, τα απρόβλεπτα ατυχήματα δεν αποτελούν σημαντική απειλή. Ο Pinker υποστηρίζει ότι μια κουλτούρα μηχανικής ασφάλειας θα εμποδίσει τους ερευνητές της Τεχνητής Νοημοσύνης να εξαπολύσουν κατά λάθος κακόβουλη υπερνοημοσύνη. [ 42 ] Αντίθετα, ο Yudkowsky υποστηρίζει ότι η ανθρωπότητα είναι λιγότερο πιθανό να απειληθεί από σκόπιμα επιθετικές Τεχνητές Νοημοσύνης παρά από Τεχνητές Νοημοσύνης που έχουν προγραμματιστεί έτσι ώστε οι στόχοι τους να είναι ακούσια ασύμβατοι με την ανθρώπινη επιβίωση ή ευημερία (όπως στην ταινία Εγώ, το Ρομπότ και στο διήγημα « Η Αναπόφευκτη Σύγκρουση »). Το Omohundro υποδηλώνει ότι τα σημερινά συστήματα αυτοματισμού δεν έχουν σχεδιαστεί για ασφάλεια και ότι οι Τεχνητές Νοημοσύνης μπορεί να βελτιστοποιούν τυφλά τις στενές λειτουργίες χρησιμότητας (ας πούμε, να παίζουν σκάκι με κάθε κόστος), οδηγώντας τες στην αναζήτηση αυτοσυντήρησης και εξάλειψης εμποδίων, συμπεριλαμβανομένων των ανθρώπων που μπορεί να τις απενεργοποιήσουν. [ 45 ]

Προφυλάξεις

Το πρόβλημα ελέγχου της Τεχνητής Νοημοσύνης είναι η πρόκληση της διασφάλισης ότι τα προηγμένα συστήματα Τεχνητής Νοημοσύνης ενεργούν αξιόπιστα σύμφωνα με τις ανθρώπινες αξίες και προθέσεις, ακόμη και όταν γίνονται πιο ικανά από τους ανθρώπους. [ 46 ] Ορισμένοι μελετητές υποστηρίζουν ότι οι λύσεις στο πρόβλημα ελέγχου θα μπορούσαν επίσης να βρουν εφαρμογές στην υπάρχουσα μη υπερ-νοήμονα Τεχνητή Νοημοσύνη. [ 47 ]

Οι κύριες προσεγγίσεις στο πρόβλημα ελέγχου περιλαμβάνουν την ευθυγράμμιση, η οποία στοχεύει στην ευθυγράμμιση των συστημάτων στόχων της Τεχνητής Νοημοσύνης με τις ανθρώπινες αξίες, και τον έλεγχο ικανοτήτων, ο οποίος στοχεύει στη μείωση της ικανότητας ενός συστήματος Τεχνητής Νοημοσύνης να βλάπτει τους ανθρώπους ή να αποκτά έλεγχο. Ένα παράδειγμα «ελέγχου ικανοτήτων» είναι η διερεύνηση του κατά πόσον μια υπερ-ευφυής Τεχνητή Νοημοσύνη θα μπορούσε να περιοριστεί με επιτυχία σε ένα « κουτί Τεχνητής Νοημοσύνης ». Σύμφωνα με τον Μπόστρομ, τέτοιες προτάσεις ελέγχου ικανοτήτων δεν είναι αξιόπιστες ή επαρκείς για την επίλυση του προβλήματος ελέγχου μακροπρόθεσμα, αλλά μπορούν ενδεχομένως να λειτουργήσουν ως πολύτιμα συμπληρώματα στις προσπάθειες ευθυγράμμισης. [ 37 ]

Στη Μυθοπλασία

Κύριο άρθρο: Καταλήψεις από την Τεχνητή Νοημοσύνη στην ποπ κουλτούρα

Δείτε επίσης: Τεχνητή νοημοσύνη στη μυθοπλασία και Αυτοαναπαραγόμενες μηχανές στη μυθοπλασία

Τα ρομπότ εξεγείρονται στο Ρουάντα, ένα τσεχικό θεατρικό έργο του 1928 που μεταφράστηκε ως «Τα Παγκόσμια Ρομπότ του Ρόσουμ»

Η κατάληψη της Τεχνητής Νοημοσύνης είναι ένα επαναλαμβανόμενο θέμα στην επιστημονική φαντασία. Τα φανταστικά σενάρια συνήθως διαφέρουν σημαντικά από αυτά που υποθέτουν οι ερευνητές, καθώς περιλαμβάνουν μια ενεργή σύγκρουση μεταξύ ανθρώπων και μιας Τεχνητής Νοημοσύνης ή ρομπότ με ανθρωπομορφικά κίνητρα που τους βλέπουν ως απειλή ή έχουν ενεργή επιθυμία να πολεμήσουν τους ανθρώπους, σε αντίθεση με την ανησυχία των ερευνητών για μια Τεχνητή Νοημοσύνη που εξοντώνει γρήγορα τους ανθρώπους ως υποπροϊόν της επιδίωξης των στόχων της. [ 37 ] Η ιδέα παρατηρείται στο RUR του Karel Čapek, το οποίο εισήγαγε τη λέξη ρομπότ το 1920, [ 48 ] και μπορεί να διαφανεί στον Φρανκενστάιν της Mary Shelley (που δημοσιεύτηκε το 1818), καθώς ο Victor αναρωτιέται αν, αν ικανοποιήσει το αίτημα του τέρατός του και τον κάνει σύζυγο, θα αναπαραχθούν και το είδος τους θα καταστρέψει την ανθρωπότητα. [ 49 ]

Σύμφωνα με τον Toby Ord, η ιδέα ότι μια κατάληψη από την Τεχνητή Νοημοσύνη απαιτεί ρομπότ είναι μια εσφαλμένη αντίληψη που προωθείται από τα μέσα ενημέρωσης και το Χόλιγουντ. Υποστηρίζει ότι οι πιο καταστροφικοί άνθρωποι στην ιστορία δεν ήταν σωματικά οι πιο ισχυροί, αλλά ότι χρησιμοποιούσαν λέξεις για να πείσουν τους ανθρώπους και να αποκτήσουν τον έλεγχο μεγάλων τμημάτων του κόσμου. Γράφει ότι μια αρκετά έξυπνη Τεχνητή Νοημοσύνη με πρόσβαση στο διαδίκτυο θα μπορούσε να διασκορπίσει αντίγραφα ασφαλείας του εαυτού της, να συγκεντρώσει οικονομικούς και ανθρώπινους πόρους (μέσω κυβερνοεπιθέσεων ή εκβιασμών), να πείσει τους ανθρώπους σε μεγάλη κλίμακα και να εκμεταλλευτεί τις κοινωνικές ευπάθειες που είναι πολύ ανεπαίσθητες για να τις προβλέψουν οι άνθρωποι. [ 50 ]

Η λέξη «ρομπότ» από το RUR προέρχεται από την τσεχική λέξη robota, που σημαίνει εργάτης ή δουλοπάροικος. Το θεατρικό έργο του 1920 ήταν μια διαμαρτυρία ενάντια στην ραγδαία ανάπτυξη της τεχνολογίας, με πρωταγωνιστές κατασκευασμένα «ρομπότ» με αυξανόμενες δυνατότητες που τελικά επαναστατούν. [ 51 ] Το HAL 9000 (1968) και το αρχικό Terminator (1984) είναι δύο εμβληματικά παραδείγματα εχθρικής Τεχνητής Νοημοσύνης στην ποπ κουλτούρα. [ 52 ]