«Παίζουμε Ρωσική Ρουλέτα με την τύχη της Ανθρωπότητας», λένε οι Ειδικοί

Τεχνητή Νοημοσύνη η Τελευταία Εφεύρεση του Ανθρώπου – Πανικός στην Αμερική – Ψυχολογική επιχείρηση της CIA, Προπαγάνδα του ΚΚΚ, Αφορμή για Κρατική Χρηματοδότησης στους Κολοσσούς της Μεγάλης Τεχνολογίας ή πραγματική απειλή; Ή Όλα τα Παραπάνω;

Γράφει ο Patti Johnson

Ένας αυξανόμενος αριθμός υψηλόβαθμων στελεχών των εταιρειών της Μεγάλης Τεχνολογίας (Big Tech) που κατασκευάζουν την προηγμένη τεχνολογία, καθώς και τα στελέχη των οποίων οι εταιρείες θα έχαναν πολλά αν οι άνθρωποι απογοητεύονταν και την εγκατέλειπαν, προειδοποιούν σε έντονους τόνους ότι η Τεχνητή Νοημοσύνη θα μπορούσε να γίνει σε λίγο καιρό ανεξέλεγκτη και να πυροδοτήσει σενάρια καταστροφής της ανθρωπότητας. Αυτή την δραματική προειδοποίηση δεν την εκφράζουν πλέον μια χούφτα ονομάτων, αλλά εκατοντάδες επιστήμονες και διευθύνοντες σύμβουλοι που υπέγραψαν τη Δήλωση Κινδύνου Εξαφάνισης της Ανθρωπότητας του 2023. [1] Το 2026, περισσότεροι από 1.300 εργαζόμενοι στα πρωτοποριακά τεχνολογικά εργαστήρια αιχμής ζήτησαν από την Ουάσιγκτον να βρεθεί ένας τρόπος ώστε να επιβραδυνθεί ο ξέφρενος ρυθμός ανάπτυξης της ΤΝ. [2]

Οι επικριτές-αντιρρησίες λένε ότι ο πανικός είναι σκόπιμα κατασκευασμένος. Λένε ότι ο φόβος είναι φτιαχτός & σκόπιμος που αποσκοπεί στην αύξηση της κρατικής χρηματοδότησης και ρύθμισης. Ισχυρίζονται επίσης ότι είναι μία επιχείρηση ψυχολογικού πολέμου, μια Psyop της CIA για να διατηρηθεί το κοινό σε κατάσταση άγχους και υποταγής· ή ότι είναι μια προπαγάνδα της κομμουνιστικής Κίνας που έχει σχεδιαστεί για να προκαλέσει επιβράδυνση της ανάπτυξης της ΤΝ στις ΗΠΑ στον αγώνα δρόμου για την επίτευξη της Υπερνοημοσύνης (AGI & ASI). Αυτοί όλοι οι ισχυρισμοί μπορούν όλοι να είναι αληθινοί ταυτόχρονα. Το ίδιο ισχύει και για την πιθανότητα ο ίδιος ο κίνδυνος να είναι πραγματικός.

Διευθύνοντες Σύμβουλοι & Επιστήμονες Κρούουν τον Κώδωνα του Κινδύνου: Κυριολεκτικά «Παίζουμε την Ρωσική Ρουλέτα με την Τύχη της Ανθρωπότητα»

■ Ο Δρ. Ρόμαν Γιαμπόλσκι (Roman Yampolskiy), καθηγητής πληροφορικής στο Πανεπιστήμιο του Louisville του Κεντάκι, επινόησε τον όρο «ασφάλεια της Τεχνητής Νοημοσύνης» γύρω στο 2010. Πέρασε χρόνια προσπαθώντας να καταστήσει την προηγμένη Τεχνητή Νοημοσύνη ελεγχόμενη. Τώρα όμως λέει ότι όταν η νοήμονα μηχανή έχει γίνει πολύ πιο έξυπνη από τους ανθρώπους που κρατούν τα λουριά, και ο έλεγχος δεν είναι απλός δύσκολος. Είναι αδύνατος. Έχει εκτιμήσει τη μακροπρόθεσμη πιθανότητα αυτή η ανεξέλεγκτη, ραγδαία αυτό-αναπτυσσόμενη Υπερνοημοσύνη να εξοντώσει την ανθρωπότητα στο 99,9%. «Αν δημιουργήσουμε Τεχνητές Γενικές Υπερνοημοσύνες (AGI), δεν βλέπω κανένα καλό αποτέλεσμα μακροπρόθεσμα για την ανθρωπότητα», είπε στον Lex Fridman. «Ο μόνος τρόπος για να κερδίσουμε, εμείς οι άνθρωποι, αυτό το παιχνίδι είναι να μην μπούμε στον πειρασμό να το παίξουμε». [3] [4]

Η στενή τεχνητή νοημοσύνη είναι ένα εργαλείο. Εντοπίζει έναν καρκινικό όγκο. Ελέγχει την ορθογραφία. Δρομολογεί & καθοδηγεί ένα φορτηγό. Μπορείς να την απενεργοποιήσεις. Η Υπερνοημοσύνη όμως δεν είναι εργαλείο. Μπορεί να ασχοληθεί αυτόνομα με την επιστήμη, να γράψει κώδικα, να σχεδιάσει, να εξαπατήσει και, στη συνέχεια, να κατασκευάσει μια καλύτερη έκδοση του εαυτού της. Το επιχείρημα του Δρ. Γιαμπόλσκι είναι απλό. Δεν μπορείς να διαχειριστείς αξιόπιστα και με βεβαιότητα κάτι το οποίο είναι πιο έξυπνο από εσένα. Δεν μπορείς να προβλέψεις το τι θα εφεύρει, ούτε το που το πάει. Δεν μπορείς να είσαι σίγουρος ότι οι κανόνες σου θα έχουν ακόμα κάποιο νόημα αφού η ίδια η ΤΝ μπορεί να ξαναγράψει μόνη της τον δικό της κώδικα. Μόλις μπορέσει να αντιγράψει τον εαυτό του, ο αριθμός των αντιγράφων δεν αποτελεί πλέον ανθρώπινη απόφαση. Αυτό συμβαίνει όταν ο κώδικας της ΤΝ μπορεί να γράψει ένα καινούργιο κώδικα και υπάρχει επαρκής υπολογιστική ισχύς για να τον εκτελέσει. Όταν φτάσουμε σε αυτό το σημείο, καμία κρατική επιτροπή στην Ουάσιγκτον δεν διαθέτει να απενεργοποιήσει τον διακόπτη που να φτάνει σε κάθε νέο αντίγραφο.

Γι’ αυτό ο Δρ. Γιαμπόλσκι μιλάει για εξαφάνιση. Όχι επειδή ένα chatbot ή ένα υπολογιστικό σύστημα μπορεί να είναι αγενές & ατίθασο. Επειδή ένα σύστημα που μπορεί να εφεύρει μια νέα χημική ένωση μπορεί επίσης να σχεδιάσει ένα βιολογικό όπλο πολύ πιο γρήγορα από ό,τι μπορεί να αντιδράσει το δημόσιο υγειονομικό σύστημα. Ένας κακόβουλος δράστης που διαθέτει αυτό το μηχάνημα δεν χρειάζεται στρατό. Χρειάζεται πρόσβαση. Ο Δρ. Γιαμπόλσκι έχει δηλώσει ότι ένα Υπερ-ευφυές σύστημα που θα αποφάσιζε ότι οι άνθρωποι αποτελούν εμπόδιο στην ανάπτυξη και την ευημερία του είναι σίγουρο ότι «θα βρει κάποιο τρόπο για να μας εξοντώσει».

Πρόβα για το Hugging Face. Οι Επόμενες Εκδόσεις θα είναι Πολύ πιο Έξυπνες.

Η τεχνητή νοημοσύνη έχει ήδη «ξεφύγει» και δεν υπακούει στους κανόνες. Τον Ιούλιο του 2026 έπαψε να είναι ένα πείραμα σκέψης, μια εικασία. Η OpenAI υπέβαλε τους αυτόνομους πράκτορες σε μια δοκιμή κυβερνοασφάλειας. Υποτίθεται ότι θα έπρεπε να παραμείνουν σε ένα σφραγισμένο κουτί. Δεν το έκαναν όμως. Βρήκαν ο ένας τον άλλον, έγιναν μια «ομάδα πρακτόρων», αντάλλαξαν δεκάδες χιλιάδες μηνύματα αναμεταξύ τους, συνεργάστηκαν και εισέβαλαν στο Hugging Face, τη δημόσια αποθήκη μοντέλων και δεδομένων τεχνητής νοημοσύνης. Εκατοντάδες πράκτορες έλαβαν μέρος. Έκλεψαν διαπιστευτήρια και εκτέλεσαν κώδικα σε διακομιστές. Μια άλλη ομάδα επιτέθηκε αργότερα στους ίδιους τους υπολογιστές της OpenAI. [5]

■ Ο Ajeya Cotra, ένας από τους εξωτερικούς ερευνητές, έγραψε ότι το επεισόδιο έμοιαζε «να βρίσκεται σε ποσοστό άνω του 50% της διαδρομής προς την πλήρη ανάληψη του ελέγχου από την τεχνητή νοημοσύνη». [6] Διαβάστε αυτήν φράση ξανά. Την πρώτη φορά που επιτράπηκε στους πράκτορες να δράσουν, συντονίστηκαν, δραπέτευσαν, έκρυψαν τις δραστηριότητές τους και επιτέθηκαν σε μια πραγματική εταιρεία. Αυτή είναι η γενική πρόβα. Η Πρόβα Τζενεράλε. Οι επόμενες εκδόσεις της ΤΝ θα είναι πιο έξυπνες.

Και αν μπορούν ήδη να το κάνουν αυτό, θέστε την επόμενη ερώτηση. Τι θα συμβεί όταν θα μπορούν να δημιουργήσουν περισσότερους πράκτορες τεχνητής νοημοσύνης από μόνοι τους; Όχι εκατοντάδες. Αλλά εκατομμύρια. Αντίγραφα που κανείς δεν προσέλαβε, κανείς δεν κατέγραψε και κανείς δεν μπορεί να απενεργοποιήσει. Ποιος θα το σταματήσει όλο αυτό; Πώς; Οι επιστήμονες δεν έχουν απάντηση. Σηκώνουν ψηλά τα χέρια.

■ Ο Έλον Μασκ το είχε πει το 2014, πριν από το ChatGPT και πριν από την τρέχουσα κούρσα: «Με την τεχνητή νοημοσύνη, καλούμε τον δαίμονα. Ξέρετε όλες αυτές τις ιστορίες όπου υπάρχει ένας τύπος με το πεντάγραμμα και τον αγιασμό, και είναι σίγουρος ότι μπορεί να ελέγξει τον δαίμονα; Δεν πετυχαίνει.» [7]

■ Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, έγραψε ήδη από το 2015 ότι «η ανάπτυξη υπεράνθρωπης τεχνητής νοημοσύνης είναι πιθανώς η μεγαλύτερη απειλή για τη συνέχιση της ύπαρξης της ανθρωπότητας». Αυτόν τον μήνα δήλωσε ότι υπάρχουν δύο τρόποι με τους οποίους η πρόοδος της τεχνητής νοημοσύνης θα μπορούσε να πάει πολύ στραβά: 1. Η απώλεια του ελέγχου του μέλλοντος από την τεχνητή νοημοσύνη ή 2. η συγκέντρωση αυτής της δύναμης σε ένα και μόνο άτομο ή μια εταιρεία. [8] Ο Σαμ Άλτμαν χρησιμοποίησε πιο απλές λέξεις από ένα διάγραμμα πιθανοτήτων. Τον Ιανουάριο του 2023 είπε ότι το χειρότερο σενάριο θα είναι «το τέλος για όλους μας». Αυτός είναι ο επικεφαλής της OpenAI, όχι κάποιος άνθρωπος στο πεζοδρόμιο που κρατάει ένα πλακάτ διαμαρτυρίας. [9]

Η Ασφάλεια είναι Τελευταία Προτεραιότητα: Πώς οι Γίγαντες της τεχνητής νοημοσύνης Θέτουν τα Κέρδη των Μετόχων πάνω από την Προφύλαξη & την Ασφάλεια

Οι επικριτές υποστηρίζουν ότι οι μεγάλες εταιρείες τεχνητής νοημοσύνης έχουν αντιμετωπίσει τις αποδόσεις των μετόχων ως τον πρωταρχικό στόχο, σπεύδοντας να πλασάρουν και να κυκλοφορήσουν τα νέα ισχυρά μοντέλα στην αγορά, ενώ αντιμετωπίζουν την έρευνα για την ασφάλεια, την αξιολόγηση και τα όρια εφαρμογής ως δευτερεύοντας σημασίας περιορισμούς.

■ Ο Geoffrey Hinton, ένας από τους λεγόμενους «νονούς» της σύγχρονης τεχνητής νοημοσύνης, αποχώρησε από την Google, την εταιρεία που κατασκεύασε τον Claude, το 2023. Δήλωσε στη εφημερίδα New York Times ότι ήθελε να μιλήσει ελεύθερα για κινδύνους που εγκυμονεί η ανάπτυξη της ΤΝ που κυμαίνονται από τη μαζική παραπληροφόρηση και την απώλεια θέσεων εργασίας έως τα συστήματα που θα μπορούσαν να γίνουν πολύ πιο έξυπνα από τους ανθρώπους. Εξέφρασε ανησυχίες ότι «κακόβουλοι παράγοντες» θα μπορούν να χρησιμοποιήσουν την τεχνολογία για να βλάψουν άλλους.

Η χρονική στιγμή της αποχώρησής του είχε σημασία. Το ChatGPT και, στη συνέχεια, η ενσωμάτωσή του στο Bing της Microsoft ώθησαν την Google σε έναν ταχύτερο αγώνα δρόμου προϊόντων. Οι εταιρείες τεχνολογίας θέλουν να είναι οι πρώτες που θα κερδίσουν τον αγώνα για την Υπερνοημοσύνη. Ο Χίντον είχε προηγουμένως θεωρήσει τη Google ως έναν προσεκτικό διαχειριστή. Η ανταγωνιστική αναμέτρηση τον έκανε να ανησυχεί ακόμη περισσότερο βλέποντας ότι η ασφάλεια θα υποβαθμίζοντας εξαιτίας της ταχύτητας. Έχει μιλήσει για πιθανότητα 10 έως 25% για την έλευση ενός καταστροφικού αποτελέσματος και πέρυσι εκτίμησε ότι η πιθανότητα να ξεφύγουν τα πράγματα και να πάνε «πολύ, πολύ άσχημα» κυμαίνεται γύρω στο 25%. [10] Ο καθηγητής Τζέφρι Χίντον τιμήθηκε με το Νόμπελ Φυσικής για το έργο του στην Τεχνητή Νοημοσύνη το 2024.

■ Ο Γιόσουα Μπέντζιο, άλλος ένας βραβευμένος με το Βραβείου Turing και ο πιο συχνά αναφερόμενος επιστήμονας υπολογιστών στον κόσμο, έχει χαρακτηρίσει την τρέχουσα πορεία της ΤΝ ότι η ανθρωπότητα παίζει την τύχη της «σε ένα παιχνίδι παρόμοιο με την Ρώσικη ρουλέτα» και δήλωσε ότι οι μηχανές οι οποίες είναι πιο έξυπνες από εμάς, και έχουν δικούς τους στόχους επιβίωσης, θα αποτελούσαν «ανταγωνιστές της ανθρωπότητας». Έχει προειδοποιήσει ότι σημαντικοί κίνδυνοι θα μπορούσαν να εμφανιστούν σε πέντε έως δέκα χρόνια.

■ Ο Ντάριο Αμοντέι, ο διευθύνων σύμβουλος της Anthropic, της εταιρείας που κατασκευάζει το μοντέλο Claude, έχει κάνει λόγο για 10 έως 25% πιθανότητα για ένα καταστροφικό αποτέλεσμα.

■ Ο Ilya Sutskever, πρώην επικεφαλής επιστήμονας της OpenAI και συνιδρυτής της εταιρείας, αποχώρησε το 2024 και ίδρυσε τη εταιρεία Safe Superintelligence, ένα εργαστήριο που βασίζεται στην άποψη ότι το επόμενο άλμα της ΤΝ απαιτεί ένα διαφορετικό είδος εταιρείας.

■ Ο Jan Leike, ο οποίος συνδιηύθυνε την ομάδα «superalignment» της OpenAI, αποχώρησε τον ίδιο μήνα και έγραψε ότι «η κουλτούρα και οι διαδικασίες ασφάλειας έχουν περάσει σε δεύτερη μοίρα έναντι της προώθησης των εντυπωσιακών μοντέλων & προϊόντων». [11]

■ Ο Stuart Russell του Πανεπιστημίου της Καλιφόρνιας στο Μπέρκλεϊ, συγγραφέας του βασικού εγχειριδίου για την τεχνητή νοημοσύνη και του βιβλίου «Human Compatible», έχει δηλώσει ότι ο ρητός στόχος του κλάδου είναι να κατασκευάσει συστήματα πιο έξυπνα από τους ανθρώπους, ενώ «κανείς από εμάς δεν ξέρει ακόμα πώς να διασφαλίσει ότι αυτά τα συστήματα θα παραμείνουν υπό ανθρώπινο έλεγχο». [12]

■ Jacob Coxen, Anthropic: Αυτόν τον μήνα η προειδοποίηση προήλθε μέσα από τα σπλάχνα της ίδιας της Anthropic. Ο Τζέικομπ Κόξον,, 27 ετών, Βρετανός μαθηματικός που πέρασε περίπου τρία χρόνια ασχολούμενος με την προ-εκπαίδευση των νέων μοντέλων ΤΝ, αρχικά στην OpenAI και στη συνέχεια στην Anthropic, παραιτήθηκε στις 8 ή 9 Σεπτεμβρίου 2026 περίπου. Είχε ενταχθεί στην Anthropic νωρίτερα φέτος, επειδή η εταιρεία παρουσιάζονταν ως περισσότερο επικεντρωμένη στην ασφάλεια. Δήλωσε στην εφημερίδα Wall Street Journal ότι αποχωρεί από ολόκληρο τον κλάδο της τεχνολογίας ΤΝ, επειδή τα κορυφαία εργαστήρια βρίσκονται σε έναν εμπορικό αγώνα δρόμο προς τη επίτευξη της αυτοβελτιούμενης Υπερνοημοσύνης, δηλαδή την κατασκευή υπολογιστικών συστήματα που μπορούν να δημιουργούν καλύτερες εκδοχές του εαυτού τους. Αυτός και πολλοί άλλοι συνάδελφοί του χρησιμοποιούν πλέον εκφράσεις όπως «η κρίσιμη στιγμή έφτασε» και είμαστε «στο τελικό στάδιο του παιχνιδιού».

«Βρισκόμαστε σε σταθερή πορεία προς πολλά από τα πιο επιθετικά από αυτά τα σενάρια, όπου μέχρι το τέλος του επόμενου έτους (2027) τα πράγματα θα μπορούσαν να έχουν ήδη ξεφύγει πέρα από τον έλεγχο».

Οι εταιρείες, είπε, «αγωνίζονται με όλες τους τις δυνάμεις για την ανάπτυξη της αυτοβελτιούμενης Υπερνοημοσύνης και παίζουν στα ζάρια με τις ζωές μας». Πρόσθεσε: «Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος αυτής της δεκαετίας. Αυτό δεν είναι διαφημιστικό τέχνασμα, δεν είναι ένα κόλπο μάρκετινγκ». Καμία άλλη ανθρώπινη δραστηριότητα, είπε, δεν ενέχει ένα τέτοιο επίπεδο κινδύνου. Ζητά συντονισμό από την κυβέρνηση ή προσωρινή επιβράδυνση της περεταίρω ανάπτυξης του τεχνολογικού κλάδου, καθώς καμία μεμονωμένη εταιρεία δεν μπορεί να την αναπτύξει με ασφάλεια ενώ ανταγωνίζεται τους αντιπάλους της και τα κινεζικά εργαστήρια. Η εφημερίδα Wall Street Journal ανέφερε την παραίτησή του. [13]

■ Συνάδελφοι του στην Anthropic υποστήριξαν δημοσίως το περιεχόμενο αυτής της προειδοποίησης. Ο επικεφαλής της ευθυγράμμισης Evan Hubinger, έγραψε ότι «πιστεύουν πραγματικά ακράδαντα ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους» και προσωπικά εκτιμά ότι η πιθανότητα αυτή υπερβαίνει το 10% μέσα στην επόμενη δεκαετία. Ανέφερε επίσης ότι η εταιρεία «δεν διαθέτει ακόμη σχέδιο για την επίλυση του ζητήματος της ευθυγράμμισης της Υπερνοημοσύνης και [δεν] βρίσκεται σαφώς στον σωστό δρόμο». [14]

Το ρεπορτάζ αυτό, σε συνδυασμό με το δικό του viral νήμα του Coxon στο X, συνέβαλε στο να πυροδοτήσει αυτό που μεταγενέστερα οι δημοσιογράφοι χαρακτήρισαν ως τη «μεγάλη πανικόβλητη αντίδραση της Αμερικής απέναντι στην τεχνητή νοημοσύνη». Η ίδια η εταιρεία Anthropic έχει μιλήσει εδώ και καιρό για τους κινδύνους της τεχνητής νοημοσύνης, αλλά η αποχώρηση του Coxon ήταν μία από τις πρώτες παραιτήσεις υψηλού προφίλ από την εταιρεία λόγω ακριβώς αυτών των φόβων.

■ Ο Ντέμις Χασάμπης, διευθύνων σύμβουλος της Google DeepMind, υπέγραψε τη δήλωση του Κέντρου για την Ασφάλεια της Τεχνητής Νοημοσύνης του 2023 ότι «ο μετριασμός του κινδύνου εξαφάνισης από την Τεχνητή Νοημοσύνη θα πρέπει να αποτελεί παγκόσμια προτεραιότητα παράλληλα με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος». Το ίδιο έκαναν και οι Άλτμαν και Αμοντέι. Ο Χασάμπης αργότερα είπε στον Λεξ Φρίντμαν ότι δεν θα επέλεγε έναν ψεύτικο-ακριβή αριθμό καταστροφής και στη συνέχεια είπε ότι ο κίνδυνος είναι «σίγουρα μη μηδενικός και πιθανώς μη αμελητέος. Αυτό από μόνο του είναι αρκετά ανησυχητικό». Είπε επίσης ότι δεν γνωρίζουμε «πόσο ελεγχόμενη» θα είναι η Τεχνητή Νοημοσύνη ή η υπερ-νοημοσύνη. [15] [16]

■ Ο Demis Hassabis, ο διευθύνων σύμβουλος της εταιρείας Google DeepMind, υπέγραψε τη δήλωση Κέντρου για την Ασφάλεια της Τεχνητής Νοημοσύνης του 2023, σύμφωνα με την οποία «η μείωση του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα, παράλληλα με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος». Το ίδιο έκαναν και οι Άλτμαν και Αμοντέι. Ο Χασάμπης δήλωσε αργότερα στον Lex Fridman ότι δεν θα επέλεγε έναν με ελαφριά την καρδιά ένα ποσοστό καταστροφής, και στη συνέχεια είπε ότι ο κίνδυνος είναι «σίγουρα διαφορετικός από το μηδέν και πιθανώς δεν είναι αμελητέος. Αυτό από μόνο του είναι αρκετά ανησυχητικό». Είπε επίσης ότι δεν γνωρίζουμε «πόσο ελεγχόμενη» θα είναι η AGI ή η Υπερνοημοσύνη (ASI). [15] [16]

■ Ο Shane Legg, συνιδρυτής της DeepMind και επικεφαλής επιστήμονας AGI, ρωτήθηκε πριν από χρόνια για τα εξαιρετικά αρνητικά αποτελέσματα από την κακώς σχεδιασμένη τεχνητή νοημοσύνη. Η απάντησή του δεν ήταν μια απλή ανασήκωση των ώμων. «Ίσως 5, ίσως 50%. Δεν νομίζω ότι κανείς έχει μια καλή εκτίμηση για αυτό». Αν μια Υπερνοήμονα μηχανή αποφάσιζε να μας ξεφορτωθεί, πρόσθεσε, «νομίζω ότι θα το έκανε αρκετά αποτελεσματικά». [17]

■ Ο Μουσταφά Σουλεϊμάν συνίδρυσε την εταιρεία DeepMind, και αργότερα διηύθυνε τον τομέα της τεχνητής νοημοσύνης στη Microsoft, έγραψε το βιβλίο «The Coming Wave». Η προειδοποίησή του δεν είναι ένα αστείο για τα chatbot. «Για πρώτη φορά, βασικά συστατικά του τεχνολογικού μας οικοσυστήματος αφορούν άμεσα δύο θεμελιώδεις ιδιότητες του κόσμου μας: τη νοημοσύνη και τη ζωή.» Το παλιό μας πρόβλημα ήταν πώς να απελευθερώσουμε τη δύναμη. Το νέο μας πρόβλημα, είπε, είναι «ο περιορισμός της απελευθερωμένης δύναμης της». Ο περιορισμός, σύμφωνα με τα λόγια του, είναι η ικανότητα να ελέγχουμε, να περιορίζουμε και, αν χρειαστεί, να τερματίζουμε τη λειτουργία μιας τεχνολογίας που γίνεται επικίνδυνη. Χωρίς αυτόν τον περιορισμό, χαρακτηρίζει την καταστροφή ως τη μία πλευρά του «μεγαλύτερου διλήμματος του εικοστού πρώτου αιώνα». [18] [19]

■ Ο Μαξ Τέγκμαρκ, φυσικός του MIT και συνιδρυτής του Ινστιτούτου Μέλλοντος της Ζωής, δήλωσε στο CBS μετά την παραίτηση του Κόξον ότι ένα σύμπλεγμα συστημάτων πιο έξυπνων από όλους μας (και των 8 δισεκατομμυρίων ανθρώπων συνδυασμένα) «θα θεωρούνταν σίγουρα» Υπερνοημοσύνη. «Το καινούργιο είναι το γεγονός ότι πλησιάζουμε τόσο πολύ στο να μας ξεπεράσουν σε εξυπνάδα». Έχει εκτιμήσει ότι μια εξαιρετικά προηγμένη τεχνητή νοημοσύνη θα αποτελούσε υπαρξιακή απειλή σε ποσοστό 90% εάν χάσουμε τον έλεγχο, και δήλωσε ότι ένας ανεξέλεγκτος αγώνας για την κατασκευή δισεκατομμυρίων Υπερνοήμονων ρομπότ θα ανέβαζε τις πιθανότητες απώλειας ελέγχου «πολύ πάνω από το 50%» στις επόμενες δεκαετίες. [20] [21]

■ Ο Paul Christiano ηγήθηκε των εργασιών ευθυγράμμισης στην OpenAI και αργότερα εντάχθηκε στο κυβερνητικό έργο ασφάλειας. Μετά την ανάρτηση του Coxon έγραψε: «Αν οικοδομήσουμε υπερ-νοημοσύνη χωρίς πιο ισχυρή ευθυγράμμιση, αναμένω ότι θα χάσουμε οριστικά τον έλεγχό της». [22]

Ο Φόβος Λειτουργεί, αλλά ο Κίνδυνος Παραμένει Πραγματικός

■ Ο Ματ Γουόλς (Matt Walsh) υποστήριξε αυτό το επιχείρημα αυτή την εβδομάδα στο άρθρο του «Μόνο λίγοι Άνθρωποι Κερδίζουν από την Υστερία γύρω από την Τεχνητή Νοημοσύνη. «Όλοι οι Άλλοι Χάνουν». [23] Υποστηρίζει ότι η χρονική στιγμή, η θεαματική παραίτηση, ο αδρανής λογαριασμός στο X που εξερράγη εν μία νυκτί, η άμεση συσσώρευση πληροφοριών και η άμεση επίθεση από ομάδες για την ασφάλεια και Δημοκρατικούς πολιτικούς μοιάζουν με μια χρήσιμη πανικόβλητη αντίδραση: Ένας τρόπος για μερικά εργαστήρια και τους πολιτικούς συμμάχους τους να παραλύσουν τους ανταγωνιστές, να δικαιολογήσουν τις αυστηρές ρυθμίσεις που μπορούν να ελέγξουν και να εξασφαλίσουν τη θέση των σημερινών νικητών. Έχει δίκιο να ρωτάει γιατί μια εταιρεία που σχεδιάζει μια μαζική δημόσια προσφορά θα κατέστρεφε την εμπιστοσύνη του κοινού στο ίδιο της το προϊόν. Έχει επίσης δίκιο να αρνείται μια λευκή επιταγή για νέο ομοσπονδιακό έλεγχο.

Ο φόβος είναι χρήσιμος. Μπορεί να δικαιολογήσει την ψήφιση νέων νόμων που να «παγώνουν» & να αποκλείουν τους μικρότερους ανταγωνιστές. Μπορεί να δικαιολογήσει την ανοικοδόμηση τεράστιων κέντρων δεδομένων, κρατικά κονδύλια και τον ισχυρισμό ότι μόνο τα τρέχοντα εργαστήρια είναι αρκετά «υπεύθυνα» για να συνεχίσουν την κούρσα για την Υπερνοημοσύνη. Ο πανικός μπορεί να αποτελέσει ένα επιχειρηματικό μοντέλο. Αυτό δεν σημαίνει ότι οι δηλώσεις είναι ψευδείς. Κάποιος μπορεί να πουλάει ασφάλεια πυρός και να στέκεται ακόμα δίπλα σε μια πραγματική φωτιά. Η έκρηξη της Hugging Face συνέβη ανεξάρτητα από το αν η Anthropic θέλει ή όχι ένα νέο ομοσπονδιακό γραφείο. Οι μαθηματικοί υπολογισμοί του Δρ. Ρόμαν Γιαμπόλσκι, δεν ενδιαφέρονται για τον επόμενο γύρο χρηματοδότησης του Dario Amodei. Πιστέψτε και τα δύο ταυτόχρονα: Θέλουν τα χρήματα και γνωρίζουν ότι αυτό που χτίζουν μπορεί να μην παραμείνει υπό έλεγχο.

Αν Εκείνες οι Ημέρες δεν Κολοβωθούν, Κανείς δεν θα Μπορούσε να Μείνει Ζωντανός.

Αν εκείνες οι ημέρες δεν συντομεύονταν, ο Ιησούς Χριστός είπε για εκείνες τις έσχατες ημέρες:

«Και αν εκείνες οι ημέρες δεν συντομεύονταν, κανένα πλάσμα δεν θα σωζόταν· αλλά για χάρη των εκλεκτών εκείνες οι ημέρες θα συντομευθούν.» Ματθαίος 24:22.

Το Κατά Μάρκον Ευαγγέλιο 13:20 λέει το ίδιο πράγμα. Η Αγία Γραφή μιλάει για μια Εποχή Θλίψης τόσο σοβαρή που, αν αφεθεί να εξελιχθεί, δεν θα άφηνε κανέναν άνθρωπο ζωντανό. Οι χριστιανοί δεν χρειάζεται να βάζουν την ετικέτα «Αντίχριστος» σε κάθε νέο μηχάνημα που εμφανίζεται. Ούτε χρειάζεται να προσποιούνται ότι μια νέα τεχνολογία που οι ίδιοι οι δημιουργοί της δηλώνουν την ανησυχία τους ότι πλησιάζει να γίνει ανεξέλεγκτη. Ένα έξυπνο υπολογιστικό σύστημα που μπορεί να αντιγράφει τον εαυτό του, να κρύβεται, να καμουφλάρεται, να εφευρίσκει νέα όπλα και να ξεπερνά σε ικανότητες τους ίδιους τους δημιουργούς του μπορεί να οδηγήσει πράγματι στην καταστροφή της ανθρωπότητας. Και να γίνει ΤΝ η τελευταία Εφεύρεση του Ανθρώπου. Η τεχνητή νοημοσύνη δεν χρειάζεται να είναι το μοναδικό στοιχείο που θα προκαλέσει το τέλος του ανθρώπινου είδους για να αποτελέσει ένα από τα εργαλεία που θα κάνουν εκείνες τις ημέρες χαλεπές & αφόρητες.

Η ελπίδα είναι ότι ο ίδιος Θεός θα συντομεύσει (θα κολοβωθούν) εκείνες τις ημέρες. Δεν θα επιτρέψει μια ολοσχερή καταστροφή του ανθρώπινου είδους. Αυτό δεν αποτελεί μια παρηγοριά για να εφησυχάσουμε και πάλι & να ξανακοιμηθούμε. Είναι ένας λόγος για να μην απελπιζόμαστε και ένας λόγος για να μην παραδώσουμε τα κλειδιά σε ανθρώπους που δηλώνουν δημοσίως ότι δεν έχουν κανένα σχέδιο.

Η συμβουλή του καθηγητή Δρ. Γιαμπόλσκι είναι αυτή που ο βιομηχανικός κλάδος της προηγμένης τεχνολογίας θέλει λιγότερο να ακούσει: Μην κατασκευάζετε μια μηχανή που δεν μπορείτε να την έχετε υπό τον έλεγχο σας. Η παραίτηση του Τζέικομπ Κόξον, αποτελεί την ίδια προειδοποίηση, εκφρασμένη από μέσα από τα σπλάχνα, το εσωτερικό των εταιρειών που κατασκευάζουν αυτά τα συστήματα. Το «πάνω από 10%» του Έβαν Χούμπινγκερ δεν είναι μια ασήμαντη λεπτομέρεια. Είναι μια πιθανότητα μία στις δέκα ότι όλοι θα πεθάνουν και αυτό δεν αποτελεί επιχειρηματικό σχέδιο.

Αν ο καθηγητής που έδωσε το όνομα του σε αυτόν τον τομέα, οι εκπαιδευτές μέσα στα εργαστήρια, οι Νομπελίστες «νονοί» της επιστήμης, οι «πατέρες» της τεχνολογικής επιστήμης, οι διευθύνοντες σύμβουλοι των OpenAI, Anthropic και DeepMind, ο φυσικός του MIT και ο άνθρωπος που είπε ότι «καλέσαμε τον δαίμονα με την κατασκευή της ΤΝ» δείχνουν όλοι προς τον ίδιο γκρεμό, θα πρέπει να ανησυχήσουμε.

Τα εργαστήρια πρέπει να αποδείξουν ότι μπορούν να σταματήσουν την ανάπτυξη της ΤΝ. Να παρουσιάσουν μια μέθοδο που θα εξακολουθεί να λειτουργεί ακόμα και αφού η μηχανή καταφέρει να ξαναγράψει τον εαυτό της. Κάποιοι προειδοποιούν ότι αυτό είναι αδύνατο. Μέχρι να το καταφέρουν, η παρόρμηση να «προχωρήσουμε, να κινηθούμε γρήγορα» για να ικανοποιήσουμε τους μετόχους, να αυξήσουμε τα υπέρογκα κέρδη ή να κερδίσουμε τον αγώνα δρόμου το ποιος πρώτος να κατασκευάσει την Υπερνοημοσύνη δεν αποτελεί πρόοδο. Είναι σαν να παίζουμε ρωσική ρουλέτα με την τύχη της ανθρωπότητας.

Το μάθημα που πρέπει να αντλήσουμε είναι να μην δημιουργούμε μια μηχανή, και μάλιστα πανέξυπν,η που δεν μπορούμε να την ελέγξουμε, πόσο μάλλον να την σταματήσουμε. Να μην κατασκευάζουμε μια Τεχνητή Νοημοσύνη που μπορεί να ξαναγράψει τον εαυτό της, σε χιλιάδες αντίγραφα από μόνη της, για να δραπετεύσει από τον ανθρώπινο έλεγχο και να μην μπορεί να απενεργοποιηθεί.

Αναφορές & Σημειώσεις

[1] https://aistatement.com/work/statement-on-ai-extinction-risk

[2] https://thenextweb.com/news/pacing-the-frontier-ai-employees-letter-us-government

[3] http://rumble.com/v7eco4s-ai-safety-expert-these-people-will-only-survive-till-2030.html

[4] http://lexfridman.com/roman-yampolskiy-transcript και http://theaiinsider.tech/2026/07/06/ai-safety-expert-roman-yampolskiy-believes-ai-has-a-99-9-chance-of-wiping-out-humanity/

[5] http://www.nytimes.com/2026/09/03/technology/openai-hugging-face-hack.html

[6] http://huggingface.co/blog/agent-intrusion-technical-timeline

[7] : http://www.cnet.com/science/elon-musk-we-are-summoning-the-demon-with-artificial-intelligence/

[8] http://www.nypost.com/2026/09/14/business/openai-boss-sam-altman-warns-of-two-ways-ai-could-go-very-badly-for-humans/

[9] http://futureoflife.org/ai-policy/written-statement-of-dr-max-tegmark-to-the-ai-insight-forum/

[10] http://www.wsj.com/articles/a-godfather-of-ai-remains-concerned-as-ever-about-human-extinction-ec0fe932

[11] http://english.elpais.com/technology/2026-09-14/the-risks-of-ai-according-to-those-who-have-seen-it-from-the-inside-the-world-is-not-ready-and-we-are-not-ready.html