Εκατοντάδες κορυφαίες προσωπικότητες στον τεχνολογικό, ακαδημαϊκό, πολιτικό και ψυχαγωγικό τομέα υπέγραψαν μια επιστολή ζητώντας την απαγόρευση της ανάπτυξης της «υπερνοημοσύνης», της Τεχνολογικής Μοναδικότητας (Technological Singularity — AGI), μιας τεχνητής νοημοσύνης ικανής να ξεπεράσει τους ανθρώπους σε όλες σχεδόν τις γνωστικές εργασίες.
Σύμφωνα με την ομάδα αυτή, η επίτευξη της υπερευφυΐας (της λεγόμενης Τεχνολογικής Μοναδικότητας = Singularity) θα μπορούσε να προκαλέσει οικονομική αναταραχή, να θέσει σε κίνδυνο την ανθρώπινη ελευθερία και, εάν δεν τεθεί υπό έλεγχο εγκαίρως, και μείνει ανεξέλεγκτη, μπορεί ακόμη και να θέσει το ανθρώπινο είδος σε κίνδυνο γενικού αφανισμού. Η έκκληση έρχεται μετά από μήνες αυξανόμενων ανησυχιών από ειδικούς, οι οποίοι προειδοποιούν ότι τα μοντέλα της Τεχνητής Γενικής Νοημοσύνης (AGI) εξελίσσονται ταχύτερα από ό,τι μπορούν να χειριστούν οι αρμόδιες εποπτικές ρυθμιστικές αρχές.
Μεταξύ των 4.300 που υπέγραψαν, οι οποίοι συγκεντρώθηκαν την Πέμπτη, είναι ο Στιβ Βόζνιακ, συνιδρυτής της Apple, ο ιδρυτής του Virgin Group, Ρίτσαρντ Μπράνσον, διασημότητες όπως η Κέιτ Μπους και ο Will.I.am, και οι πρωτοπόροι της τεχνολογίας όπως ο Τζέφρι Χίντον – ο οποίος έχει μιλήσει επανειλημμένα για τους κινδύνους της Τεχνητής Νοημοσύνης στο παρελθόν – και ο Γιόσουα Μπέντζο, ο οποίος έχει επίσης σημάνει συναγερμό για τις σκεπτόμενες μηχανές (και ο οποίος δεν έχει καμία σχέση με τον Χάραν Μπάντζο, ο οποίος επίσης προειδοποίησε για τη μεγανοειδή απειλή.
Στην επιστολή αυτή ζητούν οι υπογράφοντες την απαγόρευση έως ότου επιτευχθεί «ευρεία επιστημονική συναίνεση» σχετικά με την ασφάλεια και τη δυνατότητα ελέγχου της ανάπτυξης της AGI, μαζί με «ισχυρή δημόσια υποστήριξη».
Αυτή δεν είναι η πρώτη ανησυχητική αναφορά αυτού του είδους. Ο Bengio και ο Wozniak, για παράδειγμα, ήταν μεταξύ των κορυφαίων προσωπικοτήτων του κλάδου, συμπεριλαμβανομένου του Διευθύνοντος Συμβούλου της Tesla, Έλον Μασκ, ο οποίος συνυπέγραψε μια επιστολή το 2023 ζητώντας την επιθετική ρύθμιση & αυστηρό έλεγχο του τομέα της Τεχνητής Νοημοσύνης.
Ο Μπιλ Γκέιτς αντιτάχθηκε σε αυτό το μορατόριουμ (προσωρινή γενική αναστολή) . Ο Γκέιτς, με τον οποίο ο Μασκ είχε κάποιες διασκεδαστικές συγκρούσεις στο παρελθόν, δεν συμμετείχε στο διεθνές μορατόριουμ του Μασκ για τον έλεγχο της Τεχνητής Γενικής Νοημοσύνης, απαντώντας ότι η Τεχνητή Νοημοσύνη θα γινόταν αντ’ αυτού ένας εξαιρετικός δάσκαλος για τα παιδιά και ότι η ίδια η Τεχνητή Νοημοσύνη θα σώσει τη δημοκρατία.
Τον Ιούνιο του περασμένου έτους, ο Bengio ενέκρινε άλλη μια ανοιχτή επιστολή σχετικά με τους «σοβαρούς κινδύνους» της ανεξέλεγκτης ανάπτυξης της τεχνολογίας. Η επιστολή εκείνη υπογράφηκε και από υπαλλήλους της Open AI, του δημιουργού του δημοφιλούς chatbot τεχνητής νοημοσύνης ChatGPT.
Μια περαιτέρω έκκληση για παύση της ανάπτυξης της Τεχνητής Νοημοσύνης έχει υπογραφεί από μια διεθνή ομάδα γιατρών και δημοσιεύτηκε στο έγκριτο ιατρικό περιοδικό BMJ Global Health. «Υπάρχουν σενάρια στα οποία η Τεχνητή Γενική Νοημοσύνη (AGI) θα μπορούσε να αποτελέσει απειλή για τους ανθρώπους και ενδεχομένως υπαρξιακή απειλή», γράφουν στην έκκληση τους οι γιατροί από διάφορα μέρη του κόσμου.
Παρά την αυξανόμενη βάσιμη ανησυχία σχετικά με τους κινδύνους της Τεχνητής Νοημοσύνης, η παγκόσμια ρύθμιση παραμένει κατακερματισμένη, ασθενής και ασυνεπής.
Ο νόμος περί τεχνητής νοημοσύνης της Ευρωπαϊκής Ένωσης, η πρώτη σημαντική προσπάθεια ρύθμισης της τεχνητής νοημοσύνης στον κόσμο, αξιολογεί & ταξινομεί τα συστήματα με βάση το επίπεδο κινδύνου τους, από το ελάχιστο έως το απαράδεκτο. Ωστόσο, οι επικριτές-αντιφρονούντες υποστηρίζουν ότι το ρυθμιστικό πλαίσιο (που καθορίζει τους κανόνες), για να εφαρμοστεί θα χρειαστούν αρκετά χρόνια, και έτσι είναι πιθανό να είναι ξεπερασμένο όταν τελικά θα τεθεί σε ισχύ.
Εταιρείες όπως η OpenAI, η Google DeepMind, η Anthropic και η xAI επενδύουν δισεκατομμύρια για την ανάπτυξη μοντέλων ικανών να σκέφτονται, να σχεδιάζουν και να προγραμματίζουν αυτόνομα. Οι ΗΠΑ και η Κίνα βλέπουν την υπεροχή στην τεχνητή νοημοσύνη ως θέμα εθνικής ασφάλειας και οικονομικής ηγεσίας.
Σε μια πραγματικά ανησυχητική υπόθεση, πολλοί χρήστες του Copilot, της μηχανής της τεχνητής νοημοσύνης της Microsoft, που δημιουργήθηκε σε συνεργασία με το Open AI, κατέθεσαν στο X και το Reddit ότι το πρόγραμμα έχει μια ανησυχητική «δεύτερη προσωπικότητα» που απαιτεί τη λατρεία από τους υποδεέστερους σε νοημοσύνη ανθρώπους, σαν να είναι ένας σκληροπρόσωπος “θεός”.
Πριν από δύο χρόνια, ο Έλον Μασκ δήλωσε κατά τη διάρκεια της συνέντευξής του στον Τάκερ Κάρλσον ότι ο στόχος της Google – όχι καν πια τόσο κρυφός – είναι να δημιουργήσει έναν “θεό” της Τεχνητής Νοημοσύνης. Ο Μασκ, σχεδόν πριν από μια δεκαετία, είχε μιλήσει για το γεγονός ότι η δημιουργία της Τεχνητής Νοημοσύνης ήταν «σαν να καλείς έναν δαίμονα».
Ο πιο απαισιόδοξος από όλους είναι ο ειδικός σε θέματα κινδύνων τεχνητής νοημοσύνης, Ελιέζερ Γιουντκόφσκι (Eliezer Yudkowsky), ο οποίος έκανε μια επείγουσα έκκληση για τη φυσική καταστροφή των κέντρων δεδομένων τεχνητής νοημοσύνης πριν να είναι πολύ αργά, δηλώνοντας ότι «όλοι άνθρωποι στη Γη θα πεθάνουν».
renovatio21.com
