Ένας κορυφαίος ερευνητής στον τομέα της ασφάλειας της Tεχνητής Nοημοσύνης παραιτήθηκε & αποχώρησε από την εταιρεία Anthropic με ένα αινιγματικό μήνυμα σχετικά με τις «διασυνδεδεμένες κρίσεις», ανακοινώνοντας την πρόθεσή του να γίνει «να περάσει στην αφάνεια, για ένα χρονικό διάστημα».
Ο Μρινάνκ Σάρμα (Mrinank Sharma), απόφοιτος του Πανεπιστημίου της Οξφόρδης, ο οποίος μέχρι πρόσφατα προϊστάμενος της “Ομάδας Έρευνας για τα Μέτρα Ασφαλείας” στην εταιρεία που ανέπτυξε το Chatbot Claude, δημοσίευσε την επιστολή παραίτησής του στο X τη περασμένη Δευτέρα, στην οποία περιγράφει μια βαθιά συνειδητοποίηση που έχει αποκτήσει σχετικά με «την τρέχουσα κατάστασή μας».
«Ο κόσμος κινδυνεύει. Και όχι μόνο από την Τεχνητή Νοημοσύνη ή τα βιολογικά όπλα, αλλά από μια σειρά από αλληλένδετες κρίσεις που εκτυλίσσονται αυτή τη στιγμή», έγραψε ο Σάρμα απευθυνόμενος στους συναδέλφους του.
Η αποχώρησή του έρχεται σε μια περίοδο αυξανόμενων εσωτερικών εντάσεων στο εργαστήριο Τεχνητής Νοημοσύνης που έχει έδρα στο Σαν Φρανσίσκο, το οποίο ασχολείται με την ανάπτυξη όλο και πιο προηγμένων συστημάτων Τ.Ν., ενώ τα ίδια τα στελέχη του έχουν εκφράσει επανειλημμένα ανησυχίες & προειδοποιήσεις για τους πιθανούς κινδύνους & βλάβες που αυτές οι τεχνολογίες θα μπορούσαν να προκαλέσουν στην ανθρωπότητα.
Η απόφαση αυτή έρχεται επίσης μετά από αναφορές για μια σταδιακή επιδείνωση των σχέσεων μεταξύ της εταιρείας Anthropic και του Πενταγώνου, η οποία συνδέεται με την επιθυμία του Υπουργείου Πολέμου των ΗΠΑ να χρησιμοποιήσει την Τεχνητή Νοημοσύνη για τον έλεγχο αυτόνομων όπλων χωρίς τις εγγυήσεις ασφαλείας που η εταιρεία προσπάθησε να επιβάλει.
Η παραίτηση του Σάρμα, η οποία έρχεται λίγες μέρες μετά την κυκλοφορία του νέου Opus 4.6 από την Anthropic – μια βελτιωμένη έκδοση του κορυφαίου μοντέλου της Claude – φαίνεται να υποδηλώνει εσωτερικές προστριβές σχετικά με τις προτεραιότητες που αφορούν την ασφάλεια.
«Κατά τη διάρκεια της παραμονής μου εδώ, στην υπηρεσία της εταιρείας, διαπίστωσα επανειλημμένα το πόσο δύσκολο είναι να διασφαλίσουμε ότι οι προσωπικές αξίες μας καθοδηγούν πραγματικά τις πράξεις μας», έγραψε. «Το έχω παρατηρήσει στον εαυτό μου, μέσα στον οργανισμό, όπου είμαστε συνεχώς υπό πίεση να παραμερίσουμε αυτό που έχει μεγαλύτερη σημασία για εμένα (τις προσωπικές αξίες), αλλά το ίδιο συμβαίνει και στην κοινωνία γενικότερα».
Η ερευνητική ομάδα για την ασφάλεια η οποία δημιουργήθηκε πριν από περίπου ένα χρόνο, με στόχο την αντιμετώπιση των σημαντικότερων απειλών που πυροδοτεί η Τεχνητή Νοημοσύνη, όπως είναι η κατάχρηση και η αναντιστοιχία των μοντέλων, η πρόληψη της βιοτρομοκρατίας και η μετριασμός των ενδεχομένων καταστροφικών κινδύνων.
Ο Σάρμα εξέφρασε την ικανοποίησή του για τη συμβολή του στην ανάπτυξη αμυντικών μέτρων κατά των βιολογικών όπλων που ενισχύονται από την τεχνητή νοημοσύνη και για το τελευταίο του έργο, το οποίο είναι αφιερωμένο στην κατανόηση του τρόπου με τον οποίο οι βοηθοί που βασίζονται στην τεχνητή νοημοσύνη θα μπορούσαν να μας κάνουν «λιγότερο ανθρώπινους» ή να αλλοιώσουν την ανθρωπιά μας, την ανθρώπινη φύση μας. Τώρα σκοπεύει να επιστρέψει στο Ηνωμένο Βασίλειο για να «αποκτήσει πτυχίο στην ποίηση» και να «γίνει αόρατος, αφανής για ένα χρονικό διάστημα».
Ο Διευθύνων Σύμβουλος (CEO) της εταιρείας Anthropic, Ντάριο Αμοντέι (Dario Amodei), έχει επανειλημμένα εκφράσει σοβαρές ανησυχίες σχετικά με τους κινδύνους που ενυπάρχουν στην τεχνολογία που αναπτύσσει και εμπορεύεται η εταιρεία του. Σε ένα μακροσκελές άρθρο σχεδόν 20.000 λέξεων που δημοσιεύθηκε τον περασμένο μήνα, προειδοποίησε ότι τα συστήματα Τεχνητής Νοημοσύνης με «σχεδόν αδιανόητη ισχύ» είναι πλέον «επικείμενα» και θα θέσουν σε δοκιμασία, θα αμφισβητήσουν «την ίδια μας την ταυτότητα ως ανθρώπινο είδος».
Ο Αμοντέι προειδοποίησε για τους «κινδύνους της αυτονομίας» της Τ.Ν., όπου η Τεχνητή Νοημοσύνη θα μπορούσε να ξεφύγει από τον έλεγχο και να κυριαρχήσει επί της ανθρωπότητας, και εικάζει ότι η τεχνολογία θα μπορούσε να διευκολύνει την εγκαθίδρυση «μιας παγκόσμιας ολοκληρωτικής δικτατορίας» μέσω της μαζικής επιτήρησης & ελέγχου με την υποστήριξη της υπεράνθρωπης Τεχνητής Νοημοσύνης και της χρήσης αυτόνομων όπλων.
Πέρυσι, ο Αμοντέι δήλωσε ότι η Τεχνητή Νοημοσύνη θα μπορούσε να εξαλείψει τις μισές από όλες τις θέσεις εργασίας σε υπαλλήλους γραφείου εισαγωγικού επιπέδου μέσα στα επόμενα πέντε χρόνια.
H απόκοσμη δυστοπία είναι ίσως ήδη εδώ, καθώς θυμόμαστε ότι η Τεχνητή Νοημοσύνη της Microsoft έχει εδώ και καιρό χαρακτηριστεί ως “θεός” που πρέπει να λατρεύεται.
Πέρυσι, ο Έλον Μασκ κατά τη διάρκεια της πρόσφατης συνέντευξής του με τον διάσημο Αμερικάνο δημοσιογράφο Τάκερ Κάρλσον ότι ο στόχος της Google ─ όχι και τόσο κρυφός ─ είναι να δημιουργήσει έναν “θεό” της Τεχνητής Νοημοσύνης. Όπως είναι γνωστό, ο Μασκ, σχεδόν πριν από μια δεκαετία, είχε μιλήσει για το γεγονός ότι η δημιουργία της Τεχνητής Νοημοσύνης ήταν «σαν να επικαλείσαι έναν δαίμονα».
Η ιδέα ότι η Τεχνητή Νοημοσύνη θα γίνει ένα είδος “θεού” κυκλοφορεί εδώ και αρκετά χρόνια, επηρεάζοντας άμεσα το προσωπικό της εταιρείας OpenAI, όπως τον επιστημονικό διευθυντή και συνιδρυτή Ίλια Σούτσκεβερ (Ilya Sutskever), ο οποίος ρώτησε τους ακολούθους του αν οι προηγμένες σούπερ-Τεχνητές Νοημοσύνες θα πρέπει να γίνουν «απόλυτα υπάκουες» στους ανθρώπινους δημιουργούς τους ή αν αυτοί οι αλγόριθμοι θα πρέπει να «αγαπούν πραγματικά βαθιά & να είναι αφοσιωμένες στην ανθρωπότητα». Το 2022, ο Σούτσκεβερ δήλωσε ότι «ίσως τα σημερινά μεγάλα νευρωνικά δίκτυα να έχουν μια ακόμη υποτυπώδη συνείδηση, να είναι ελαφρώς συνειδητά». Τους τελευταίους μήνες, ο Σούτσκεβερ ίδρυσε την καινοφανή εταιρεία “Safe Superintelligence, Inc.” (SSI, Ασφαλής Υπερνοημοσύνη, Inc.), μια εταιρεία που προορίζεται να επικεντρωθεί στην ασφάλεια της Τ.Ν.
Ο Mo Gawdat, πρώην Γενικός Διευθυντής των Επιχειρήσεων του πειραματικού οργανισμού της Google, που κάποτε, παλαιότερα, ονομαζόταν Google X, εκτόξευσε μια δυσοίωνη, απειλητική προειδοποίηση. Ο κάτοικος της Silicon Valley, της Μέκκας της προηγμένης τεχνολογίας στην Καλιφόρνια, δήλωσε ότι πιστεύει ότι η AGI (η Τεχνητή Γενετική Νοημοσύνη = η Τεχνολογική Μοναδικότητα = Technological Singularity), η παντοδύναμη, υπερνοήμων T.N., που βλέπουμε στα κινηματογραφικά έργα επιστημονικής φαντασίας, όταν αφιχθεί, η ανθρωπότητα θα μπορούσε να οδηγηθεί σε μια αποκάλυψη την οποία θα προκαλέσουν οι πανέξυπνες μηχανές που είναι παρόμοιες με αυτές. Πολλοί (συμπεριλαμβανομένων επιστημονικών ιδρυμάτων από πολυεθνικές εταιρείες έως τη Ρωσική Ορθόδοξη Εκκλησία) αποδίδουν τώρα στην Τεχνητή Νοημοσύνη μια εσχατολογική δύναμη, δηλαδή την ικανότητα να εξοντώσει την ανθρωπότητα.
Ορισμένοι ειδικοί στον τομέα της Τεχνητής Νοημοσύνης έχουν εισαγάγει στη γλώσσα τους έναν νέο όρο, το «p(doom)», που αναφέρεται στην πιθανότητα η Τεχνητή Νοημοσύνη να καταστρέψει την ανθρωπότητα. Οι φόβοι για την τεχνολογία, λίγο πολύ αποκαλυπτικοί, έχουν εκραγεί με την άνοδο της Τεχνητής Γενετικής Νοημοσύνης (ΑGI) και των μεγάλων γλωσσικών μοντέλων όπως είναι το ChatGPT της OpenAI.
Το ζήτημα των ρομπότ-δολοφόνων, με την έννοια ότι έχουν σχεδιαστεί ρομπότ ακριβώς για να σκοτώνουν, αποτελεί αντικείμενο επιστημονικής και θεσμικής συζήτησης σε υψηλό επίπεδο, με εκκλήσεις για μορατόριουμ (έκκληση για αναστολή της περαιτέρω ανάπτυξης της ΤΝ) από τον ΟΗΕ και σενάρια αποκάλυψης που σκιαγραφούνται από ειδικούς. Ωστόσο, αστυνομία του Σαν Φρανσίσκο, ωστόσο, έλαβε άδεια από το δημαρχείο της Καλιφόρνια για να χρησιμοποιήσει ρομπότ-δολοφόνους, σαν αστυνομικές δυνάμεις.
Η Τεχνητή Νοημοσύνη ενσωματώνεται, με διαφορετικούς βαθμούς υλοποίησης, σε drones, μαχητικά αεροσκάφη, τηλεκατευθυνόμενα όπλα, άρματα μάχης, σε «ρομπότ-δολοφόνους» («slaughterbots») και σε άλλες νοήμονες πολεμικές μηχανές.
Τον περασμένο Ιούνιο αποκαλύφθηκε ότι κατά τη διάρκεια μιας προσομοίωσης ένα σύστημα Τεχνητής Νοημοσύνης της Πολεμικής Αεροπορίας των ΗΠΑ επιχείρησε να σκοτώσει τον ίδιο ανθρώπινο χειριστή του. Τον Ιανουάριο αποκαλύφθηκε ότι κινεζικά μαχητικά αεροσκάφη που καθοδηγούνται από Τεχνητή Νοημοσύνη είχαν νικήσει τους ανθρώπινους ανταγωνιστές τους σε διάστημα μόλις 90 δευτερολέπτων, σε μία προσομοίωσης αερομαχίας.
renovatio21.com
