Γράφει ο Φρανκ Μπέργκμαν
Μία από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο κρούει τον κώδωνα του κινδύνου για την ίδια την τεχνολογία της οποίας η ίδια βοήθησε να δημιουργηθεί, λόγω βάσιμων φόβων της ότι οι άνθρωποι αρχίζουν να χάνουν τον έλεγχο της Τεχνητής Νοημοσύνης.
Η Anthropic, η εταιρεία πίσω από την πλατφόρμα Claude AI, ζητά μια συντονισμένη επιβράδυνση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, εν μέσω αυξανόμενων ανησυχιών ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν σύντομα να φτάσουν σε ένα σημείο όπου θα είναι ικανά να αυτό-βελτιώνονται μόνα τους χωρίς την ανθρώπινη συμμετοχή.
Η προειδοποίηση έχει τροφοδοτήσει νέους φόβους σχετικά με τον αγώνα δρόμου για την κατασκευή ολοένα και πιο ισχυρών συστημάτων τεχνητής νοημοσύνης, καθώς οι μεγάλες εταιρείες τεχνολογίας επενδύουν εκατοντάδες δισεκατομμύρια δολάρια στον κλάδο με ελάχιστη εποπτεία από κυβερνήσεις και ρυθμιστικές αρχές.
Το Anthropic Προειδοποιεί για «Επαναλαμβανόμενη Αυτοβελτίωση»
Σε μια μακροσκελή ανάρτηση ιστολογίου που δημοσιεύθηκε την Πέμπτη, ο Anthropic προειδοποίησε ότι οι δυνατότητες της Τεχνητής Νοημοσύνης (ΤΝ) εξελίσσονται με ρυθμό που η κοινωνία μπορεί να μην είναι σε θέση να παρακολουθήσει.
Σύμφωνα με την εταιρεία, η ποσότητα εργασίας που μπορούν να εκτελέσουν τα συστήματα τεχνητής νοημοσύνης αυτόνομα διπλασιάζεται περίπου κάθε τέσσερις μήνες. (Αυτό σημαίνει Γεωμετρική ή εκθετική πρόοδος, ενώ πριν ─ συμφωνα με τον νόμο του Μουρ ─ αυτό συνέβαινε κάθε 18 μήνες.)
Τα στελέχη λένε ότι αυτή η πορεία θα μπορούσε τελικά να οδηγήσει σε ένα σενάριο γνωστό ως «επαναληπτική αυτοβελτίωση», όπου τα συστήματα τεχνητής νοημοσύνης αρχίζουν να σχεδιάζουν και να βελτιώνουν τους δικούς τους διαδόχους χωρίς ανθρώπινη παρέμβαση.
«Εάν τα συστήματα είναι ικανά να δημιουργήσουν πλήρως τους δικούς τους διαδόχους, οι τρόποι με τους οποίους τα ασφαλίζουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους αποκτούν πολύ μεγαλύτερη σημασία», έγραψε ο Anthropic.
Η εταιρεία υπέδειξε ότι μια συντονισμένη παύση στην ανάπτυξη μπορεί να καταστεί απαραίτητη για να δοθεί στις κυβερνήσεις και τους θεσμούς χρόνος να αντιμετωπίσουν τις επιπτώσεις.
«Δεν έχουμε φτάσει ακόμα εκεί και η επαναλαμβανόμενη αυτοβελτίωση δεν είναι αναπόφευκτη», έγραψαν ο συνιδρυτής του Anthropic, Τζακ Κλαρκ, και η επικεφαλής του Anthropic Institute, Μαρίνα Φαβάρο.
«Αλλά θα μπορούσε να έρθει νωρίτερα από ό,τι είναι προετοιμασμένοι οι περισσότεροι θεσμοί».
Οι Τεχνολογικές Ελίτ Προειδοποιούν για ένα Μέλλον που οι ίδιοι Συνέβαλαν στη Δημιουργία του
Η προειδοποίηση του Anthropic έρχεται καθώς συνεχίζουν να αυξάνονται οι ανησυχίες σχετικά με το κατά πόσον η τεχνητή νοημοσύνη θα μπορούσε τελικά να ξεφύγει από τον ουσιαστικό ανθρώπινο έλεγχο.
Η ίδια η εταιρεία συνέβαλε σε αυτούς τους φόβους νωρίτερα φέτος, όταν το ισχυρό μοντέλο τεχνητής νοημοσύνης Mythos επέδειξε την ικανότητά του να εντοπίζει τρωτά σημεία σε συστήματα λογισμικού, προκαλώντας κραδασμούς σε τομείς όπως οι τραπεζικές εργασίες, η κυβερνοασφάλεια και η τεχνολογία.
Παρά τις επανειλημμένες προειδοποιήσεις από ερευνητές και παράγοντες του κλάδου, η ουσιαστική ρύθμιση εξακολουθεί να απουσιάζει σε μεγάλο βαθμό.
Αντ’ αυτού, ο αγώνας δρόμου προς ολοένα και πιο ισχυρά συστήματα Τεχνητής Νοημοσύνης έχει επιταχυνθεί, καθώς οι εταιρείες ανταγωνίζονται μεταξύ τους για την κυριαρχία στην αγορά και το επενδυτικό κεφάλαιο.
Η κυβέρνηση Τραμπ εξέδωσε πρόσφατα εκτελεστικό διάταγμα που ενθαρρύνει τους προγραμματιστές τεχνητής νοημοσύνης να υποβάλουν οικειοθελώς τα πιο προηγμένα συστήματά τους για δοκιμές κυβερνοασφάλειας πριν από τη δημοσιοποίησή τους, αναθέτοντας μεγάλο μέρος της ευθύνης στις ίδιες τις εταιρείες.
Οι Εκκλήσεις για Παύση της Τεχνητής Νοημοσύνης γίνονται πιο Δυνατές
Η Anthropic δεν είναι η πρώτη μεγάλη εταιρεία που ζητά επιβράδυνση.
Το 2023, ο Έλον Μασκ συμμετείχε σε μια σειρά από πρωτοπόρους της τεχνολογίας στην υποστήριξη μιας πρότασης που ζητούσε μια εξάμηνη παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, ώστε να δοθεί χρόνος για μέτρα ασφαλείας και εποπτεία.
Αυτές οι προσπάθειες τελικά δεν απέδωσαν ιδιαίτερα καθώς οι εταιρείες συνέχισαν να αγωνίζονται για την ανάκαμψη.
Η Anthropic έχει χτίσει μεγάλο μέρος της δημόσιας εικόνας της γύρω από τις ανησυχίες για την ασφάλεια της Τεχνητής Νοημοσύνης.
Νωρίτερα φέτος, η εταιρεία φέρεται να αρνήθηκε να επιτρέψει τη χρήση των μοντέλων της για οικιακά προγράμματα επιτήρησης ή πλήρως αυτόνομα οπλικά συστήματα.
Ταυτόχρονα, οι επικριτές έχουν επισημάνει ότι η Anthropic συνεχίζει να κυκλοφορεί ολοένα και πιο ισχυρά προϊόντα Τεχνητής Νοημοσύνης, προειδοποιώντας παράλληλα για τους κινδύνους της τεχνολογίας.
Τον Φεβρουάριο, η εταιρεία υπαναχώρησε από μια προηγούμενη δέσμευση να παρακρατήσει δυνητικά επικίνδυνες δυνατότητες εάν οι ανταγωνιστές πλησίαζαν στο να φτάσουν την τεχνολογία της.
Η Κούρσα των Δισεκατομμυρίων Δολαρίων Εγείρει Περισσότερα Ερωτήματα
Η προειδοποίηση έρχεται επίσης καθώς ο Anthropic απολαμβάνει εκρηκτική ανάπτυξη.
Η εταιρεία αποτιμήθηκε πρόσφατα σε περίπου 965 δισεκατομμύρια δολάρια και υπέβαλε εμπιστευτικά αίτηση για δημόσια προσφορά μετοχών αυτή την εβδομάδα, τοποθετώντας την ως μία από τις πιο πολύτιμες εταιρείες τεχνητής νοημοσύνης στον κόσμο.
Η Anthropic αναγνώρισε ότι μια επιβράδυνση θα λειτουργούσε μόνο εάν πολλές κορυφαίες εταιρείες συμφωνούσαν να συμμετάσχουν.
«Αντίθετα, μια μονομερής παύση από ένα εργαστήριο είναι εφικτή άμεσα, αλλά επιτυγχάνει πολύ λιγότερα: θα άλλαζε ποιος είναι ο πρωτοπόρος, αλλά δεν θα δημιουργούσε την ευρύτερη διαδικασία διαβούλευσης που απουσιάζει επί του παρόντος», δήλωσε η εταιρεία.
Για τον σκοπό αυτό, η Anthropic αναφέρει ότι σχεδιάζει να φέρει σε επαφή τους υπεύθυνους χάραξης πολιτικής, τους ερευνητές, τις ομάδες υπεράσπισης και τους ανταγωνιστές προγραμματιστές τεχνητής νοημοσύνης για να συζητήσουν πώς η κοινωνία θα πρέπει να ανταποκρίνεται στα ολοένα και πιο ισχυρά συστήματα.
Η προειδοποίηση της εταιρείας υπογραμμίζει μια αυξανόμενη πραγματικότητα για την οποία πολλοί ειδικοί στην τεχνολογία συζητούν εδώ και χρόνια: οι ίδιοι ηγέτες του κλάδου που οδηγούν την επανάσταση της Τεχνητής Νοημοσύνης εκφράζουν ολοένα και περισσότερο την ανησυχία τους για το πού μπορεί τελικά να οδηγήσει η τεχνολογία.
Καθώς η τεχνητή νοημοσύνη γίνεται ολοένα και πιο ισχυρή και πιο βαθιά ενσωματωμένη στην καθημερινή ζωή, τα ερωτήματα σχετικά με το ποιος την ελέγχει και το κατά πόσον μπορεί τελικά να ελεγχθεί καθόλου γίνονται όλο και πιο δύσκολο να αγνοηθούν.
