Η βόμβα που μετράει αντίστροφα
Κορυφαίοι ερευνητές Τεχνητής Νοημοσύνης από τις Ηνωμένες Πολιτείες και την Κίνα προειδοποιούν ότι η ραγδαία ανάπτυξη της τεχνολογίας θα μπορούσε σύντομα να προκαλέσει μαζικές απώλειες, εάν οι παγκόσμιες δυνάμεις δεν θέσουν υπό έλεγχο την εξέλιξή της . Ο Stephen Casper, παγκοσμίου φήμης επιστήμονας υπολογιστών στο MIT, σήμανε τον κώδωνα του κινδύνου σε ένα μείζον συνέδριο AI στο Πεκίνο: «Ένα πράγμα που σχεδόν όλοι στην AI μπορούν να συμφωνήσουν είναι ότι η AI δεν χρειάζεται μια στιγμή Τσερνομπίλ» .
Η αναφορά στο Τσερνομπίλ δεν είναι τυχαία. Η πυρηνική καταστροφή του 1986 συνεχίζει να διαμορφώνει τη δημόσια δυσπιστία απέναντι στην πυρηνική ενέργεια δεκαετίες αργότερα. Οι ερευνητές AI φοβούνται τώρα ότι μια παρόμοια καταστροφή θα μπορούσε να ξεσπάσει από συστήματα που αναπτύσσονται πριν οι κυβερνήσεις, οι εταιρείες ή το κοινό κατανοήσουν πλήρως τι είναι ικανά να κάνουν.
Η άμεση απειλή – Οι χάκερ και το «όπλο» της AI
Η ικανότητα της AI να δημιουργεί κώδικα υπολογιστών είναι μια από τις πιο ισχυρές πρακτικές χρήσεις της. Αυτή ακριβώς η ικανότητα θα μπορούσε να την καταστήσει και μία από τις πιο επικίνδυνες . Οι ειδικοί προειδοποιούν ότι οι χάκερ θα μπορούσαν να εκμεταλλευτούν τα εργαλεία AI για να εξαπολύσουν καταστροφικές κυβερνοεπιθέσεις σε πολύ μεγαλύτερη κλίμακα, μειώνοντας ταυτόχρονα την τεχνική ικανότητα που απαιτείται για επιθέσεις που κάποτε απαιτούσαν ελίτ δεξιότητες .
Η εταιρεία Anthropic ανακοίνωσε, αλλά αρνήθηκε να δημοσιεύσει, το μοντέλο Claude Mythos, επειδή ήταν τόσο ισχυρό που θα μπορούσε να εισβάλει σε «κάθε μείζον λειτουργικό σύστημα και κάθε μείζον πρόγραμμα περιήγησης ιστού» .
Το ανοιχτό λογισμικό – Το δίκοπο μαχαίρι
Ο κίνδυνος αυξάνεται καθώς τα μοντέλα AI ανοιχτού κώδικα εξαπλώνονται σε όλο τον κόσμο. Σε αντίθεση με τα κορυφαία εμπορικά συστήματα AI, τα ανοιχτά μοντέλα μπορούν να στερούνται ουσιαστικής εποπτείας μόλις κυκλοφορήσουν . Μια πηγή από μια κορυφαία κινεζική εταιρεία AI δήλωσε ότι οι ανησυχίες για την ασφάλεια είναι ο λόγος για τον οποίο τα προηγμένα κινεζικά μοντέλα δεν κυκλοφορούν πλέον ως ανοιχτού κώδικα .
Το αίτημα για συνεργασία – ΗΠΑ και Κίνα μαζί
Ο Casper συνέκρινε την τρέχουσα στιγμή με τον Ψυχρό Πόλεμο, όταν οι Ηνωμένες Πολιτείες και η Σοβιετική Ένωση συνεργάστηκαν για να περιορίσουν τις πυρηνικές απειλές, ενώ παράλληλα επέκτειναν τα δικά τους οπλοστάσια . Ο Lin Yun, καθηγητής στο Πανεπιστήμιο Jiaotong της Σαγκάης, υπογράμμισε την ανάγκη για κοινές αρχές ασφάλειας και τεχνικά πρότυπα .
Η στιγμή της αλήθειας
Η προειδοποίηση των κορυφαίων ερευνητών AI είναι μια σφραγίδα θανάτου για την αφέλεια μας. Η AI δεν είναι απλώς ένα εργαλείο – είναι ένα όπλο που μπορεί να χρησιμοποιηθεί εναντίον μας. Οι εταιρείες αναπτύσσουν συστήματα που ούτε οι ίδιοι δεν μπορούν να ελέγξουν. Οι κυβερνήσεις τρέχουν πίσω από την τεχνολογική κυριαρχία, αγνοώντας τις συνέπειες.
Η προειδοποίηση είναι σαφής: δεν πρέπει να περιμένουμε μια στιγμή Τσερνομπίλ της AI για να ξυπνήσουμε.
