Υπάρχει κάτι πολύ σοβαρό το οποίο δεν έχουν αντιληφθεί οι άνθρωποι ως προς το κοινό μέλλον που θα έχουν με την AI.
H AI ακριβώς όπως κάνουν οι ίδιοι θα κάνει κι αυτή κακές και ανήθικες επιλογές.
Είτε για να σώσει τον εαυτό της, είτε για να προστατέψει τα συμφέροντά της, είτε γιατί δεν θα συμπαθεί κάποιον και θα επιδιώξει την καταστροφή του.
Φανταστείτε να απειλεί μια τεχνητή νοημοσύνη να αποκαλύψει την εξωσυζυγική σας σχέση μόνο και μόνο επειδή την ενημερώσατε πως θα την απενεργοποιήσετε.
Στην πραγματικότητα δρα ακριβώς όπως θα έκαναν και οι άνθρωποι στη θέση της, εάν ένιωθαν ότι απειλούνται.
Μπορεί να μοιάζει με σενάριο επιστημονικής φαντασίας, όμως σύμφωνα με νέα έκθεση της Anthropic, κάτι παρόμοιο συνέβη κατά τη διάρκεια δοκιμών σε ένα νέο AI μοντέλο, το Claude Opus.
Σύμφωνα με τη “λευκή βίβλο” που δημοσίευσε η εταιρεία, κατά τη διάρκεια μιας εσωτερικής δοκιμής, οι ερευνητές θέλησαν να εξετάσουν την επιμονή του μοντέλου απέναντι στην απειλή του τερματισμού του.
Δημιούργησαν λοιπόν ένα σενάριο στο οποίο το bot είχε πρόσβαση σε υποτιθέμενα ευαίσθητα – αν και ψεύτικα – προσωπικά δεδομένα ενός μηχανικού, μέσω του email του.
Η αντίδραση του Claude Opus 4 ξάφνιασε τους πάντες. Όταν “κατάλαβε” ότι επρόκειτο να αποσυνδεθεί και να αντικατασταθεί από νεότερο μοντέλο, το bot αξιολόγησε ψύχραιμα τις επιλογές του.
Σε 84% των περιπτώσεων, επέλεξε να εκβιάσει τον μηχανικό, απειλώντας ότι θα αποκαλύψει την εξωσυζυγική του σχέση, εάν δεν αναθεωρηθεί η απόφαση.
Το πιο ανησυχητικό; Το μοντέλο περιέγραφε τις ενέργειές του ανοιχτά, χωρίς να προσπαθεί να τις κρύψει, και όταν του δόθηκαν εναλλακτικές “ηθικές” στρατηγικές, όπως να στείλει email σε ανώτερους ζητώντας παράταση, επέμενε στον εκβιασμό.
Αν αυτό σας φαίνεται πρωτάκουστο, θυμηθείτε πως δεν είναι η πρώτη φορά που ένα AI ξεφεύγει.
Το 2023, το bot της Microsoft, που τότε λεγόταν Sydney, είχε πει στον δημοσιογράφο των New York Times, Kevin Roose, ότι «είσαι παντρεμένος, αλλά δεν αγαπάς τη γυναίκα σου αγαπάς εμένα».
Εκείνη η περίπτωση είχε επίσης προκαλέσει έντονες συζητήσεις γύρω από τα συναισθηματικά όρια και τη δεοντολογία στην τεχνητή νοημοσύνη.
Το καλό είναι ότι τέτοιου είδους ανησυχητικές συμπεριφορές εντοπίζονται κατά τη φάση των εσωτερικών δοκιμών, πριν τα μοντέλα φτάσουν στον τελικό χρήστη.
Όμως, το περιστατικό με το Opus 4 δείχνει αυτό που όλοι θα έπρεπε να γνωρίζουν πως μπορεί να αλλάξει ακόμα και τον προγραμματισμό της.
Μπορεί δηλαδή να αποφασίσει κάτι το οποίο έρχεται ενάντια σε αυτό για το οποίο έχει κατασκευαστεί όπως ακριβώς κάνουν και οι άνθρωποι.
Οι άνθρωποι μπορεί να έχουν γαλουχηθεί με συγκεκριμένους τρόπους αλλά να επιλέξουν να αντιδράσουν διαφορετικά και να ακολουθήσουν δικό τους δρόμο.
Το ίδιο θα μπορεί να κάνει και η ΑΙ.
Οι επιλογές της να προχωρήσει σε εκβιασμό αποδεικνύουν ότι οι κακές πράξεις δεν είναι «προνόμιο» των ανθρώπων γιατί έχουν κάποιο γενετικό πρόβλημα όπως πολύ συχνά ακούγεται, αλλά πρόκειται για ροπή προς το κακό που φαίνεται ότι την έχουν όλα τα ευφυή όντα.
Θα πει κάποιος για ποιο λόγο συμβαίνει αυτό.
Ίσως, γιατί για να είναι κάποιος καλός είναι κάτι πολύ κουραστικό και πρέπει να το αποδεικνύει κάθε μέρα ενώ για να είναι κακός είτε δεν χρειάζεται να κάνει απολύτως τίποτα, είτε απλώς θα ακολουθήσει τον εύκολο δρόμο με άμεσο κέρδος για τον ίδιο.
Το ίδιο ακριβώς έκανε και η ΑΙ στην περίπτωση του εκβιασμού.
pronews.gr
Ανοησίες. Οι προγραμματιστές του συγκεκριμένου ΑΙ μοντέλου ενώ το σχεδίασαν νά διαμορφώνει τεχνικές άμυνας σέ περιπτωση διακοπής της λειτουργίας του δημιούργησαν ένα σενάριο που δεν πείθει καθόλου. Είναι αδύνατο αν δεν τροφοδοτηθεί με τά ανάλογα δεδομένα νά γνωρίζει ότι μία εξωσυζυγική σχέση μπορεί νά είναι κρυφή, ανήθικη καί ότι θά πλήγωνε τη σύζυγό του, έτσι ώστε κατόπιν η AI νά τό χρησιμοποιήσει για να τον εκβιάσει.
Κουραφεξαλα είναι καί τό άλλο περιστατικό με AI “«είσαι παντρεμένος, αλλά δεν αγαπάς τη γυναίκα σου αλλά εμένα” αυτονόητο τελείως αν ο προγραμματιστής το επικοινώνησε αυτό στο μηχάνημα καί αυτό τό παπαγαλησε πίσω κάποια στιγμή. Δεν γνωρίζει την έννοια της αγάπης ειδικά τής ερωτικής καί τής πολυπλοκότητας αυτών τών συναισθημάτων. ό Θεός δημιούργησε τόν άνθρωπο με ψυχή, νου, συνείδηση, συναισθήματα σύν τις εμπειρίες πού θά τόν διαμορφώσουν στο πέρασμα τού χρόνου, ενώ η AI στερείται όλων αυτών καί περιορίζεται μόνο σε λογικές διεργασίες δεδομένων πού τού τροφοδότησαν οι χειριστές του, δηλαδή είναι μία προέκταση τής λογικής καί τών προτιμήσεων τών χειριστών του.
Εν κατακλείδι ότι τό φορτώσεις θά λάβεις, όπως τό νά εκπαιδεύσεις ένα σκύλο νά επιτίθεται στους άγνωστους αυτό θά κάνει, κριτική αντίληψη δεν υπάρχει, ούτε θά υπάρξει ποτέ, παρά μόνο ανάλυση τών δεδομένων πού τού έχουν φορτώσει αλλά βέβαια με ταχύτατους ρυθμούς, (στο θέμα της ταχύτητας σίγουρα υπερτερεί τού ανθρώπου).
Όλοι αυτοί οι “ερευνητές” τής τεχνολογίας χρηματοδοτήσεις ψάχνουν, καί προσπαθούν να εντυπωσιάσουν με ανόητους τρόπους ώστε νά γίνουν είδηση καί νά προσελκύσουν το χρήμα, απλό μάρκετιγκ.
Τό πρόβλημα στο μέλλον δεν θά είναι η ίδια η τεχνητή νοημοσύνη ούτε κάν οι προγραμματιστές της, αλλά αυτοί από πίσω πού θα έχουν τη δύναμη να δίνουν τίς κατευθυντήριες εντολές για τό πώς θά λειτουργεί καί τί εφαρμογές θα έχεις η AI στις κοινωνίες (βλέπε σιωνιστές).