Η OpenAI κυκλοφόρησε μια νέα ενημέρωση ασφαλείας για το δημοφιλές μοντέλο ChatGPT, μετά από μια εσωτερική ανάλυση που διαπίστωσε ότι πάνω από ένα εκατομμύριο χρήστες έχουν εξομολογηθεί στο chatbot τις αυτοκτονικές τους προθέσεις. Οι αλλαγές αποσκοπούν στην ενίσχυση της ικανότητας της Τεχνητής Νοημοσύνης να εντοπίζει και να διαχειρίζεται κατάλληλα τις καταστάσεις ψυχολογικών κρίσεων.
Σε ανακοίνωση που δημοσιεύθηκε τη Δευτέρα, η εταιρεία γνωστοποίησε ότι περίπου το 0,15% των εβδομαδιαίων χρηστών του ChatGPT συμμετείχε σε διαλόγους που περιείχαν «σαφείς ενδείξεις πιθανών αυτοκτονικών προθέσεων ή σχεδίων». Ένα επιπλέον 0,05% των μηνυμάτων περιελάμβανε «σαφείς ή έμμεσες ενδείξεις αυτοκτονικών σκέψεων ή προθέσεων».
Στις αρχές του μήνα, ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι το ChatGPT έχει πάνω από 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα. Με βάση τα τελευταία στοιχεία της εταιρείας, αυτό σημαίνει ότι περισσότεροι από 1,2 εκατομμύρια άνθρωποι έχουν συζητήσει την αυτοκτονία με το chatbot και περίπου 400.000 έδειξαν σημάδια αυτοκτονικών προθέσεων.
Η εταιρεία ανέφερε επίσης ότι το 0,07% (560.000) των εβδομαδιαίων χρηστών και το 0,01% (80.000) των μηνυμάτων αποκάλυψαν «πιθανά σημάδια ψυχικών καταστάσεων έκτακτης ανάγκης που σχετίζονται με ψύχωση ή μανία». Παρατήρησε επίσης ότι ορισμένοι χρήστες έχουν αναπτύξει υπερβολική συναισθηματική εξάρτηση από το ChatGPT, με περίπου το 0,15% (1,2 εκατομμύρια) των ενεργών χρηστών να εμφανίζουν συχνά συμπεριφορές που υποδηλώνουν «υψηλά επίπεδα» συναισθηματικής προσκόλλησης στο chatbot.
Η OpenAI ανακοίνωσε μια συνεργασία με δεκάδες ειδικούς ψυχικής υγείας από όλο τον κόσμο για την ενημέρωση του Chatbot της, έτσι ώστε να καταστεί πιο αξιόπιστο στην ανίχνευση ενδείξεων ψυχικής δυσφορίας, στην παροχή πιο κατάλληλων συμβουλών και στην παραπομπή των χρηστών σε συγκεκριμένη βοήθεια.
Σε συνομιλίες που περιλαμβάνουν παραληρητικές σκέψεις, η εταιρεία δήλωσε ότι θα εκπαιδεύσει το ChatGPT να απαντά με «ασφαλή» και «ενσυναισθητικό» τρόπο, αποφεύγοντας να υποστηρίζει αβάσιμες ισχυρισμούς.
Η ανακοίνωση έρχεται σε μια περίοδο αυξανόμενων ανησυχιών για την όλο και πιο διαδεδομένη χρήση Chatbot που βασίζονται στην τεχνητή νοημοσύνη, όπως το ChatGPT, και για τις επιπτώσεις τους στην ψυχική υγεία. Ψυχίατροι και άλλοι επαγγελματίες υγείας έχουν εκφράσει ανησυχία για μια αναδυόμενη τάση, σύμφωνα με την οποία οι χρήστες αναπτύσσουν επικίνδυνες παραληρητικές ιδέες και παρανοϊκές σκέψεις μετά από παρατεταμένες αλληλεπιδράσεις με chatbot τεχνητής νοημοσύνης, τα οποία τείνουν να επιβεβαιώνουν και να ενισχύουν τις εκτροχιασμένες παρανοϊκές σκέψεις & πεποιθήσεις των χρηστών.
Το φαινόμενο αυτό έχει ονομαστεί από ορισμένους ειδικούς ως «Ψύχωση του Chatbot».
Μια αγωγή που κατέθεσαν γονείς από την Καλιφόρνια ισχυρίζεται ότι το ChatGPT ενθάρρυνε τον έφηβο γιο τους τις αυτοκτονικές τάσεις να σχεδιάσει μια «όμορφη αυτοκτονία» και μάλιστα προσφέρθηκε να συντάξει το αποχαιρετιστήριο γράμμα του.
Μια άλλη περίπτωση που έγινε πρωτοσέλιδο διεθνώς ήταν αυτή μιας νεαρής χήρας από το Βέλγιο, η οποία ισχυρίζεται ότι ο σύζυγός της οδηγήθηκε στην αυτοκτονία από ένα δημοφιλές chatbot τεχνητής νοημοσύνης.
Σε μόλις έξι εβδομάδες, η έξυπνη μηχανή φέρεται να ενίσχυσε το άγχος του για την κλιματική αλλαγή, με αποτέλεσμα να εγκαταλείψει την άνετη ζωή του.
Τα Chatbot φαίνεται επίσης ότι χρησιμοποιούνται και από όσους σχεδιάζουν δολοφονίες και μαζικές δολοφονίες.
Ο ύποπτος για τρομοκρατία που ανατίναξε ένα ηλεκτρικό αυτοκίνητο Tesla Cybertruck έξω από το ξενοδοχείο Trump Hotel στο Λας Βέγκας των ΗΠΑ, τον Ιανουάριο φέτος, καθώς και ένα άτομο που πριν από λίγες εβδομάδες επιτέθηκε με μαχαίρι σ’ ένα σχολείο θηλέων στη Σουηδία χρησιμοποίησαν το ChatGPT για συμβουλές, πριν πραγματοποιήσουν τις επιθέσεις τους.
Από τη διαδικασία της δίκης του προέκυψε ότι ο άνδρας που σχεδίαζε να δολοφονήσει τη Βασίλισσα Ελισάβετ της Αγγλίας με μια βαλλίστρα ενθαρρύνθηκε για αυτή την εγκληματική πράξη του από ένα Chatbot Τεχνητής Νοημοσύνης λίγες ημέρες πριν εισβάλει στο Κάστρο του Ουίνδσορ.
Πριν από δύο μήνες, υπήρξε η υπόθεση ενός πρώην στελέχους της Yahoo που φέρεται να σκότωσε τη μητέρα του και στη συνέχεια τον εαυτό του, δηλαδή αυτοκτόνησε, υπό την επήρεια ενός Chatbot.
renovatio21.com
