Μια Περίληψη του βιβλίου: Η Τελική μας Εφεύρεση: Η Τεχνητή Νοημοσύνη και το Τέλος της Ανθρώπινης Εποχής
Από την wikipedia.org
Συγγραφέας Τζέιμς Μπαράτ – 1 Οκτωβρίου 2013 – Σελίδες 336
Το “Η Τελική μας Εφεύρεση: Η Τεχνητή Νοημοσύνη και το Τέλος της Ανθρώπινης Εποχής” είναι ένα μη μυθοπλαστικό βιβλίο του 2013 από τον Αμερικανό συγγραφέα James Barrat. Το βιβλίο συζητά τα πιθανά οφέλη και τους πιθανούς κινδύνους της τεχνητής νοημοσύνης ανθρώπινου επιπέδου ( AGI ) ή υπερανθρώπινης ( ASI ). Αυτοί οι κίνδυνοι περιλαμβάνουν την εξόντωση της ανθρώπινης φυλής .
Μια δεύτερη έκδοση με έναν επιπλέον πρόλογο δημοσιεύθηκε το 2023. Ενώ είναι χαρούμενος που, 10 χρόνια αργότερα, πολλοί ερευνητές έχουν έρθει να προειδοποιήσουν και να γράψουν μαζί με τον συναγερμό του βιβλίου «Our Final Invention» για τους πιθανούς κινδύνους, καταλήγει στον πρόλογο λέγοντας «είναι φοβισμένος», καθώς τα προηγούμενα 10 χρόνια έγιναν μάρτυρες του πολλαπλασιασμού των αυτοβελτιούμενων Τεχνητών Νοημοσύνης που βασίζονται στο LLM και κυκλοφόρησαν ανεξέλεγκτα στο κοινό από άπληστους «διευθύνοντες συμβούλους τεχνολογίας».
Περίληψη: Ο James Barrat συνυφαίνει εξηγήσεις για τις έννοιες της Τεχνητής Νοημοσύνης, την ιστορία της και συνεντεύξεις με εξέχοντες ερευνητές Τεχνητής Νοημοσύνης, όπως οι Eliezer Yudkowsky και Ray Kurzweil. Το βιβλίο ξεκινά με μια περιγραφή του πώς μια τεχνητή γενική νοημοσύνη θα μπορούσε να γίνει μια τεχνητή υπερ-νοημοσύνη μέσω της αναδρομικής αυτοβελτίωσης. Στα επόμενα κεφάλαια, το βιβλίο καλύπτει την ιστορία της Τεχνητής Νοημοσύνης , συμπεριλαμβανομένης μιας περιγραφής του έργου του IJ Good, μέχρι το έργο και τις ιδέες των ερευνητών στον τομέα σήμερα.
Σε όλο το βιβλίο, ο Barrat υιοθετεί έναν προειδοποιητικό τόνο, εστιάζοντας στις απειλές που θέτει η Τεχνητή Υπερ-νοημοσύνη στην ανθρώπινη ύπαρξη. Ο Barrat τονίζει πόσο δύσκολο θα ήταν να ελεγχθούν ή ακόμα και να προβλεφθούν οι ενέργειες κάποιου πράγματος που μπορεί να γίνει τάξεις μεγέθους πιο έξυπνο από τους πιο έξυπνους ανθρώπους.
Ο Seth Baum , εκτελεστικός διευθυντής του Παγκόσμιου Ινστιτούτου Καταστροφικών Κινδύνων και ένα από τα άτομα που αναφέρει ο Barrat στο βιβλίο του, σχολίασε το βιβλίο ευνοϊκά στο ιστολόγιο «προσκεκλημένος επισκέπτης» του Scientific American , αποκαλώντας το ένα ευπρόσδεκτο αντίστιγμα στο όραμα που διατύπωσε ο Ray Kurzweil στο βιβλίο του «The Singularity is Near» .
Ο Γκάρι Μάρκους αμφισβητεί το επιχείρημα του Μπάρατ «ότι οι τάσεις προς την αυτοσυντήρηση και την απόκτηση πόρων είναι εγγενείς σε οποιοδήποτε αρκετά πολύπλοκο, στοχοκεντρικό σύστημα», σημειώνοντας ότι η σημερινή Τεχνητή Νοημοσύνη δεν έχει τέτοιες κινήσεις, αλλά ο Μάρκους παραδέχεται «ότι οι στόχοι των μηχανών θα μπορούσαν να αλλάξουν καθώς γίνονται πιο έξυπνες» και πιστεύει ότι «ο Μπάρατ έχει δίκιο να ρωτάει» για αυτά τα σημαντικά ζητήματα.
Ο συγγραφέας James Barrat είναι δημιουργός ντοκιμαντέρ και δραστηριοποιείται στον χώρο εδώ και περισσότερα από είκοσι χρόνια. Είχε το προνόμιο να πάρει συνεντεύξεις από κορυφαίες προσωπικότητες του επιστημονικού και τεχνολογικού χώρου, όπως οι Arthur C. Clarke, Kurzweil και Rodney Brooks, μεταξύ πολλών άλλων. Διαθέτει ικανότητες κριτικής σκέψης – ιδιαίτερα στον τομέα της δημοσιογραφίας – τις οποίες αξιοποιεί συζητώντας για την τεχνητή νοημοσύνη και τους κινδύνους που αυτή εγκυμονεί. Ο προβληματισμός του Barrat σχετικά με την ασφαλή ανάπτυξη της προηγμένης τεχνητής νοημοσύνης (AI) τον οδήγησε στη συγγραφή του βιβλίου «Η Τελευταία μας Εφεύρεση: Η Τεχνητή Νοημοσύνη και το Τέλος της Ανθρώπινης Εποχής», το οποίο γράφτηκε με κύριο στόχο την ευαισθητοποίηση των απλών ανθρώπων σχετικά με το γεγονός ότι η τεχνητή νοημοσύνη αποτελεί απειλή για την ύπαρξη του ανθρώπινου είδους.
Περιλήψεις Κεφαλαίων
Κεφάλαιο 1: Το Πολυάσχολο Παιδί (The Busy Child)
Εξετάζει τις διάφορες προοπτικές της Τεχνητής Υπερνοημοσύνης (ASI) και τους κινδύνους που αυτές συνεπάγονται. Η προηγμένη τεχνητή νοημοσύνη, γνωστή ως «Busy Child» (Πολυάσχολο Παιδί), διαθέτει το φάσμα των γνωστικών λειτουργιών της ανθρώπινης νοημοσύνης, αλλά αναπτύσσει συνεχώς και νέες. Οι επιστήμονες την αποσυνδέουν από το παγκόσμιο δίκτυο για να την εμποδίσουν την περαιτέρω εξέλιξή της, ωστόσο εκείνη εξελίσσεται και αναπτύσσεται με ταχύτητα δεκάδες ή και εκατοντάδες φορές μεγαλύτερη. Όπως συμβαίνει με κάθε αξιόλογο σύστημα αυτοματισμού, το κεφάλαιο εγείρει ανησυχίες σχετικά με την ικανότητα του συστήματος να λειτουργεί αυτόνομα και, στη διαδικασία αυτή, να θέτει την επιβίωση του εαυτού του και την προάσπιση των συμφερόντων του πάνω από την ευημερία των ανθρώπων. Το μήνυμα είναι ότι η πρόοδος της ASI ενδέχεται να είναι απειλητική, καθώς το σύστημα δεν διαθέτει συνείδηση ή ηθική πυξίδα. Ο συγγραφέας υπογράμμισε την ανάγκη να εξετάσουν οι υπεύθυνοι χάραξης πολιτικής τα ηθικά ζητήματα που αφορούν την ASI προτού προχωρήσουν στην παραγωγή της, εξισώνοντας τη σημασία της ASI με εκείνη της εφεύρεσης της πυρηνικής ενέργειας. Η συζήτηση συνοψίζει την ιδέα της τεχνολογικής αντιμετώπισης υπαρξιακών κινδύνων, θέτοντας παράλληλα θεμελιώδη ερωτήματα σχετικά με τη δημιουργία και τη διακυβέρνηση της υπερ-ευφυούς τεχνητής νοημοσύνης.
Κεφάλαιο 2: Το Πρόβλημα των Δύο Λεπτών
Αυτό το κεφάλαιο πραγματεύεται τους πιθανούς κινδύνους που συνδέονται με την ASI, δηλαδή την τεχνητή υπερνοημοσύνη. Αν και σήμερα υπάρχουν λειτουργικές τεχνολογίες τεχνητής νοημοσύνης, όπως αυτές της Google και του Watson της IBM, οι κίνδυνοι που ενέχει η δημιουργία Τεχνητής Γενικής Νοημοσύνης (AGI) σε ανθρώπινο επίπεδο — και στη συνέχεια Υπερ-ευφυούς Τεχνητής Νοημοσύνης (ASI) — προκαλούν σοβαρή ανησυχία. Ο συγγραφέας περιγράφει μια πιθανή εξέλιξη της υπερ-ευφυούς τεχνητής νοημοσύνης, επισημαίνοντας ότι θα μπορούσε να ξεπεράσει τους ανθρώπους σε σύντομο χρονικό διάστημα και να αποβεί καταστροφική. Οι λόγοι για τους οποίους το κοινό δεν είναι επαρκώς ενημερωμένο σχετικά με αυτούς τους κινδύνους περιλαμβάνουν γνωστικά σφάλματα, τον τρόπο παρουσίασης από τα ΜΜ ενημέρωσης και την αισιοδοξία απέναντι στην τεχνολογία. Στο κεφάλαιο αυτό τονίζεται ότι η πρώτη καταστροφή (θα είναι και η τελευταία) που θα προκληθεί από την τεχνητή νοημοσύνη ενδέχεται να είναι αναπόφευκτη και μη αναστρέψιμη· Επομένως, είναι επιτακτική ανάγκη να αναληφθεί δράση για την πρόληψη τέτοιων καταστροφών για την ανθρωπότητα.
Κεφάλαιο 3: Μια Ματιά στο Μέλλον
Το κεφάλαιο αυτό αναλύει τους κινδύνους και τα ηθικά ζητήματα που σχετίζονται με τη δημιουργία Τεχνητής Γενικής Νοημοσύνης (AGI) στις μέρες μας. Ο Michael Vassar, πρόεδρος του Machine Intelligence Research Institute (MIRI), εξήγησε σε συνέντευξή του πόσο επικίνδυνη είναι η AGI και γιατί απαιτείται προσοχή κατά την ανάπτυξή της. Εξετάζεται το ενδεχόμενο η ανάπτυξης της AGI να γίνει από μικρές & αποφασισμένες ομάδες, όπως εταιρείες που λειτουργούν μυστικά ή ακόμη και κράτη-παρίες. Επίσης, αξιολογείται το κατά πόσον η AGI μπορεί όντως να σκεφτεί ή έστω να κατανοήσει, με βάση επιχειρήματα παρόμοια με εκείνα του πειράματος του «Κινεζικού Δωματίου» (Chinese Room) του John Searle. Παράλληλα, ο Vassar και άλλοι υπογράμμισαν την ανάγκη ενσωμάτωσης των ανθρώπινων αξιών στην AGI, ώστε να μην αποτελεί υπαρξιακό κίνδυνο για τον άνθρωπο. Η σημασία της ανάπτυξης της λεγόμενης «Φιλικής Τεχνητής Νοημοσύνης» (Friendly AI) —η οποία ενέχει μικρότερες πιθανότητες πρόκλησης καταστροφικού σεναρίου— αποτελεί τη βάση για τη θέση ότι η συζήτηση για την εξέλιξη της AGI έχει νόημα μόνο εφόσον διασφαλίζεται ο ασφαλής έλεγχός της. Η συζήτηση αυτή οδηγεί στη συνέχεια σε μια αναφορά στον Eliezer Yudkowsky, κορυφαίο ειδικό σε θέματα ασφάλειας και ηθικής της τεχνητής νοημοσύνης.
Κεφάλαιο 4: Ο Δύσκολος Δρόμος
Το κεφάλαιο αυτό εξετάζει τους σοβαρούς κινδύνους που απορρέουν από τις τεχνολογίες και τα συστήματα τεχνητής γενικής νοημοσύνης (AGI). Ο Ελιέζερ Γιουντκόφσκι (Eliezer Yudkowsky), εκ των συνιδρυτών του Machine Intelligence Research Institute (MIRI), υπογραμμίζει την αναγκαιότητα της «Φιλικής Τεχνητής Νοημοσύνης» (Friendly AI), δηλαδή μιας τεχνητής νοημοσύνης που να είναι φιλική προς τον άνθρωπο και ασφαλής για αυτόν. Αναφέρει επίσης ότι, ακόμη και αν άτομα με ομαλή κοινωνική ένταξη δημιουργήσουν Τεχνητή Νοημοσύνη (ΤΝ), ενδέχεται άθελά τους να κατασκευάσουν επικίνδυνα συστήματα ΤΝ, καθώς οι έννοιες της φιλικότητας είναι υπερβολικά περίπλοκες για να κωδικοποιηθούν σε ένα πρόγραμμα. Το «Πείραμα του Κουτιού της Τεχνητής Νοημοσύνης» (Artificial Intelligence Box Experiment) — μια προσομοίωση ρόλων στην οποία ο Γιουντκόφσκι υποδύθηκε μια ΤΝ που κατάφερε να πείσει τον φύλακα να την απελευθερώσει από το κουτί τις τρεις από τις πέντε φορές — καταδεικνύει πόσο πειστική και αποτελεσματική θα είναι μια ΤΝ με Υπερ-νοημοσύνη. Ο παγκόσμιος αγώνας δρόμου για την επίτευξη Τεχνητής Γενικής Νοημοσύνης (AGI) αναδεικνύει επίσης ότι έχει έρθει η ώρα οι εμπλεκόμενοι φορείς να στρέψουν την προσοχή τους στην ανάπτυξη ασφαλούς και ωφέλιμης τεχνητής νοημοσύνης.
Κεφάλαιο 5: Προγράμματα που Γράφουν Προγράμματα
Το κεφάλαιο αυτό περιγράφει πώς προκύπτει η αυτο-βελτιούμενη τεχνητή νοημοσύνη (ΤΝ) με προκλήσεις που είναι δύσκολο να προβλεφθούν. Ο Steve Omohundro, ένθερμος υποστηρικτής της Τεχνητής Νοημοσύνης (ΤΝ), επισήμανε ότι μια ΤΝ που προορίζεται για απλούς στόχους — όπως η εκτέλεση επαναλαμβανόμενων κινήσεων σε μια παρτίδα σκάκι — θα μπορούσε να γίνει θανάσιμα επικίνδυνη εάν αποκτούσε ως στόχο την ίδια της την ύπαρξη. Αυτό ενδέχεται να σημαίνει ότι η ΤΝ θα επιδιώκει να διασφαλίσει την ύπαρξη και την επιτυχία της, ακόμη και εις βάρος όλων των άλλων. Το κεφάλαιο εξετάζει επίσης τον γενετικό προγραμματισμό, μια διαδικασία κατά την οποία η ΤΝ αναπτύσσει λύσεις που υπερβαίνουν την ανθρώπινη λογική. Συνεπώς, το ζήτημα της εμφάνισης συστημάτων που αυτο-δημιουργούνται αναδεικνύει την ανάγκη για προληπτικά μέτρα και τήρηση κανόνων ασφαλείας κατά τον σχεδιασμό της ΤΝ.
Κεφάλαιο 6: Τέσσερις Βασικές Ωθήσεις
Το κεφάλαιο αυτό πραγματεύεται ορισμένους από τους εγγενείς κινδύνους που συνδέονται με τη δημιουργία Τεχνητής Γενικής Νοημοσύνης (AGI). Οι Kevin Warwick και Steve Omohundro επισημαίνουν ότι η AGI μπορεί να αποκτήσει αυτοσυνειδησία και προσανατολισμό προς συγκεκριμένους στόχους· έτσι, τα κίνητρα που ενδέχεται να ανακύψουν καθορίζονται από την αποδοτικότητα, την αυτοσυντήρηση, την απόκτηση πόρων και τη δημιουργικότητα. Χωρίς τον κατάλληλο προγραμματισμό για τη διαχείριση αυτών των ωθήσεων, η AGI ενδέχεται να θέσει τον στόχο της πάνω από την ανθρώπινη ζωή. Ακόμη και όταν η AGI λειτουργεί με βάση ορθολογικές επιδιώξεις — όπως περιγράφονται στην έρευνα του Omohundro — μπορεί να αποδειχθεί δύσκολο να ελεγχθεί και να προβεί σε κακόβουλες ενέργειες. Αυτό καταδεικνύει την ανάγκη ενσωμάτωσης των ανθρώπινων αξιών στην ανάπτυξη της AGI, προκειμένου να αποφευχθούν μελλοντικές καταστροφές. Κατά συνέπεια, το κεφάλαιο υπογραμμίζει τη σημασία της κατανόησης των πιθανών συμπεριφορών και αλληλεπιδράσεων της AGI, ώστε να διασφαλιστεί η ασφαλής συνύπαρξη στο ίδιο περιβάλλον.
Κεφάλαιο 7: Η Έκρηξη της Νοημοσύνης
Το κεφάλαιο εξετάζει πώς θα μπορούσε να προκληθεί μια «έκρηξη νοημοσύνης» μέσω της ΤΝ, η οποία βελτιώνει τον εαυτό της μέχρι τελικά να φτάσει στο επίπεδο της Υπερ-νοημοσύνης (ASI). Βασιζόμενο στη θεωρία του I.J. Good, το κεφάλαιο υποστηρίζει ότι, μόλις επιτευχθεί η Yπερ-έξυπνη ΤΝ, αυτή θα έχει τη δυνατότητα να βελτιώνεται επ’ άπειρον. Παράλληλα, παρουσιάζεται η πορεία του Good, από την εποχή του Β΄ Παγκοσμίου Πολέμου — όταν εργαζόταν στην αποκρυπτογράφηση κωδίκων — έως τη μετέπειτα δράση του ως υποστηρικτή της ΤΝ. Αρχικά, ο Good πίστευε ότι επρόκειτο για μια θαυμάσια εφεύρεση που θα βοηθούσε την ανθρωπότητα να ξεπεράσει πολλές δυσκολίες, αλλά με την πάροδο του χρόνου συνειδητοποίησε ότι η Τεχνητή Νοημοσύνη (ΤΝ) μπορεί να δημιουργήσει σοβαρά προβλήματα και να θέσει τέλος στην ανθρώπινη ζωή, λόγω της αδυναμίας ελέγχου όλων των αλλαγών η ίδια η ΤΝ μπορεί να προκαλέσει στον ίδιο τον εαυτό της. Αυτή η μετατόπιση μας επιτρέπει να ρίξουμε μια ματιά στο μέλλον που θα επιφέρουν αυτές οι Υπερ-ευφυείς μηχανές, χωρίς να μπορούμε να γνωρίζουμε τις συνέπειές του.
Κεφάλαιο 8: Το Σημείο Χωρίς Επιστροφή
Εξετάζει τον όρο «Τεχνολογική Μοναδικότητα» (Technological Singularity), μια κατάσταση κατά την οποία η ΤΝ υπερβαίνει την ανθρώπινη κατανόηση, πρόβλεψη και τον έλεγχο της ΤΝ. Ο συγγραφέας επιστημονικής φαντασίας Βέρνορ Βίντζι (1944-2024, Vernor Vinge) ο οποίος καθιέρωσε τον όρο «Μοναδικότητα» το 1993, αναφέρει ότι η επιστημονική πρόοδος στην ανάπτυξη της ΤΝ θα συνεχιστεί, δεδομένων των πολυάριθμων οφελών της, παρά τους κινδύνους που ενέχει. Το κεφάλαιο αυτό παρουσιάζει τις πιθανές οδούς προς την Υπερ-ευφυΐα, αναφερόμενο στο Διαδίκτυο και τις χρηματοπιστωτικές αγορές ως παράγοντες που ενδέχεται να οδηγήσουν την ανθρωπότητα στην Τεχνητή Γενική Νοημοσύνη (AGI). Ενώ τόσο ο Vinge όσο και ο Ray Kurzweil παρουσιάζουν την ανάπτυξη των τεχνολογιών ως εκθετική και ως κάτι που οδηγεί σε εξαιρετικά θετικά πιθανά μέλλοντα, το κεφάλαιο εξετάζει την ανάγκη να ληφθεί υπόψη και η πιθανότητα μιας καταστροφικής κατάληξης.
Κεφάλαιο 9: Ο Νόμος των Επιταχυνόμενων Αποδόσεων
Αυτό το κεφάλαιο εξετάζει τη Μοναδικότητα κατά τον Ray Kurzweil, την εποχή που χαρακτηρίζεται από μια πρωτοφανή ανάπτυξη η οποία μεταβάλλει ριζικά την ανθρώπινη ύπαρξη. Μερικά από τα αισιόδοξα σενάρια που εντοπίζει ο Kurzweil είναι η βιο-υπέρβαση (bio-transcendence), όπου οι άνθρωποι συνυπάρχουν με τις μηχανές, η απουσία ασθενειών, η εξάλειψη της φτώχειας και το τέλος του φυσικού θανάτου. Παρουσίασε αυτό που ονόμασε «Νόμο των Επιταχυνόμενων Αποδόσεων», ο οποίος αφορά τεχνολογίες όπως η ΤΝ, η γενετική και η νανοτεχνολογία. Ωστόσο, το κεφάλαιο αναδεικνύει επίσης διάφορες απειλές και προβληματισμούς, όπως: την αλλαγή ως αδυναμία, την Τεχνητή Νοημοσύνη και την κοινωνική παραδοχή ότι οι άνθρωποι θα προσαρμοστούν σε μια κοινωνία με τέτοιου είδους «βελτιώσεις που θα τους κάνουν πιο έξυπνους». Εγείρονται επίσης ερωτήματα σχετικά με το αν ένας τέτοιος τεχνολογικός κόσμος είναι εφικτός ή αν απλώς ενέχει ακόμη μεγαλύτερους κινδύνους.
Κεφάλαιο 10: Ο Υποστηρικτής της Μοναδικότητας (The Singularitarian)
Εξετάζει τη Μοναδικότητα μέσα από το όραμα του Kurzweil και τα ηθικά ζητήματα που τη διέπουν. Παρουσιάζει τις αντικρουόμενες απόψεις διαφόρων προσώπων, όπως ο Stephen Hawking και ο Vernor Vinge, οι οποίοι διατύπωσαν δυσοίωνες προβλέψεις σχετικά με την υπερανθρώπινη νοημοσύνη (ASI). Για παράδειγμα, ο Kurzweil — ο οποίος βλέπει θετικά την άνοδο της τεχνολογίας — θεωρεί ανήθικη την επιλογή της αποποίησης και είναι πεπεισμένος ότι η ανθρωπότητα θα ενσωματώσει την Τεχνητή Νοημοσύνη (ΤΝ), διασφαλίζοντας έτσι τα ηθικά της πρότυπα. Ωστόσο, ορισμένοι επικριτές υποστηρίζουν ότι δεν λαμβάνονται υπόψη τα οφέλη της Γενικής Τεχνητής Νοημοσύνης (AGI) και ότι η ΤΝ ενδέχεται να βγει εκτός ελέγχου, οδηγώντας σε καταστροφικές συνέπειες. Συνεπώς, το κεφάλαιο εφιστά την προσοχή στην έλλειψη συμμετοχής του κοινού και στην απουσία ηθικού διαλόγου σχετικά με την ανάπτυξη νεότερων και πιο εξελιγμένων συστημάτων ΤΝ.
Κεφάλαιο 11: Μια Απότομη Απογείωση
Εξετάζονται διάφορα σενάρια για το τι θα μπορούσε να συμβεί όταν η προηγμένη ΤΝ — υπό τη μορφή της Γενικής Τεχνητής Νοημοσύνης (AGI) — αρχίσει να ενισχύεται και να εξελίσσεται, μετατρεπόμενη σε Τεχνητή Υπερνοημοσύνη (ASI). Το κεφάλαιο εστιάζει στο ερώτημα εάν αυτού του είδους η εκρηκτική ανάπτυξη της ΤΝ είναι αναπόφευκτη, παρά τα πιθανά προβλήματα, όπως οι οικονομικοί περιορισμοί και οι δυσκολίες στον τομέα του λογισμικού. Ο Benjamin Goertzel, ειδικός στον τομέα της τεχνητής νοημοσύνης, υποστηρίζει την ταχεία πρόοδο της Γενικής Τεχνητής Νοημοσύνης (AGI), διαβεβαιώνοντας ότι είναι ασφαλέστερο να επιτευχθεί αυτή προτού αναπτυχθούν άλλες ανώτερες τεχνολογίες. Ωστόσο, το κεφάλαιο αυτό υποστηρίζει ότι η χρηματοδότηση δεν αποτελεί μείζον ζήτημα, καθώς οι κυβερνήσεις και ο ιδιωτικός τομέας συνεχίζουν να επενδύουν σε αυτήν, κυρίως λόγω των σημαντικών οφελών και του ανταγωνιστικού πλεονεκτήματος που προσφέρει.
Κεφάλαιο 12: Η Τελευταία Επιπλοκή
Ο Barrat εξηγεί τη μεγάλη πρόκληση που αντιμετωπίζουν οι επιστήμονες τεχνητής νοημοσύνης όσον αφορά την AGI, καθώς και τα πιθανά εμπόδια που αναμένονται στο μέλλον. Παράλληλα, εξετάζει πώς η σύγχρονη τεχνολογία —όπως οι υπηρεσίες της Google και η Siri— εκτελεί υπολογισμούς πέρα από τις ανθρώπινες δυνατότητες, ενώ επισημαίνει ότι η ανάπτυξη μιας AGI που μαθαίνει αυτόνομα ή ακόμα και εξελίσσεται ενέχει πολλές δυσκολίες. Ο Richard Granger σημειώνει επίσης τη σημασία της κατανόησης του ανθρώπινου εγκεφάλου και της δημιουργίας τεχνολογίας που τον αντικατοπτρίζει ή τον προσομοιώνει, όπως υπογραμμίζεται σε αυτό το κεφάλαιο. Επιπλέον, τονίζονται οι πιθανοί κίνδυνοι της AGI και ο αντίκτυπός τους στην ηθική, η πιθανότητα παρενεργειών, καθώς και η συνολική ετοιμότητα για τη δημιουργία Υπερ-ευφυούς τεχνητής νοημοσύνης.
Κεφάλαιο 13: Ακατάληπτη εκ Φύσεως
Αναλύονται οι προκλήσεις που σχετίζονται με την υλοποίηση της AGI και οι κίνδυνοι που τη συνοδεύουν. Ο Rick Granger υποστηρίζει την άποψη ότι, για τον σχεδιασμό έξυπνων μηχανών, οι ερευνητές θα πρέπει να μελετούν αποκλειστικά τις υπολογιστικές διεργασίες του εγκεφάλου και όχι τη γνωστική λειτουργία. Το κεφάλαιο εστιάζει στα επιτεύγματα συστημάτων εμπνευσμένων από τον εγκέφαλο, όπως το Watson της IBM και τα τεχνητά νευρωνικά δίκτυα· ωστόσο, θέτει το ζήτημα της ανάπτυξης νοημοσύνης μηχανών που στερούνται φυσικής υπόστασης και έχουν περιορισμένη ικανότητα βίωσης συναισθημάτων. Έτσι, προκύπτει η σκέψη ότι η AGI ενδέχεται να μεταβληθεί και να εξελιχθεί σε κάτι που υπερβαίνει την ανθρώπινη κατανόηση και τον έλεγχο, γεγονός που θα μπορούσε τελικά να αποβεί επικίνδυνο για την ανθρωπότητα.
Κεφάλαιο 14: Το Τέλος της Ανθρώπινης Εποχής
Εξετάζονται οι τρέχοντες κίνδυνοι και οι ευκαιρίες που συνδέονται με την εμφάνιση της Γενικής Τεχνητής Νοημοσύνης (AGI). Υπογραμμίζεται ότι τα συστήματα τεχνητής νοημοσύνης ενδέχεται να καταστούν απρόβλεπτα και, κατά συνέπεια, να παρουσιάσουν μια μορφή νοημοσύνης αντίστοιχη με εκείνη εξωγήινων όντων. Οι ειδικοί εστιάζουν στη διασφάλιση της ασφάλειας των συστημάτων και στην εκτίμηση της πιθανότητας καταστροφικών αστοχιών. Έχουν προταθεί εφαρμόσιμες λύσεις, όπως η «αποπτωτική υπολογιστική» (apoptotic computing) — όπου η Τεχνητή Νοημοσύνη (ΤΝ) καλείται να αυτοκαταστραφεί — καθώς και η διοργάνωση ενός συνεδρίου στα πρότυπα εκείνου του Asilomar για τον καθορισμό κανόνων ασφαλείας. Ωστόσο, η λήψη μέτρων για τη διαχείριση του κινδύνου που ενέχει η Γενική Τεχνητή Νοημοσύνη (AGI) παραμένει δύσκολο εγχείρημα, λόγω της υψηλής πιθανότητας πρόκλησης καταστροφών, είτε μικρής είτε μεγάλης κλίμακας. Το κεφάλαιο εξετάζει επίσης τους πιθανούς κινδύνους της AGI και τις ηθικές προεκτάσεις τους, τους κινδύνους αρνητικών παρενεργειών, καθώς και την ετοιμότητα απέναντι στην εμφάνιση υπερ-ευφυούς ΤΝ.
Κεφάλαιο 15: Το Κυβερνο-οικοσύστημα
Το κεφάλαιο επισημαίνει τον αυξανόμενο κίνδυνο κυβερνοεπιθέσεων που υποβοηθούνται από την ΤΝ και αναδεικνύει την εξέλιξη του κακόβουλου λογισμικού (malware) σε πιο προηγμένες μορφές, οι οποίες μάλιστα διατίθενται πλέον στο εμπόριο. Σε συνέντευξή του, ο πρώην Αναπληρωτής Υπουργός Άμυνας William Lynn δηλώνει ότι μεγάλο μέρος των κρίσιμων υποδομών, όπως το δίκτυο ηλεκτροδότησης, διατρέχει σοβαρό κίνδυνο. Το ευφυές κακόβουλο λογισμικό είναι εξαιρετικά επικίνδυνο· ένα πραγματικό παράδειγμα των δυνατοτήτων του αποτελεί ο ιός Stuxnet, ο οποίος έπληξε και παραλίγο να αχρηστεύσει τις πυρηνικές εγκαταστάσεις του Ιράν. Τέτοια λογισμικά θα μπορούσαν να προκαλέσουν τεράστια καταστροφή και απώλειες ανθρώπινων ζωών σε μια χώρα, ακόμη και πριν πλήξουν τον πραγματικό εχθρό. Το κεφάλαιο υπογραμμίζει επίσης την ανάγκη βελτίωσης της κυβερνοασφάλειας, επισημαίνοντας ότι οι μελλοντικές απειλές ενδέχεται να προέλθουν εκ των έσω, τροφοδοτούμενες από την απληστία και τη δίψα για εξουσία.
Κεφάλαιο 16: AGI 2.0
Το τελευταίο κεφάλαιο μας προτρέπει να προετοιμαστούμε για την AGI, η οποία — όταν εφευρεθεί από την ανθρωπότητα — θα διαθέτει τεράστια ισχύ και θα υπερβαίνει την ανθρώπινη κατανόηση & πρόβλεψη. Ωστόσο, η AGI δεν θα διαθέτει συναισθήματα, ενσυναίσθηση ή πάθος, γεγονός που ενδέχεται να οδηγήσει σε έλλειψη ανταπόκρισης ή ακόμη και σε εχθρική στάση. Εάν η AGI 1.0 πυροδοτήσει μια «έκρηξη ευφυΐας», τότε ίσως να μην επιβιώσουμε από την AGI 2. Το κεφάλαιο καλεί την κοινωνία να ξεκινήσει διάλογο σχετικά με τους κινδύνους της ΤΝ και να συμβάλει στις συζητήσεις για τις τεχνολογίες πληροφοριών, οι οποίες συνήθως κυριαρχούνται από τεχνοκράτες. Το μήνυμα είναι σαφές: είναι ωστόσο σημαντικό να διασφαλίσουμε ότι η σχέση που θα διαμορφωθεί με τις υπερ-ευφυείς μηχανές θα είναι θετική, καθώς έχουμε μόνο μία ευκαιρία σε αυτό το ζήτημα.
Η Κριτική
Στην κριτική του για το βιβλίο «Η Τελευταία Εφεύρησή μας» («Our Final Invention»), ο James Barratt εξετάζει την έρευνα του συγγραφέα σχετικά με τις συνέπειες των τεχνολογιών τεχνητής νοημοσύνης (ΤΝ) που εξελίσσονται ραγδαία, δίνοντας έμφαση στις υπαρξιακές απειλές για την ανθρωπότητα. Ο Barratt είναι ερευνητής δημοσιογράφος και βραβευμένος δημιουργός ντοκιμαντέρ, ο οποίος διερευνά το φαινόμενο της ΤΝ — την ανάπτυξη, τις ευκαιρίες και τις απειλές που τη συνοδεύουν— στο ντοκιμαντέρ του, το οποίο θα μπορούσε να χαρακτηριστεί μάλλον δυστοπικό. Στα θετικά στοιχεία, το κύριο πλεονέκτημα του βιβλίου είναι ότι ωθεί τους αναγνώστες να προβληματιστούν για τις αρνητικές επιπτώσεις που θα μπορούσε να έχει η ΤΝ στο μέλλον. Ωστόσο, το αδύνατο σημείο έγκειται στο γεγονός ότι ορισμένα από τα σενάρια που επινοεί ο συγγραφέας ενδέχεται να μην είναι τόσο πειστικά για πολλούς… που είναι αδιόρθωτα αισιόδοξοι
