Μόλις πριν από λίγα χρόνια, αυτή η ιδέα θεωρούνταν κόκκινη γραμμή στον σύγχρονο πόλεμο: κανένας υπολογιστής, κανένας αλγόριθμος και καμία νοημονα μηχανή δεν πρέπει ποτέ να επιτρέπεται να αποφασίζει ανεξάρτητα για τη ζωή και τον θάνατο των ανθρώπων. Σήμερα, αυτή η ίδια η αρχή αποτελεί αντικείμενο συζήτησης στη Μεγάλη Βρετανία.
Όπως αναφέρουν οι Financial Times και η Daily Mail, οι Βρετανοί στρατιωτικοί σχεδιαστές εξετάζουν εάν θα πρέπει να επιτρέπεται στα αυτόματα οπλικά συστήματα που ελέγχονται από τεχνητή νοημοσύνη να πραγματοποιούν θανατηφόρες επιθέσεις χωρίς άμεση ανθρώπινη άδεια. Αυτό θα μπορούσε να σηματοδοτήσει την πρώτη φορά που μια κορυφαία δύναμη του ΝΑΤΟ κάνει αυτό το βήμα προς τα αυτόνομα συστήματα θανάτωσης. ( ft.com )
Η Κόκκινη Γραμμή Μετακινείται
Μέχρι τώρα, η επίσημη αρχή ήταν «Άνθρωπος στον βρόχο» – ένας άνθρωπος πρέπει τελικά να αποφασίσει εάν ένας στόχος θα δεχθεί επίθεση.
Αλλά τώρα τμήματα του βρετανικού στρατού απαιτούν μεγαλύτερο περιθώριο για τα αυτόνομα πολεμικά συστήματα. Ο Υπουργός Άμυνας Αλ Καρνς δήλωσε ανοιχτά ότι ήταν απαραίτητο να υπάρχει η επιλογή «να αφαιρούνται οι άνθρωποι από τον κύκλο, εάν είναι απαραίτητο», καθώς αντίπαλοι όπως η Ρωσία ή η Κίνα δεν τήρησαν τους ίδιους περιορισμούς.
Η συλλογιστική εκ πρώτης όψεως ακούγεται ρεαλιστική: Οι σύγχρονοι πόλεμοι γίνονται όλο και πιο γρήγοροι, τα σμήνη μη επανδρωμένων αεροσκαφών και τα συστήματα τεχνητής νοημοσύνης μπορούν να λαμβάνουν αποφάσεις μέσα σε δευτερόλεπτα, ενώ οι ανθρώπινοι διοικητές μπορεί να αντιδρούν πολύ αργά.
Αλλά εδώ ακριβώς ξεκινά η πραγματική διαμάχη.
Ποιος Φέρει την Ευθύνη;
Μόλις μια έξυπνη μηχανή επιλέξει και επιτεθεί σε στόχους από μόνη της, προκύπτει ένα πρόβλημα που κανείς δεν έχει ακόμη λύσει μέχρι τώρα πειστικά:
Ποιος φέρει την ευθύνη εάν η Τεχνητή Νοημοσύνη επιλέξει λάθος στόχο; Ποιος είναι υπεύθυνος εάν σκοτωθούν άμαχοι; Ποιος θα θεωρηθεί υπεύθυνος εάν ένας αλγόριθμος λάβει λανθασμένη απόφαση λόγω ελαττωματικών δεδομένων ή ηλεκτρονικών δυσλειτουργιών;
Οι επικριτές προειδοποιούν ότι με κάθε βήμα προς τον αυτόνομο, αυτόματο πόλεμο, η γραμμή μεταξύ της ανθρώπινης ευθύνης και της λήψης αποφάσεων από τις μηχανές γίνεται ολοένα και πιο θολή & δυσδιάκριτη.
Το Τέλος μιας Υπόσχεσης;
Η χρονική στιγμή της συζήτησης είναι ιδιαίτερα αξιοσημείωτη.
Μόλις το 2024, η βρετανική κυβέρνηση δήλωσε στα Ηνωμένα Έθνη ότι η Βρετανία δεν διέθετε πλήρως αυτόνομα συστήματα όπλων και δεν είχε καμία πρόθεση να αναπτύξει τέτοια συστήματα. Κανένα κράτος δεν πρέπει να χρησιμοποιεί όπλα ικανά να λαμβάνουν θανατηφόρες αποφάσεις χωρίς επαρκή ανθρώπινη εποπτεία. ( ft.com )
Μόλις δύο χρόνια αργότερα, αυτή η ίδια θέση τίθεται ξανά προς συζήτηση.
Οι επικριτές υποστηρίζουν ότι αυτό καταδεικνύει πόσο γρήγορα οι ηθικές αρχές μπορούν να υποχωρήσουν έναντι γεωπολιτικών και στρατιωτικών συμφερόντων.
Η Παγκόσμια Αναβάθμιση της Τεχνητής Νοημοσύνης
Η Μεγάλη Βρετανία δεν είναι η μόνη σε αυτή την εξέλιξη.
Ο πόλεμος στην Ουκρανία, η ραγδαία ανάπτυξη των αυτόνομων μη επανδρωμένων αεροσκαφών και ο τεχνολογικός ανταγωνισμός μεταξύ των μεγάλων δυνάμεων έχουν αυξήσει την πίεση στους δυτικούς στρατούς. Όλο και περισσότερα κράτη επενδύουν σε συστήματα που μπορούν να λειτουργούν με ελάχιστη ανθρώπινη παρέμβαση.
Αυτό που κάποτε θεωρούνταν επιστημονική φαντασία, σταδιακά γίνεται στρατιωτική πραγματικότητα.
Το Πραγματικό Ερώτημα
Η συζήτηση για τα αυτόνομα όπλα δεν είναι τελικά ένα τεχνικό ζήτημα.
Είναι ένα ηθικό ερώτημα. Θα έπρεπε ποτέ να δοθεί σε μια νοήμονα μηχανή η εξουσία να αποφασίζει ανεξάρτητα, από μόνη της, ποιος ζει και ποιος πεθαίνει;
Η Βρετανία δεν συζητά πλέον θεωρητικά αυτή την πιθανότητα. Η συζήτηση λαμβάνει ήδη χώρα στα υψηλότερα επίπεδα του αμυντικού μηχανισμού της.
Και αυτός ακριβώς είναι ο λόγος για τον οποίο η τρέχουσα συζήτηση θα μπορούσε να έχει σημασία πολύ πέρα από τα Βρετανικά Νησιά. Διότι εάν ένα κράτος που είναι μέλος του ΝΑΤΟ απομακρύνει τους ανθρώπους από τη διαδικασία λήψης των αποφάσεων, αυτό θα μπορούσε να δημιουργήσει ένα προηγούμενο που σύντομα θα μπορούσαν να ακολουθήσουν και άλλα μέλη-κράτη.
