Λογισμικό εντοπισμού τρομοκρατικών… προθέσεων, αλλά και η τεχνολογική δυνατότητα αναγνώρισης προσώπων από τις κάμερες στη Μεγάλη Βρετανία, προκαλούν μαζικές αντιδράσεις σε ΗΠΑ και Μεγάλη Βρετανία.
Μετά τις επιθέσεις στο Ντέιτον, το Οχάιο και την τελευταία στο Ελ Πάσο του Τέξας, ο Πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, ζήτησε από κυβερνητικούς οργανισμούς, αλλά και από τις εταιρείες κοινωνικής δικτύωσης, να αναπτύξουν εργαλεία τα οποία θα επιτρέπουν τον εντοπισμό εκτελεστών πριν ακόμη αυτοί σπείρουν τον θάνατο.
Σύμφωνα με το ρεπορτάζ του ιστοτόπου Recode, πλατφόρμες των social media όπως το Facebook, το Twitter και το YouTube ερευνούν, εντοπίζουν και διαγράφουν περιεχόμενο που χαρακτηρίζεται «τρομοκρατικό». Είναι δεδομένο, λοιπόν, ότι ο Πρόεδρος των ΗΠΑ θέλει να προχωρήσει ένα βήμα πιο πέρα και να εντάξει αυτές τις εταιρείες με κάποιον τρόπο υπό τη σκέπη του υπουργείου Δικαιοσύνης, με σκοπό να δημιουργήσει αυτό που ονομάζεται «προληπτική δικαιοσύνη» για εγκλήματα που ακόμη δεν έχουν γίνει.
Η πρόθεση αυτή του Ντόναλντ Τραμπ δημιούργησε ερωτήματα σχετικά με το πώς αυτή η συνεργασία θα μπορούσε να γίνει εφικτή αν θα ήταν αποτελεσματική και τι αντίκτυπο θα είχε στις ελευθερίες των Αμερικανών και άλλων πολιτών.
Επίσης, παραμένει άγνωστο αν οι εταιρείες κοινωνικής δικτύωσης θα εντοπίζουν τα ύποπτα «ίχνη» ενός εκτελεστή πριν αυτός προβεί σε ανοικτές και δημόσιες απειλές και στη συνέχεια ενημερώνουν τις αρχές ή θα το κάνουν ακόμη πιο νωρίς. Όπως αναφέρει το σχετικό δημοσίευμα του Recode, ο Λευκός Οίκος απέφυγε να απαντήσει σε ερωτήσεις που του έγιναν.
Όπως υποστηρίζει ο διευθυντής της οργάνωσης Electronic Frontier Foundation Technology Projects, Jeremy Gillula, «νομίζω ότι η προσπάθεια να χρησιμοποιηθούν αυτοματοποιημένα εργαλεία ώστε να προβλεφθούν τέτοιου τύπου επιθέσεις είναι κακή ιδέα και θα αποδεικνυόταν αναποτελεσματική. Η τεχνολογία δεν είναι πανάκεια για όλα τα προβλήματα της κοινωνίας. Πρέπει να τα αντιμετωπίσεις ξεχωριστά».
Σύμφωνα με τις πληροφορίες που καταγράφει το δημοσίευμα, το FBI εργάζεται προς αυτή την κατεύθυνση, καθώς έχει καταθέσει πρόταση για τη δημιουργία ενός εργαλείο ειδοποιήσεις απειλών μέσα από τα κοινωνικά δίκτυα.
Σάλος για την τεχνολογία αναγνώρισης προσώπου στις κάμερες σε δημόσιους χώρους
Επιστολή προς την εταιρεία ανάπτυξης της συνοικίας του Κινγκς Κρος στο κέντρο του Λονδίνου απέστειλε ο δήμαρχος της πόλης Σαντίκ Καν, επισημαίνοντας ότι η χρήση τεχνολογίας αναγνώρισης προσώπων από την εταιρεία ενδέχεται να είναι παράνομη. Ο Καν θέλησε να εκφράσει την ανησυχία του μία ημέρα μετά την παραδοχή από την εταιρεία διαχείρισης της περιοχής ότι αξιοποιεί τεχνολογία αναγνώρισης προσώπων «με στόχο τη διατήρηση της δημόσιας ασφάλειας», όπως αποκαλύπτει η εφημερίδα The Guardian. Στην επιστολή του, με αποδέκτη τον διευθύνοντα σύμβουλο της εταιρείας Ρόμπερτ Έβανς, ο δήμαρχος του Λονδίνου ζητεί διευκρινίσεις για τη χρήση της συγκεκριμένης τεχνολογίας.
Οι ιδιοκτήτες του Κινγκς Κρος, συνοικίας που περιλαμβάνει τον ιστορικό σιδηροδρομικό σταθμό και εκείνον του γειτονικού Σεντ Πάνκρας, τα κτίρια γραφείων της Google και το κτιριακό συγκρότημα της σχολής καλών τεχνών Σεντ Μάρτινς, είναι οι πρώτοι που παραδέχονται ότι αξιοποιούν την αμφιλεγόμενη αυτή τεχνολογία παρακολούθησης. Κάμερες που καταγράφουν τα πρόσωπα πολιτών σε δημόσιους χώρους, όπως δρόμους, εμπορικά κέντρα, ποδοσφαιρικά γήπεδα και μουσικές συναυλίες, συλλέγονται από τις διωκτικές Αρχές και συγκρίνονται με πρόσωπα υπόπτων από βάσεις δεδομένων.
Κάμερες ασφαλείας στο Λονδίνο
Η νομιμότητα της τεχνολογίας αυτής δεν είναι, όμως, ξεκάθαρη. Η αστυνομία της Ουαλίας αντιμετωπίζει, μάλιστα, αγωγή από την οργάνωση Liberty, εκ μέρους εργαζομένου ο οποίος θεωρεί ότι η καταγραφή του προσώπου του ήταν παράνομη, καθώς δεν είχε υποπέσει σε κάποιο αδίκημα.
Ο δήμος του Κάμντεν, στον οποίο ανήκει το συγκρότημα του Κινγκς Κρος, ανέφερε ότι η χρήση καμερών ασφαλείας και λογισμικού αναγνώρισης προσώπων δεν πρέπει να είναι ανεξέλεγκτη. «Το κοινό, όπως και ο δήμος μας, θέλει να είναι σίγουρο ότι οι κινήσεις του δεν καταγράφονται παράτυπα» ανέφερε ο δήμος σε ανακοίνωσή του.
Την περασμένη Δευτέρα, η βρετανική υπηρεσία προστασίας δεδομένων ICO δήλωσε ότι εξετάζει την τεχνολογία παρακολούθησης στο Κινγκς Κρος για να αποφανθεί εάν η χρήση της είναι νομότυπη και αξιόπιστη. Επιστημονικές μελέτες στις ΗΠΑ έδειξαν ότι η τεχνολογία αναγνώρισης προσώπων μπορεί να υποπέσει σε σφάλματα εξαιτίας των εγγενών προκαταλήψεων των δημιουργών της.
Αμερικανική μελέτη έδειξε ότι το ποσοστό σφάλματος για γυναίκες με σκούρο δέρμα κυμαινόταν μεταξύ 21% και 35% στο λογισμικό τριών εταιρειών του χώρου. Το ποσοστό σφάλματος για λευκούς άνδρες δεν υπερέβαινε το 1%.
Έχοντας βασιστεί στις ανησυχίες αυτές, ο δήμαρχος του Λονδίνου ανέφερε στην επιστολή του ότι οι δημόσιοι χώροι της πρωτεύουσας μπορούν και πρέπει να χρησιμοποιούνται από όλους τους Λονδρέζους, ανεξαρτήτως ηλικίας, σωματικών ικανοτήτων, γένους, σεξουαλικής κατεύθυνσης, θρησκεύματος και κοινωνικής τάξης.
Από καιρό τώρα το Facebook έχει πάψει να αρκείται στο να γνωρίζει απλώς πού βρισκόμαστε, με ποιον είμαστε και τι κάνουμε.
Δεν του φθάνει να αναγνωρίζει τις προσωπικές μας προτιμήσεις και τις δραστηριότητές μας. Αυτές μπορεί να τις γνωρίζει κάθε τεχνολογική εφαρμογή που βασίζεται στα likes μας, στον ποιόν ακολουθούμε κι επικοινωνούμε και στο τι αγοράζουμε.
Επίσης όλες αυτές οι εφαρμογές και τα δίκτυα μπορούν να ακούσουν τι λέμε στο τηλέφωνό μας. Οι εφαρμογές αυτές συγκεντρώνουν τα δεδομένα για το τι λέμε και τι κάνουμε, τα ομαδοποιούν και τα πωλούν σε όποια εταιρεία πλειοδοτήσει.
Όμως ακόμη υπάρχει ένα όριο, πέραν του οποίου δεν έχουν κατορθώσει όλες οι τεχνολογίες και οι εταιρείες τους να διεισδύσουν: το ανθρώπινο μυαλό. Φαντάζεται κανείς τι θα γινόταν εάν κάποια εταιρεία κατόρθωνε να διαβάζει το μυαλό μας και να αποκομίζει κέρδη από τις πληροφορίες που αντλεί από μέσα του; Αυτός μοιάζει να είναι ο επόμενος στόχος του Facebook.
Η εταιρεία που ίδρυσε ο Μαρκ Ζούκερμπεργκ έχει αρχίσει να χρηματοδοτεί διάφορες έρευνες που αναπτύσσουν «αποκωδικοποιητές ομιλίας», ικανούς να εντοπίσουν τι βούλονται να πουν τα ανθρώπινα υποκείμενα μέσω των εγκεφαλικών τους μηνυμάτων, τονίζεται σε άρθρο που δημοσιεύεται σε μπλογκ του ίδιου του Facebook.
Μία από τις μελέτες, που χρηματοδοτείται από τη διαδικτυακή εφαρμογή και επικεφαλής της είναι επιστήμονες του Πανεπιστημίου της Καλιφόρνιας, στο Σαν Ντιέγκο, δημοσιεύθηκε μάλιστα πρόσφατα στο περιοδικό Nature Communications. Η έρευνα εστιάζεται στο πως μπορούμε να χρησιμοποιούμε μηχανές μόνο με τη σκέψη μας. Για τον σκοπό αυτόν, έχουν σχεδιασθεί μηχανισμοί που «διαβάζουν» τα εγκεφαλικά μηνύματα και προσπαθούν να ταυτοποιήσουν τι είναι εκείνο που προτίθεται να πει το ανθρώπινο υποκείμενο.
Όπως σχολιάζει σχετικά το ΜΙΤ (Τεχνολογικό Ινστιτούτο της Μασαχουσέτης), «οι ερευνητές τοποθέτησαν πλάκες με ηλεκτρόδια στον εγκέφαλο των εθελοντών. Κατόπιν τους έθεσαν μία σειρά από ερωτήσεις, απαιτώντας από τα υποκείμενα τις έρευνας να δίνουν απλές απαντήσεις. Όπως για παράδειγμα ‘προτιμάς ένα πιάνο, ή ένα βιολί;’. Το σύστημα προσπαθούσε να εντοπίσει τόσο την ερώτηση, όσο και την απάντηση».
Μολονότι τα αποτελέσματα της έρευνας βρίσκονται ακόμη στο πρώιμο στάδιό τους, οι ερευνητές συμπέραναν πως «η εγκεφαλική δραστηριότητα που καταγράφηκε ενόσω οι άνθρωποι μιλούσαν θα μπορούσε να χρησιμοποιηθεί για να αποκωδικοποιηθεί σχεδόν ταυτόχρονα αυτό που λέει και να μεταφράζεται σε κείμενο στην οθόνη ενός υπολογιστή».
Το ίδιο το Facebook διαβεβαιώνει πως εάν η μηχανή ήταν ικανή να αναγνωρίσει μόνον κάποιες νοητικές εντολές, όπως «έναρξη», «επιλογή» και «διαγραφή», ήδη αυτό θα αρκούσε για να εγκαταστήσει νέες μορφές διάδρασης των υποκειμένων με τις εφαρμογές.
Στο επίσημο μπλογκ του, το Facebook υποστηρίζει πως στόχος του είναι να δημιουργήσει μία νέα και μη επεμβατική διεπαφή (interface), η οποία θα επιτρέπει στους χρήστες να γράφουν άμεσα χρησιμοποιώντας τη σκέψη τους, «φανταζόμενοι πως μιλούν οι ίδιοι». Πηγαίνοντας ένα βήμα παραπέρα, το Facebook επιδιώκει να αναπτύξει ένα φορητό ακουστικό, που θα επιτρέπει στους χρήστες να χρησιμοποιούν τις σκέψεις τους για να ελέγχουν την μουσική, ή να διαδρούν με την εικονική πραγματικότητα. Για την επίτευξη αυτού του στόχου, το μέσο κοινωνικής δικτύωσης έχει χρηματοδοτήσει έρευνες για συστήματα που «ακροώνται» τον εγκέφαλο έξω από το κρανίο μέσω οπτικών ινών, ή λέιζερ, τα οποία μετρούν τις αλλαγές στη ροή του αίματος—εν είδει φορητού μηχανήματος μαγνητικής τομογραφίας.
Φυσιολογικά εδώ ενσκήπτει ένα ερώτημα. Τι θα κάνει το Facebook με τις πληροφορίες αυτές;
Η επίσημη εκδοχή είναι πως στόχος της εταιρείας είναι απλώς να βελτιώσει τη διάδραση μεταξύ μηχανής και ανθρώπου. Όμως ποιο είναι το τίμημα π.χ. της ενεργοποίησης μέσω της σκέψης του της μουσικής που θέλει το υποκείμενο να ακούσει; Είναι ότι η εταιρεία θα μπορεί να επεξεργάζεται τα εγκεφαλικά κύματα που εκπέμπονται ενώ κάποιος περπατά.
Με αυτά τα μηχανήματα, το Facebook θα μπορεί να εντοπίζει και να μεταφράζει τα μηνύματα του εγκεφάλου, όποιες και να είναι οι σκέψεις του υποκειμένου. Αυτό θα του προσπόριζε ακόμη περισσότερες πληροφορίες από αυτές που ήδη διαθέτει και σε πολύ πιο άμεσο χρόνο. Δεν θα χρειάζεται να περιμένει τις αντιδράσεις από μία δημοσίευση, αλλά απλώς θα εντοπίζει ποια είναι η αντίδραση του ίδιου του μυαλού μας σε αυτή. Ουσιαστικά, ανάμεσα στον χρήστη και το μέσο κοινωνικής δικτύωσης δεν θα υπάρχει πλέον κανένα μυστικό.
«Είναι ένα από τα πρώτα τρανταχτά παραδείγματα του ότι ένας γίγαντας της τεχνολογίας επιδιώκει να αντλήσει δεδομένα άμεσα από το μυαλό των ανθρώπων», τονίζεται στο MIT Technology Review.
Στο ίδιο δημοσίευμα, η καθηγήτρια και ειδική στη νευρο-ηθική του Πανεπιστημίου Ντιουκ Νίτα Φάραχανι, διαπιστώνει πως «βρισκόμαστε στο σημείο του να διαβούμε το έσχατο όριο της ιδιωτικής ζωής μας χωρίς να διαθέτουμε κανένα μέσο προστασίας». Ή απηχώντας τον Μισέλ Φουκώ, ο πλήρης «βιοπολιτικός» έλεγχος της ανθρώπινης ζωής και της κοινωνίας, βρίσκεται ήδη προ των πυλών.
