από τον Τόμας Όισμυλερ
Το πρώτο αστυνομικό κέντρο του Ηνωμένου Βασιλείου με τεχνολογία τεχνητής νοημοσύνης ξεκινά τώρα να λειτουργεί. Οι συλλήψεις θα γίνονται πλέον μέσω τεχνητής νοημοσύνης. Το σύστημα τίθεται σε λειτουργία παρά τα σημαντικά ελαττώματα.
Η αστυνομία με τεχνητή νοημοσύνη υποτίθεται ότι θα εντοπίζει υπόπτους μέσα σε λίγα λεπτά. Η κυβέρνηση έχει επενδύσει 155 εκατομμύρια δολάρια σε αυτό. Police.AI είναι το όνομα της νέας υπηρεσίας που έχει αναλάβει την ολοκληρωμένη εφαρμογή της τεχνητής νοημοσύνης στις αστυνομικές δυνάμεις στην Αγγλία και την Ουαλία. Το σύνθημά της: «Πιάστε τον ύποπτο σε λίγα λεπτά. Μετατρέψτε ένα ανθρωποκυνηγητό εβδομάδων σε διάλειμμα για καφέ».
Ο Άλεξ Μάρεϊ, διευθυντής της Εθνικής Υπηρεσίας Εγκλήματος και πρώτος αξιωματικός Τεχνητής Νοημοσύνης του Εθνικού Συμβουλίου Αρχηγών Αστυνομίας, στοχεύει να επιτύχει ακριβώς αυτό με την αναγνώριση προσώπου. Το γεγονός ότι το πρόγραμμα επανειλημμένα επισημαίνει αθώους ανθρώπους παραβλέπεται σκόπιμα. «Αυτό που παλιά χρειαζόταν μέρες, εβδομάδες ή και μήνες, τώρα μπορεί να χρειαστεί ώρες», λέει, περιγράφοντας εργαλεία Τεχνητής Νοημοσύνης που αναλύουν πλάνα από κάμερες, αναζητούν κατασχεμένα κινητά τηλέφωνα και ανιχνεύουν ψεύτικες εικόνες.
Συχνά αναφέρει μια υπόθεση απάτης στο Μπέντφορντσιρ, όπου λογισμικό εξέτασε δεδομένα κινητών τηλεφώνων τεσσάρων υπόπτων στη ρουμανική γλώσσα, οδηγώντας σε ομολογίες. Ωστόσο, το μοτίβο είναι εντυπωσιακό: πάντα έχει να κάνει με το τι επιτρέπεται να κάνει η αστυνομία. Το κομμάτι όπου όλοι μας σαρωνόμαστε, κατηγοριοποιούμαστε και περιστασιακά μας σταματάμε συνήθως αγνοείται.
Υποστηρίζεται ότι η τεχνολογία εξοικονομεί περισσότερες από έξι εκατομμύρια ώρες εργασίας ετησίως – φέρεται να ισοδυναμεί με την απόλυση 3.000 αστυνομικών. Ο Μάρεϊ περιέγραψε την έναρξη λειτουργίας ως ένα «κρίσιμο βήμα» κατά της αυξανόμενης εγκληματικότητας και του ψηφιακού εγκλήματος: «Ο κόσμος αλλάζει ραγδαία και η αστυνομία πρέπει επίσης να αλλάξει».
Η προπαγάνδα γίνεται ακόμη πιο παράλογη, ισχυριζόμενη ότι το κοινό απαιτούσε: «Οι πολίτες περιμένουν από την αστυνομία να χρησιμοποιεί την Τεχνητή Νοημοσύνη, οι εταιρείες το κάνουν και γνωρίζουμε ότι οι εγκληματίες την χρησιμοποιούν ήδη. Επομένως, η έναρξη του Police.AI είναι και επίκαιρη και απαραίτητη».
Το Reclaim the Net έχει αναφερθεί εκτενώς στο πόσο ελαττωματικό είναι το σύστημα, ωστόσο εξακολουθεί να προχωρά:
Επισήμως, μια αντιστοίχιση λέγεται ότι είναι μόνο μια ένδειξη, ποτέ απόδειξη, και ένας ανθρώπινος αξιωματικός παίρνει πάντα την τελική απόφαση. Αυτό υποτίθεται ότι ακούγεται καθησυχαστικό. Αλλά τότε συναντάτε τον Alvi Choudhury. Ο 26χρονος μηχανικός λογισμικού ήταν στο σπίτι με την οικογένειά του στο Σαουθάμπτον τον Ιανουάριο όταν εμφανίστηκε η αστυνομία της κοιλάδας του Τάμεση, του πέρασε χειροπέδες και τον κράτησε για σχεδόν δέκα ώρες πριν τον αφήσει ελεύθερο στις 2 π.μ. Το μηχάνημα είχε αντιστοιχίσει το πρόσωπό του με μια διάρρηξη 3.000 λιρών στο Μίλτον Κέινς — μια πόλη που δεν είχε καν επισκεφτεί, εκατό μίλια μακριά.
Ο πραγματικός δράστης, σύμφωνα με τον Choudhury, φαινόταν περίπου δέκα χρόνια νεότερος, είχε πιο ανοιχτόχρωμο δέρμα, μεγαλύτερη μύτη, μικρότερα χείλη και δεν είχε γένια. Από κάθε άποψη, ένα διαφορετικό άτομο — εκτός από το ότι είχε πρόσωπο. «Απλώς υπέθεσα ότι ο αστυνομικός που διεξήγαγε την έρευνα είδε ότι ήμουν ένα άτομο με σκούρο δέρμα και σγουρά μαλλιά και γι’ αυτό με συνέλαβε», είπε.
Ο Choudhury, ο οποίος είχε ήδη καταχωρηθεί στη βάση δεδομένων της αστυνομίας το 2021 μετά από μια άλλη παράνομη σύλληψη, μηνύει τώρα τις αρχές.
Δεν είναι μόνος. Ο Κόλιν ΜακΜάχον, ένας 59χρονος, δέχθηκε χειροπέδες από την Μητροπολιτική Αστυνομία στην οδό Χάρλεσντεν Χάι Στριτ, αφού μια κάμερα τον συνέδεσε με κλοπή επίπλων αξίας 300 λιρών από τα ΙΚΕΑ.
Υπήρχε μόνο ένα μικρό πρόβλημα: τη στιγμή του εγκλήματος, ηγούνταν μιας συνάντησης των Ανώνυμων Αλκοολικών δέκα μίλια μακριά. Ένας δικαστής αργότερα τον αθώωσε.
Τα «αποδεικτικά στοιχεία» που ήταν αρκετά για να τον οδηγήσουν στο δικαστήριο; Τα δικαστικά αρχεία ανέφεραν ότι οι αστυνομικοί σημείωσαν ότι φορούσε «τα ίδια γυαλιά, είχε παρόμοια χαρακτηριστικά προσώπου, λεπτή σωματική διάπλαση και παρόμοια λευκά παπούτσια» με τον δράστη. Για τον McMahon, το θέμα δεν ήταν καθόλου αστείο. «Αυτό θα μπορούσε να ωθήσει κάποιον με προβλήματα ψυχικής υγείας στα άκρα. Με εκτροχίασε εντελώς ψυχικά και μου προκάλεσε αναστάτωση», είπε. «Πλέον κάνω θεραπεία μία φορά την εβδομάδα και μετά βίας τολμώ να βγω από το σπίτι».
Ο πολυδιαφημισμένος «ανθρώπινος έλεγχος» προφανώς συνίστατο και στις δύο περιπτώσεις μόνο στο ότι ένας αξιωματούχος απλώς συμφωνούσε με αυτό που πρότεινε η μηχανή.
Η αστυνομία, φυσικά, κρύβεται με τη γλώσσα της ευθύνης. Το NPCC υπόσχεται «συνεπή, υπεύθυνη και διαφανή χρήση της Τεχνητής Νοημοσύνης» και παραπέμπει σε ένα «Σύμφωνο Τεχνητής Νοημοσύνης», σε μια λίστα ελέγχου για την υπεύθυνη Τεχνητή Νοημοσύνη και σε ένα δημόσιο μητρώο που δείχνει πώς κάθε αστυνομική δύναμη χρησιμοποιεί την τεχνολογία. Ο αρχηγός της αστυνομίας Τζέρεμι Βον, υπεύθυνος για την επιστήμη και την καινοτομία, λέει ότι το κέντρο «ενισχύει τη διαφάνεια, προστατεύει την εμπιστοσύνη του κοινού και διασφαλίζει ότι τα εργαλεία που αναπτύσσουμε είναι νόμιμα, ηθικά και αξιόπιστα».
Η εμπιστοσύνη που απαιτείται εδώ είναι η ίδια εμπιστοσύνη που αναμένεται να δείξει κανείς σε μια βάση δεδομένων 19 εκατομμυρίων προσώπων ─ ένα σύστημα που έχει συλλάβει ανθρώπους απλώς επειδή έμοιαζαν με άγνωστους. Από την αρχή, υπήρχε μια πιο ήσυχη, λιγότερο επεμβατική εναλλακτική λύση: Η ίδια η κυβέρνηση αναγνωρίζει ότι η παραδοσιακή αστυνόμευση μπορεί να διαρκέσει εβδομάδες, ενώ η μηχανή μπορεί να το κάνει σε λίγα λεπτά. Ταυτόχρονα, η αστυνομία απασχολεί ήδη εκπαιδευμένους ανθρώπους “υπερ-αναγνωριστές” οι οποίοι ─ σε αντίθεση με τον αλγόριθμο ─ αποδίδουν καλύτερα ακόμη και με θολά ή μερικώς κρυμμένα πρόσωπα.
Η επιλογή δεν ήταν ποτέ «ρομποτικοί μπάτσοι ή αναρχία», αλλά μάλλον μια πιο αργή μέθοδος που χτίζει προσεκτικά μια υπόθεση έναντι μιας ταχύτερης που σαρώνει ολόκληρο το πλήθος με βάση μια λίστα καταζητούμενων και περιστασιακά συλλαμβάνει ένα αθώο άτομο από το πεζοδρόμιο.
Αυτό που κάνει στην πραγματικότητα η Police.AI είναι να εντάσσει αυτήν την ταχύτερη μέθοδο ─ μαζί με την αυξανόμενη λίστα παράνομων συλλήψεων – σε έναν εθνικό αγωγό, ώστε να μπορούν να τη χρησιμοποιήσουν και οι 43 αστυνομικές δυνάμεις.
Ο Μάρεϊ πουλάει το όλο θέμα ως προστασία – όπως ακριβώς κάθε μέτρο επιτήρησης από την κατασκευή του πρώτου τείχους του κάστρου. Αλλά η μηχανή δεν μπορεί να διακρίνει ανάμεσα σε έναν καταζητούμενο εγκληματία και έναν μηχανικό λογισμικού με σγουρά μαλλιά.
Για αυτούς, δεν είσαι άτομο, αλλά ένας υποψήφιος – ένας πιθανός αντίπαλος που χρειάζεται μόνο την επιβεβαίωση ενός κουρασμένου αξιωματούχου που στην πραγματικότητα θα προτιμούσε να πάει σπίτι του.
