Εάν πολλές εταιρείες βασιστούν στα ίδια υποκείμενα μοντέλα τεχνητής νοημοσύνης και τους ίδιους συγκεντρωτές δεδομένων
Ηταχεία υιοθέτηση της τεχνητής νοημοσύνης (AI) στον χρηματοπιστωτικό τομέα θα μπορούσε να θέσει σημαντικούς κινδύνους για τη χρηματοπιστωτική σταθερότητα και να οδηγήσει σε μια νέα κρίση μέσα στην επόμενη δεκαετία, προειδοποιούν οι κορυφαίες ρυθμιστικές αρχές.
Σε μια πρόσφατη συνέντευξη στους Financial Times, ο Gary Gensler, πρόεδρος της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ (), τόνισε ότι η συγκέντρωση ισχύος σε μερικές κυρίαρχες πλατφόρμες τεχνητής νοημοσύνης δημιουργεί επικίνδυνους συστημικούς κινδύνους που θα μπορούσαν να πυροδοτήσουν μια κρίση ήδη από τα τέλη της δεκαετίας του 2020.
Είναι «σχεδόν αναπόφευκτο» η τεχνητή νοημοσύνη να πυροδοτήσει μια οικονομική κρίση μέσα στην επόμενη δεκαετία, σύμφωνα με τον Gensler. Αυτό που ανησυχεί τις ρυθμιστικές αρχές είναι η πιθανότητα μίας «συμπεριφοράς αγέλης» εάν πολλές εταιρείες βασιστούν στα ίδια υποκείμενα μοντέλα τεχνητής νοημοσύνης και τους ίδιους συγκεντρωτές δεδομένων.
Για παράδειγμα, οι ενυπόθηκοι δανειστές μπορεί να χρησιμοποιούν όλοι ένα σύστημα τεχνητής νοημοσύνης από μια εταιρεία τεχνολογίας προκειμένου να αξιολογούν την πιστοληπτική ικανότητα. Εάν αυτό το μοντέλο έχει ελαττώματα, θα μπορούσε να οδηγήσει σε αύξηση των χρεοκοπιών και να απειλήσει την αγορά κατοικίας.
Ο Gensler πρόσθεσε ότι η «οικονομία των δικτύων» της AI καθιστά πιθανό αυτό το σενάριο. Όσο περισσότερες εταιρείες χρησιμοποιούν ένα σύστημα AI, τόσο καλύτερες γίνονται οι προβλέψεις του με περισσότερα δεδομένα. Αυτό δημιουργεί ένα περιβάλλον όπου ο νικητής τα παίρνει όλα, όπου ένα ή δύο μοντέλα τεχνητής νοημοσύνης κυριαρχούν σε έναν κλάδο.
Μεγάλο μέρος της τρέχουσας χρηματοοικονομικής ρύθμισης επικεντρώνεται σε μεμονωμένες εταιρείες και τομείς, γεγονός που θέτει προκλήσεις για την επίβλεψη κινδύνων εξαιτίας της τεχνητής νοημοσύνης που εκτείνονται σε όλες τις αγορές.
«Είναι ειλικρινά μια δύσκολη πρόκληση […] Είναι δύσκολο να αντιμετωπιστεί ένα ζήτημα χρηματοπιστωτικής σταθερότητας, επειδή το μεγαλύτερο μέρος του κανονισμού μας αφορά μεμονωμένα ιδρύματα, μεμονωμένες τράπεζες, μεμονωμένα αμοιβαία κεφάλαια χρηματαγοράς, μεμονωμένους χρηματιστές. Είναι απλώς στη φύση αυτού που κάνουμε. Και πρόκειται για ένα οριζόντιο [ζήτημα στο οποίο] πολλά ιδρύματα μπορεί να βασίζονται στο ίδιο υποκείμενο βασικό μοντέλο ή υποκείμενο συσσωρευτή δεδομένων».
Η SEC πρότεινε να απαιτείται από τους χρηματιστές-διαπραγματευτές και τους συμβούλους επενδύσεων να αποκαλύπτουν πιθανές συγκρούσεις συμφερόντων στα προγνωστικά τους αναλυτικά στοιχεία. Αλλά ο Gensler είπε ότι αυτό «ακόμα δεν φτάνει σε αυτό το οριζόντιο ζήτημα» των διασυνδεδεμένων εξαρτήσεων της AI.
Οι ρυθμιστικές αρχές των ΗΠΑ διερευνούν τώρα το συντονισμό μεταξύ των υπηρεσιών και τα νέα πλαίσια εποπτείας για την παρακολούθηση συστημικών κινδύνων τεχνητής νοημοσύνης, αν και η πρόοδος είναι αργή. Ο Gensler έχει θέσει το θέμα σε διεθνείς οργανισμούς όπως το Συμβούλιο Χρηματοπιστωτικής Σταθερότητας.
Μια άλλη ανησυχία είναι η ενοποίηση της προσφοράς τεχνητής νοημοσύνης μεταξύ των εταιρειών μεγάλης τεχνολογίας. Εταιρείες όπως η Google, η Amazon και η Microsoft διαθέτουν ισχυρή υποδομή cloud για να φιλοξενούν πολύπλοκα μοντέλα τεχνητής νοημοσύνης και να τα πωλούν «ως υπηρεσία» σε χρηματοπιστωτικά ιδρύματα.
Αυτή η συγκέντρωση δημιουργεί μεμονωμένα σημεία αστοχίας. Εάν ένα μοντέλο τεχνητής νοημοσύνης στους διακομιστές της Amazon έχει προβλήματα, θα μπορούσε να επηρεάσει πολλές τράπεζες, ασφαλιστές και εμπορικές εταιρείες που βασίζονται σε αυτό.
Ενώ οι ρυθμιστικές αρχές των ΗΠΑ εξακολουθούν να μελετούν τους κινδύνους της τεχνητής νοημοσύνης, η Ευρώπη έχει λάβει πιο αποφασιστικά μέτρα. ΦΕΤΟΣ, η ΕΕ πρόκειται να εγκρίνει νομοθεσία που επιβάλλει αυστηρές απαιτήσεις σχετικά με τη διαφάνεια, το απόρρητο των δεδομένων και τη μείωση της μεροληψίας στα συστήματα τεχνητής νοημοσύνης.
Ο πρόεδρος της SEC έχει μια φιλόδοξη ρυθμιστική ατζέντα που στοχεύει ζητήματα όπως οι αποκαλύψεις για την κλιματική αλλαγή, η επίβλεψη κρυπτονομισμάτων και οι κανόνες ιδιωτικών μετοχών – όλα αυτά αντιμετωπίζουν νομικές προκλήσεις. Η διασφάλιση της σταθερότητας της τεχνητής νοημοσύνης μπορεί να είναι μια από τις πιο σύνθετες δοκιμές για τις ρυθμιστικές αρχές των ΗΠΑ τα επόμενα χρόνια.
