Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη και τις χρηματοοικονομικές υπηρεσίες

2
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη και τις χρηματοοικονομικές υπηρεσίες

Η τεχνητή νοημοσύνη (AI) ελέγχεται επί του παρόντος στον κλάδο των χρηματοοικονομικών υπηρεσιών; Το «όχι» τείνει να είναι η διαισθητική απάντηση.

Αλλά μια βαθύτερη ματιά αποκαλύπτει κομμάτια από υπάρχοντες χρηματοοικονομικούς κανονισμούς που σιωπηρά ή ρητά ισχύουν για την τεχνητή νοημοσύνη — για παράδειγμα, η αντιμετώπιση αυτοματοποιημένων αποφάσεων σε GDPRαλγοριθμική διαπραγμάτευση σε MiFID IIδιακυβέρνηση αλγορίθμων στο RTS 6 και πολλές διατάξεις διάφορων κανονισμών για το cloud.

Ενώ ορισμένα από αυτά τα καταστατικά είναι πολύ στραμμένα προς το μέλλον και απροσδόκητα – ιδιαίτερα το GDPR και το RTS 6 – όλα γράφτηκαν πριν από την πιο πρόσφατη έκρηξη στις δυνατότητες και την υιοθέτηση της τεχνητής νοημοσύνης. Ως αποτέλεσμα, είναι αυτό που αποκαλώ “προ-AI”. Επιπλέον, οι κανονισμοί που αφορούν την τεχνητή νοημοσύνη είναι υπό συζήτηση εδώ και τουλάχιστον δύο χρόνια, και διάφοροι ρυθμιστικοί και βιομηχανικοί φορείς έχουν εκδώσει λευκές βίβλους και καθοδήγηση υψηλού προφίλ, αλλά όχι επίσημους κανονισμούς.

Αλλά όλα άλλαξαν τον Απρίλιο του 2021, όταν η Ευρωπαϊκή Επιτροπή εξέδωσε τη σχετική Νόμος περί τεχνητής νοημοσύνης (Νόμος AI) πρόταση. Το τρέχον κείμενο ισχύει για όλους τους τομείς, αλλά ως πρόταση, δεν είναι δεσμευτικό και η τελική του γλώσσα μπορεί να διαφέρει από την έκδοση του 2021. Ενώ η πράξη προσπαθεί για μια οριζόντια και καθολική δομή, ορισμένοι κλάδοι και εφαρμογές αναφέρονται ρητά.

Η πράξη υιοθετεί μια προσέγγιση «πυραμίδας» που βασίζεται στον κίνδυνο στη ρύθμιση της τεχνητής νοημοσύνης. Στην κορυφή της πυραμίδας απαγορεύονται οι χρήσεις της τεχνητής νοημοσύνης, όπως η υποσυνείδητη χειραγώγηση, όπως τα deepfakes, η εκμετάλλευση ευάλωτων ατόμων και ομάδων, η βαθμολογία κοινωνικής πίστης, η βιομετρική αναγνώριση σε πραγματικό χρόνο σε δημόσιους χώρους (με ορισμένες εξαιρέσεις για σκοπούς επιβολής του νόμου) κ.λπ. Παρακάτω υπάρχουν συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που επηρεάζουν βασικά δικαιώματα, την ασφάλεια και την ευημερία, όπως η αεροπορία, η κρίσιμη υποδομή, η επιβολή του νόμου και η υγειονομική περίθαλψη. Στη συνέχεια, υπάρχουν διάφοροι τύποι εφαρμογών τεχνητής νοημοσύνης στους οποίους ο νόμος AI επιβάλλει ορισμένες απαιτήσεις διαφάνειας. Μετά από αυτήν είναι η ανεξέλεγκτη κατηγορία «όλα τα άλλα», που καλύπτει — από προεπιλογή — περισσότερες καθημερινές λύσεις τεχνητής νοημοσύνης όπως chatbot, τραπεζικά συστήματα, μέσα κοινωνικής δικτύωσης και αναζήτηση ιστού.

Ενώ όλοι κατανοούμε τη σημασία της ρύθμισης της τεχνητής νοημοσύνης σε τομείς που είναι θεμελιώδεις για τη ζωή μας, τέτοιοι κανονισμοί δύσκολα θα μπορούσαν να είναι καθολικοί. Ευτυχώς, οι ρυθμιστικές αρχές στις Βρυξέλλες συμπεριέλαβαν ένα αδιέξοδο, το Άρθρο 69, που ενθαρρύνει τους πωλητές και τους χρήστες συστημάτων τεχνητής νοημοσύνης χαμηλότερου κινδύνου να τηρούν εθελοντικά, σε αναλογική βάση, τα ίδια πρότυπα με τα αντίστοιχα που χρησιμοποιούν συστήματα υψηλού κινδύνου.

Η ευθύνη δεν αποτελεί στοιχείο του νόμου περί τεχνητής νοημοσύνης, αλλά η Ευρωπαϊκή Επιτροπή σημειώνει ότι μελλοντικές πρωτοβουλίες θα αντιμετωπίσουν την ευθύνη και θα είναι συμπληρωματικές προς τον νόμο.

Διαφημιστικό πλακίδιο για Τεχνητή Νοημοσύνη στη Διαχείριση περιουσιακών στοιχείων

Ο νόμος AI και οι χρηματοοικονομικές υπηρεσίες

Ο τομέας των χρηματοοικονομικών υπηρεσιών καταλαμβάνει μια γκρίζα ζώνη στον κατάλογο των ευαίσθητων βιομηχανιών του νόμου. Αυτό είναι κάτι που πρέπει να διευκρινίσει ένα μελλοντικό προσχέδιο.

  • Η αιτιολογική έκθεση περιγράφει τις χρηματοπιστωτικές υπηρεσίες ως τομέα «υψηλού αντίκτυπου» και όχι «υψηλού κινδύνου» όπως η αεροπορία ή η υγειονομική περίθαλψη. Το αν αυτό είναι απλώς θέμα σημασιολογίας παραμένει ασαφές.
  • Η χρηματοδότηση δεν περιλαμβάνεται στα συστήματα υψηλού κινδύνου στα παραρτήματα II και III.
  • Τα «πιστωτικά ιδρύματα» ή οι τράπεζες αναφέρονται σε διάφορες ενότητες.
  • Η πιστωτική βαθμολογία αναφέρεται ως περίπτωση χρήσης υψηλού κινδύνου. Ωστόσο, το επεξηγηματικό κείμενο το πλαισιώνει στο πλαίσιο της πρόσβασης σε βασικές υπηρεσίες, όπως η στέγαση και η ηλεκτρική ενέργεια, και θεμελιωδών δικαιωμάτων όπως η μη διάκριση. Συνολικά, αυτό συνδέεται πιο στενά με την απαγορευμένη πρακτική της αξιολόγησης της κοινωνικής πίστωσης παρά με τις χρηματοοικονομικές υπηρεσίες καθεαυτές. Ωστόσο, το τελικό σχέδιο του νόμου θα πρέπει να το ξεκαθαρίσει.

Η θέση του νόμου για τις χρηματοοικονομικές υπηρεσίες αφήνει περιθώρια ερμηνείας. Επί του παρόντος, οι χρηματοπιστωτικές υπηρεσίες θα εμπίπτουν στο άρθρο 69 από προεπιλογή. Ο νόμος περί τεχνητής νοημοσύνης αναφέρει ρητά την αναλογικότητα, γεγονός που ενισχύει την εφαρμογή του άρθρου 69 στις χρηματοπιστωτικές υπηρεσίες.

Οι κύριες λειτουργίες ενδιαφερομένων που καθορίζονται στην πράξη είναι ο “πάροχος” ή ο πωλητής και ο “χρήστης”. Αυτή η ορολογία είναι συνεπής με τους ήπιους νόμους που σχετίζονται με την τεχνητή νοημοσύνη που δημοσιεύθηκαν τα τελευταία χρόνια, είτε με καθοδήγηση είτε με βέλτιστες πρακτικές. Ο «Χειριστής» είναι ένας κοινός προσδιορισμός στη γλώσσα της τεχνητής νοημοσύνης και η πράξη παρέχει τον δικό της ορισμό που περιλαμβάνει παρόχους, προμηθευτές και όλους τους άλλους παράγοντες στην αλυσίδα εφοδιασμού της τεχνητής νοημοσύνης. Φυσικά, στον πραγματικό κόσμο, η εφοδιαστική αλυσίδα τεχνητής νοημοσύνης είναι πολύ πιο περίπλοκη: τρίτα μέρη είναι πάροχοι συστημάτων τεχνητής νοημοσύνης για χρηματοπιστωτικές εταιρείες και οι χρηματοοικονομικές εταιρείες είναι πάροχοι των ίδιων συστημάτων για τους πελάτες τους.

Η Ευρωπαϊκή Επιτροπή εκτιμά το κόστος της συμμόρφωσης με τον νόμο AI σε 6.000 έως 7.000 ευρώ για τους προμηθευτές, πιθανώς εφάπαξ ανά σύστημα, και 5.000 έως 8.000 ευρώ ετησίως για τους χρήστες. Φυσικά, δεδομένης της ποικιλομορφίας αυτών των συστημάτων, ένα σύνολο αριθμών δύσκολα θα μπορούσε να εφαρμοστεί σε όλους τους κλάδους, επομένως αυτές οι εκτιμήσεις έχουν περιορισμένη αξία. Πράγματι, μπορεί να δημιουργήσουν μια άγκυρα με την οποία θα συγκριθούν το πραγματικό κόστος της συμμόρφωσης σε διαφορετικούς τομείς. Αναπόφευκτα, ορισμένα συστήματα τεχνητής νοημοσύνης θα απαιτήσουν τόσο αυστηρή επίβλεψη τόσο του πωλητή όσο και του χρήστη που το κόστος θα είναι πολύ υψηλότερο και θα οδηγήσει σε περιττή ασυμφωνία.

Αναφορά Tile for T-Shape Teams

Διακυβέρνηση και Συμμόρφωση

Ο νόμος για την τεχνητή νοημοσύνη εισάγει ένα λεπτομερές, ολοκληρωμένο και νέο πλαίσιο διακυβέρνησης: Το προτεινόμενο Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης θα εποπτεύει τις μεμονωμένες εθνικές αρχές. Κάθε μέλος της ΕΕ μπορεί είτε να ορίσει έναν υπάρχοντα εθνικό φορέα που θα αναλάβει την επίβλεψη της τεχνητής νοημοσύνης είτε, όπως επέλεξε πρόσφατα η Ισπανία, να δημιουργήσει έναν νέο. Είτε έτσι είτε αλλιώς, αυτό είναι ένα τεράστιο εγχείρημα. Οι πάροχοι τεχνητής νοημοσύνης θα είναι υποχρεωμένοι να αναφέρουν περιστατικά στην εθνική τους αρχή.

Ο νόμος ορίζει πολλές κανονιστικές απαιτήσεις συμμόρφωσης που ισχύουν για τις χρηματοοικονομικές υπηρεσίες, μεταξύ των οποίων:

  • Συνεχείς διαδικασίες διαχείρισης κινδύνου
  • Απαιτήσεις διακυβέρνησης δεδομένων και δεδομένων
  • Τεχνική τεκμηρίωση και τήρηση αρχείων
  • Διαφάνεια και παροχή πληροφοριών στους χρήστες
  • Γνώση και ικανότητα
  • Ακρίβεια, ευρωστία και ασφάλεια στον κυβερνοχώρο

Με την εισαγωγή ενός λεπτομερούς και αυστηρού καθεστώτος κυρώσεων για μη συμμόρφωση, ο νόμος AI ευθυγραμμίζεται με τον GDPR και τη MiFID II. Ανάλογα με τη σοβαρότητα της παραβίασης, η ποινή μπορεί να φτάσει το 6% των παγκόσμιων ετήσιων εσόδων της παραβατικής εταιρείας. Για μια πολυεθνική εταιρεία τεχνολογίας ή χρηματοδότησης, αυτό θα μπορούσε να ανέλθει σε δισεκατομμύρια δολάρια ΗΠΑ. Ωστόσο, οι κυρώσεις του νόμου για την τεχνητή νοημοσύνη, στην πραγματικότητα, καταλαμβάνουν τη μέση οδό μεταξύ εκείνων του GDPR και της MiFID II, όπου τα πρόστιμα ανέρχονται στο 4% και 10% αντίστοιχα.

Περιοδικό Financial Analysts Current Issue Tile

Τι έπεται?

Ακριβώς όπως ο GDPR έγινε σημείο αναφοράς για τους κανονισμούς προστασίας δεδομένων, ο νόμος της ΕΕ για την τεχνητή νοημοσύνη είναι πιθανό να αποτελέσει ένα προσχέδιο για παρόμοιους κανονισμούς τεχνητής νοημοσύνης παγκοσμίως.

Χωρίς ρυθμιστικά προηγούμενα που πρέπει να βασιστούν, ο νόμος για την τεχνητή νοημοσύνη πάσχει από ένα συγκεκριμένο «μειονέκτημα πρώτης κίνησης». Ωστόσο, έχει περάσει από ενδελεχή διαβούλευση και η δημοσίευσή του πυροδότησε έντονες συζητήσεις σε νομικούς και οικονομικούς κύκλους, οι οποίοι ελπίζουμε ότι θα ενημερώσουν την τελική έκδοση.

Μια άμεση πρόκληση είναι ο υπερβολικά ευρύς ορισμός της τεχνητής νοημοσύνης της πράξης: Αυτός που προτείνει η Ευρωπαϊκή Επιτροπή περιλαμβάνει στατιστικές προσεγγίσεις, εκτίμηση Bayes, και ενδεχομένως ακόμη και υπολογισμούς Excel. Όπως σχολίασε η δικηγορική εταιρεία Clifford Chance, «Αυτός ο ορισμός θα μπορούσε να συλλάβει σχεδόν οποιοδήποτε επιχειρηματικό λογισμικό, ακόμα κι αν δεν περιλαμβάνει κάποια αναγνωρίσιμη μορφή τεχνητής νοημοσύνης.

Μια άλλη πρόκληση είναι το προτεινόμενο ρυθμιστικό πλαίσιο του νόμου. Μια ενιαία εθνική ρυθμιστική αρχή θα πρέπει να καλύπτει όλους τους τομείς. Αυτό θα μπορούσε να δημιουργήσει ένα φαινόμενο κατάτμησης όπου μια αποκλειστική ρυθμιστική αρχή θα επιβλέπει όλες τις πτυχές ορισμένων βιομηχανιών, εκτός από τα θέματα που σχετίζονται με την τεχνητή νοημοσύνη, τα οποία θα εμπίπτουν στη χωριστή, ρυθμιστική αρχή με εντολή AI Act. Μια τέτοια προσέγγιση δύσκολα θα ήταν η βέλτιστη.

Στην τεχνητή νοημοσύνη, ένα μέγεθος μπορεί να μην ταιριάζει σε όλα.

Επιπλέον, η ερμηνεία της πράξης σε επίπεδο επιμέρους κλάδου είναι σχεδόν εξίσου σημαντική με τη γλώσσα της ίδιας της πράξης. Είτε οι υφιστάμενες χρηματοοικονομικές ρυθμιστικές αρχές είτε οι νεοσύστατες και καθορισμένες ρυθμιστικές αρχές τεχνητής νοημοσύνης θα πρέπει να παρέχουν στον τομέα των χρηματοπιστωτικών υπηρεσιών καθοδήγηση σχετικά με τον τρόπο ερμηνείας και εφαρμογής της πράξης. Αυτές οι ερμηνείες θα πρέπει να είναι συνεπείς σε όλα τα κράτη μέλη της ΕΕ.

Ενώ ο νόμος περί τεχνητής νοημοσύνης θα καταστεί νομικά δεσμευτικός σκληρός νόμος εάν και όταν θεσπιστεί, εκτός εάν αλλάξει ουσιαστικά το Άρθρο 69, οι διατάξεις του θα είναι ήπιοι νόμοι ή συνιστώμενες βέλτιστες πρακτικές για όλους τους κλάδους και τις εφαρμογές εκτός από αυτές που αναφέρονται ρητά. Αυτό φαίνεται σαν μια έξυπνη και ευέλικτη προσέγγιση.

Πρωτοπόροι AI στη Διαχείριση Επενδύσεων

Με τη δημοσίευση του νόμου περί τεχνητής νοημοσύνης, η ΕΕ έχει πάει με τόλμη εκεί που κανένας άλλος ρυθμιστής δεν έχει πάει πριν. Τώρα πρέπει να περιμένουμε —και ελπίζουμε όχι για πολύ— για να δούμε ποιες κανονιστικές προτάσεις γίνονται σε άλλες τεχνολογικά προηγμένες δικαιοδοσίες.

Θα συστήσουν στις επιμέρους βιομηχανίες να υιοθετήσουν κανονισμούς EI, ότι οι κανονισμοί προωθούν τις δημοκρατικές αξίες ή ενισχύουν τον κρατικό έλεγχο; Ίσως ορισμένες δικαιοδοσίες να επιλέξουν ελάχιστη ή καθόλου ρύθμιση; Οι κανονισμοί τεχνητής νοημοσύνης θα συγχωνευθούν σε ένα παγκόσμιο σύνολο παγκόσμιων κανόνων ή θα «βαλκανοποιηθούν» ανά περιοχή ή βιομηχανία; Μόνο ο χρόνος θα δείξει. Αλλά πιστεύω ότι η ρύθμιση της τεχνητής νοημοσύνης θα είναι καθαρά θετική για τις χρηματοπιστωτικές υπηρεσίες: θα αποσαφηνίσει το τρέχον ρυθμιστικό τοπίο και ελπίζω ότι θα βοηθήσει στην εξεύρεση λύσεων σε ορισμένες από τις πιο πιεστικές προκλήσεις του κλάδου.

Αν σας άρεσε αυτή η ανάρτηση, μην ξεχάσετε να εγγραφείτε στο Επιχειρηματικός επενδυτής.


Όλες οι αναρτήσεις είναι γνώμη του συγγραφέα. Ως εκ τούτου, δεν θα πρέπει να ερμηνεύονται ως επενδυτικές συμβουλές, ούτε οι απόψεις που εκφράζονται αντικατοπτρίζουν απαραίτητα τις απόψεις του Ινστιτούτου CFA ή του εργοδότη του συγγραφέα.

Πίστωση εικόνας: ©Getty Images / mixmagic


Επαγγελματική μάθηση για μέλη του Ινστιτούτου CFA

Τα μέλη του Ινστιτούτου CFA έχουν την εξουσία να αυτοκαθορίζονται και να αναφέρουν μόνοι τους τις πιστώσεις επαγγελματικής μάθησης (PL) που αποκτήθηκαν, συμπεριλαμβανομένου περιεχομένου για Επιχειρηματικός επενδυτής. Τα μέλη μπορούν να καταγράφουν πιστώσεις εύκολα χρησιμοποιώντας τους διαδικτυακός ιχνηλάτης PL.

Wojtek Buczynski, CFA

Wojtek Buczynski, CFA, FRM, είναι ένας επαγγελματίας χρηματοοικονομικός που επικεντρώνεται στη στρατηγική, τους κανονισμούς και την ηθική των αναδυόμενων τεχνολογιών (σύννεφο και τεχνητή νοημοσύνη) στον κλάδο των χρηματοοικονομικών υπηρεσιών. Είναι απόφοιτος του προγράμματος Master’s in Finance του London Business School και κάτοχος CFA από το 2016. Ταυτόχρονα εργάζεται ως επαγγελματίας οικονομικών στο Λονδίνο και σπουδάζει ως μερικής φοίτησης PhD στο Cambridge, ερευνώντας δεοντολογία και εφαρμογές της τεχνητής νοημοσύνης στα χρηματοοικονομικά Υπηρεσίες. Μπορείτε να του στείλετε e-mail στο [email protected]

παρόμοιες αναρτήσεις

Leave a Reply