Οι υπεύθυνοι χάραξης πολιτικής των ΗΠΑ ελπίζουν να απαιτήσουν από τις διαδικτυακές πλατφόρμες να αποκαλύπτουν πληροφορίες σχετικά με τους αλγόριθμους τους και να επιτρέψουν στην κυβέρνηση να παρέμβει εάν διαπιστωθεί ότι αυτές κάνουν διακρίσεις βάσει κριτηρίων όπως η φυλή ή το φύλο.
Ο γερουσιαστής Edward Markey (D-MA) και ο εκπρόσωπος Doris Matsui (D-CA) επανέφεραν τον νόμο Αλγοριθμικής Δικαιοσύνης και Διαφάνειας Διαδικτυακής Πλατφόρμας, ο οποίος στοχεύει στην απαγόρευση της χρήσης μεροληπτικής ή «επιβλαβούς» αυτοματοποιημένης λήψης αποφάσεων. Θα καθιερώσει επίσης πρότυπα ασφαλείας, που θα απαιτούν από τις πλατφόρμες να παρέχουν μια απλή γλωσσική εξήγηση των αλγορίθμων που χρησιμοποιούνται από τους ιστότοπους, θα δημοσιεύει ετήσιες εκθέσεις για τις πρακτικές ελέγχου περιεχομένου και θα δημιουργήσει μια κυβερνητική ομάδα εργασίας για τη διερεύνηση αλγοριθμικών διαδικασιών που εισάγουν διακρίσεις.
Το νομοσχέδιο ισχύει για «διαδικτυακές πλατφόρμες» ή οποιονδήποτε εμπορικό ιστότοπο ή εφαρμογή που απευθύνεται στο κοινό που «παρέχει ένα φόρουμ κοινότητας για περιεχόμενο που δημιουργείται από χρήστες». Αυτό μπορεί να περιλαμβάνει ιστότοπους κοινωνικών μέσων, υπηρεσίες συγκέντρωσης περιεχομένου ή ιστότοπους πολυμέσων και κοινής χρήσης αρχείων.
Η λήψη αποφάσεων που βασίζεται σε δεδομένα, συμπεριλαμβανομένων αλγορίθμων προτάσεων μέσων κοινωνικής δικτύωσης ή συστημάτων μηχανικής μάθησης, συχνά ζει σε παροιμιώδη μαύρα κουτιά. Αυτή η αδιαφάνεια μερικές φορές υπάρχει λόγω ανησυχιών σχετικά με την πνευματική ιδιοκτησία ή της πολυπλοκότητας ενός συστήματος.
Ωστόσο, οι νομοθέτες και οι ρυθμιστικές αρχές ανησυχούν ότι αυτό θα μπορούσε να κρύψει τη μεροληπτική λήψη αποφάσεων με τεράστιο αντίκτυπο στις ζωές των ανθρώπων, πολύ πέρα από τις διαδικτυακές πλατφόρμες που καλύπτει το νομοσχέδιο. Οι ασφαλιστικές εταιρείες, συμπεριλαμβανομένων εκείνων που εργάζονται με ασθενείς με Medicaid, χρησιμοποιούν ήδη αλγόριθμους για να χορηγούν ή να αρνούνται την κάλυψη των ασθενών. Οργανισμοί όπως η FTC έδωσαν σήμα το 2021 ότι ενδέχεται να ακολουθήσουν νομικές ενέργειες κατά των μεροληπτικών αλγορίθμων.
«Το Κογκρέσο πρέπει να θεωρήσει υπεύθυνη την Big Tech για τους αλγόριθμους μαύρου κουτιού της που διαιωνίζουν τις διακρίσεις, την ανισότητα και τον ρατσισμό στην κοινωνία μας – όλα αυτά για να βγάλουν γρήγορα χρήματα», είπε ο Markey σε δήλωση.
Οι περισσότεροι προτεινόμενοι κανονισμοί γύρω από την τεχνητή νοημοσύνη και τους αλγόριθμους περιλαμβάνουν μια ώθηση για τη δημιουργία μεγαλύτερης διαφάνειας. Ο προτεινόμενος νόμος για την τεχνητή νοημοσύνη της Ευρωπαϊκής Ένωσης, στα τελικά στάδια των διαπραγματεύσεών του, σημείωσε επίσης τη σημασία διαφάνειας και λογοδοσίας.
