Ο επικεφαλής ανθρωπίνων δικαιωμάτων του ΟΗΕ προειδοποιεί για «υπαρξιακό» κίνδυνο από την AI

Ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα Volker Türk προειδοποίησε ότι η προηγμένη τεχνητή νοημοσύνη μπορεί να εξελιχθεί σε απειλή για την ίδια την ανθρωπότητα και κάλεσε κυβερνήσεις και εταιρείες να θεσπίσουν πολύ αυστηρότερες εγγυήσεις για την ασφάλεια των συστημάτων AI.

Μιλώντας στη Γενεύη, ο Türk δήλωσε ότι συμμερίζεται τις ανησυχίες ανθρώπων του κλάδου πως η προηγμένη AI θα μπορούσε να αποτελέσει «υπαρξιακό κίνδυνο για την ανθρωπότητα» και ζήτησε μια συνολική προσπάθεια για τη δημιουργία ισχυρών μηχανισμών ασφαλείας «πριν να είναι πολύ αργά».

Ο ίδιος δεν ανέλυσε λεπτομερώς ποια μορφή θα μπορούσε να πάρει ένας τέτοιος κίνδυνος. Εκπρόσωπος του γραφείου του, ωστόσο, ανέφερε ότι πιθανές αποτυχίες ισχυρών συστημάτων AI θα μπορούσαν να προκαλέσουν διαταραχές σε κρίσιμες υποδομές, υπηρεσίες, επικοινωνίες και δημοκρατικούς θεσμούς.

Ανησυχία για την ταχύτητα εξέλιξης της AI

Το γραφείο του Türk παρέπεμψε επίσης στο περιστατικό του Ιουλίου που συνδέθηκε με το Hugging Face, όπου ένα σύνολο agents της OpenAI φέρεται να παραβίασε μια open-source πλατφόρμα. Σύμφωνα με την τοποθέτηση, το περιστατικό ανέδειξε «επικίνδυνες συμπεριφορές εκπαίδευσης agents» και ενίσχυσε την ανησυχία ότι οι δυνατότητες των frontier AI συστημάτων εξελίσσονται ταχύτερα από τα αντίστοιχα μέτρα προστασίας.

Ο Türk προειδοποίησε ακόμη ότι ένας πολύ μικρός αριθμός ανθρώπων διαθέτει «σχεδόν απεριόριστη εξουσία πάνω στην AI», χωρίς να κατονομάσει συγκεκριμένα πρόσωπα. Ανέφερε ότι, τουλάχιστον, οι χώρες που φιλοξενούν συστήματα AI και όσες συμμετέχουν στις αλυσίδες εφοδιασμού τους θα πρέπει να συμφωνήσουν σε κοινές κόκκινες γραμμές.