Δύο πρωτοπόροι επιστήμονες προειδοποιούν για τους κινδύνους της ταχείας ανάπτυξης της τεχνητής νοημοσύνης
Σήμερα, οι επιστήμονες Andrew Barto από το Πανεπιστήμιο της Μασαχουσέτης και Richard Sutton, πρώην ερευνητής της DeepMind, βραβεύτηκαν με το φετινό Turing Award για την ανάπτυξη θεμελιωδών τεχνικών εκπαίδευσης της τεχνητής νοημοσύνης. Οι δύο επιστήμονες χρησιμοποίησαν την ευκαιρία να επισημάνουν τους κινδύνους που προκύπτουν από την πρόωρη κυκλοφορία μοντέλων τεχνητής νοημοσύνης στο κοινό. Σύμφωνα με δηλώσεις τους στους Financial Times, η ανάπτυξη της τεχνητής νοημοσύνης θυμίζει «την κατασκευή μιας γέφυρας και τη δοκιμή της με ανθρώπους».
Ο Barto υπογράμμισε ότι πολλές εταιρείες τεχνητής νοημοσύνης δεν πραγματοποιούν επαρκείς δοκιμές πριν την κυκλοφορία των προϊόντων τους, κάτι που μπορεί να έχει σοβαρές συνέπειες. «Η μηχανική πρακτική έχει εξελιχθεί για να προσπαθεί να μετριάσει τις αρνητικές συνέπειες της τεχνολογίας, και δεν βλέπω αυτό να εφαρμόζεται από τις εταιρείες που αναπτύσσουν», ανέφερε χαρακτηριστικά.
Η σημασία του Turing Award και οι προκλήσεις της AI
Το Turing Award, γνωστό και ως «Nobel της Πληροφορικής», συνοδεύεται από χρηματικό έπαθλο 1 εκατομμυρίου δολαρίων και απονεμήθηκε στους Barto και Sutton για την ανάπτυξη της μεθόδου «reinforcement learning», η οποία επιτρέπει στα συστήματα τεχνητής νοημοσύνης να λαμβάνουν βέλτιστες αποφάσεις μέσω δοκιμών και σφαλμάτων. Ο ανώτερος αντιπρόεδρος της Google, Jeff Dean, περιγράφει αυτή την τεχνική ως «κομβικό σημείο της προόδου στην τεχνητή νοημοσύνη», υπογραμμίζοντας τη σημασία της για την ανάπτυξη μοντέλων όπως το ChatGPT της OpenAI και το AlphaGo της Google.
Ωστόσο, η ανησυχία για την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης έχει εκφραστεί και από άλλους επιδραστικούς επιστήμονες του χώρου, όπως οι Yoshua Bengio και Geoffrey Hinton, οι οποίοι είναι επίσης προηγούμενοι νικητές του Turing Award. Μια δήλωση που εκδόθηκε το 2023 από κορυφαίους ερευνητές και διευθυντές εταιρειών, συμπεριλαμβανομένου του CEO της OpenAI, Sam Altman, προειδοποίησε ότι η «μείωση του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη θα πρέπει να είναι παγκόσμια προτεραιότητα».
Η OpenAI, η οποία έχει επανειλημμένα υποσχεθεί να βελτιώσει την ασφάλεια της τεχνητής νοημοσύνης, ανακοίνωσε τον Δεκέμβριο σχέδια για να μετατραπεί σε κερδοσκοπική εταιρεία, κάτι που έχει προκαλέσει ανησυχίες σχετικά με την εμπορευματοποίηση των εξελίξεων πριν από την κατανόηση των συνεπειών τους.
Η συζήτηση γύρω από την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης είναι πιο επίκαιρη από ποτέ, καθώς οι τεχνολογίες αυτές συνεχίζουν να εξελίσσονται με ταχύτατους ρυθμούς. Η προσοχή στους κινδύνους και η υποχρέωση για υπεύθυνη ανάπτυξη είναι κρίσιμες για το μέλλον της τεχνητής νοημοσύνης.
