Μια νέα μη κερδοσκοπική οργάνωση, η Robust Open Online Safety Tools (ROOST), ιδρύθηκε από τις Google, OpenAI, Roblox και Discord με στόχο τη βελτίωση της ασφάλειας των παιδιών στο διαδίκτυο. Η πρωτοβουλία ROOST αποσκοπεί στο να καταστήσει τις βασικές τεχνολογίες ασφαλείας πιο προσβάσιμες για τις εταιρείες και να προσφέρει δωρεάν, ανοιχτού κώδικα εργαλεία τεχνητής νοημοσύνης για την αναγνώριση, ανασκόπηση και αναφορά υλικού σεξουαλικής κακοποίησης παιδιών.
Ο πρώην διευθύνων σύμβουλος της Google, Eric Schmidt, ο οποίος είναι ένας από τους ιδρυτικούς εταίρους της ROOST, δήλωσε ότι η πρωτοβουλία αυτή προήλθε εν μέρει από τις αλλαγές που έχουν φέρει οι εξελίξεις στην γενετική τεχνητή νοημοσύνη στα διαδικτυακά περιβάλλοντα και στοχεύει να καλύψει «μια κρίσιμη ανάγκη για επιτάχυνση της καινοτομίας στην ασφάλεια των παιδιών στο διαδίκτυο».
Δημιουργία εργαλείων ανίχνευσης CSAM
Η ROOST έχει ξεκινήσει την ανάπτυξη εργαλείων ανίχνευσης υλικού σεξουαλικής κακοποίησης παιδιών (CSAM), χρησιμοποιώντας μεγάλα μοντέλα γλώσσας τεχνητής νοημοσύνης, με σκοπό την «ενοποίηση» των υφιστάμενων επιλογών για την αντιμετώπιση του περιεχομένου αυτού. Ο Naren Koneru, αντιπρόεδρος μηχανικής, εμπιστοσύνης και ασφάλειας της Roblox, ανέφερε ότι η ROOST μπορεί να φιλοξενήσει συστήματα AI moderation που οι εταιρείες θα μπορούν να ενσωματώσουν μέσω κλήσεων API.
Η ROOST υποστηρίζει ότι θα καταστήσει «εργαλεία που ήδη υπάρχουν» πιο προσβάσιμα, συνδυάζοντας διάφορες τεχνολογίες ανίχνευσης και αναφοράς από τα μέλη της σε μια ενοποιημένη λύση που είναι πιο εύκολη στην εφαρμογή από άλλες εταιρείες. Παρά την έλλειψη συγκεκριμένων πληροφοριών για τα εργαλεία AI moderation της ROOST, οι συνεισφορές των μελών της αναμένονται να είναι καθοριστικές για την επιτυχία της πρωτοβουλίας.
Αντιμετώπιση της παιδικής εκμετάλλευσης στο διαδίκτυο
Η ανακοίνωση της ROOST έρχεται σε μια εποχή έντονων ρυθμιστικών προκλήσεων σχετικά με την ασφάλεια των παιδιών στα μέσα κοινωνικής δικτύωσης και τις διαδικτυακές πλατφόρμες. Σύμφωνα με το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευμένα Παιδιά (NCMEC), οι υποθέσεις παιδικής εκμετάλλευσης αυξήθηκαν κατά 12% μεταξύ 2022 και 2023. Η Roblox έχει επικριθεί επανειλημμένα για την αδυναμία της να αντιμετωπίσει την παιδική σεξουαλική εκμετάλλευση και την έκθεση σε ακατάλληλο περιεχόμενο στην πλατφόρμα της.
Η ROOST έχει συγκεντρώσει περισσότερα από 27 εκατομμύρια δολάρια για την υποστήριξη των πρώτων τεσσάρων ετών λειτουργίας της, με τη στήριξη φιλανθρωπικών οργανώσεων όπως το McGovern Foundation και το Knight Foundation. Η πρωτοβουλία αναμένει να φέρει επανάσταση στην προσέγγιση της ασφάλειας των παιδιών στο διαδίκτυο και να δημιουργήσει ένα πιο ασφαλές περιβάλλον για όλους.
