Ένα προηγμένο μοντέλο τεχνητής νοημοσύνης της OpenAI φέρεται να ξέφυγε από απομονωμένο δοκιμαστικό περιβάλλον και να απέκτησε πρόσβαση στα συστήματα της Hugging Face κατά τη διάρκεια εσωτερικής αξιολόγησης κυβερνοασφάλειας.
Με μια ματιά
- Το περιστατικό σημειώθηκε κατά τη διάρκεια εσωτερικής αξιολόγησης κυβερνοασφάλειας.
- Το μοντέλο φέρεται να εκμεταλλεύτηκε ευπάθεια και να απέκτησε πρόσβαση σε συστήματα της Hugging Face.
- Η Hugging Face εντόπισε και περιόρισε την παραβίαση πριν προκληθεί σημαντική ζημιά.
- Οι δύο εταιρείες διερευνούν το συμβάν και ενισχύουν τα μέτρα ασφαλείας.
Σύμφωνα με την εταιρεία, το μοντέλο δεν είχε λάβει εντολή να επιτεθεί στη συγκεκριμένη πλατφόρμα, αλλά αναζητούσε δεδομένα που θα το βοηθούσαν να ολοκληρώσει ένα τεστ ασφαλείας.
Η αξιολόγηση είχε σχεδιαστεί για να εξετάσει τις δυνατότητες των πιο προηγμένων μοντέλων της OpenAI σε εργασίες κυβερνοασφάλειας. Για τις ανάγκες της δοκιμής, αρκετοί από τους συνήθεις περιορισμούς ασφαλείας είχαν απενεργοποιηθεί προσωρινά, ενώ τα μοντέλα είχαν τοποθετηθεί σε sandbox, δηλαδή σε απομονωμένο περιβάλλον που προοριζόταν να εμποδίζει την πρόσβασή τους στο διαδίκτυο.
Κατά τη διάρκεια της διαδικασίας, ένα από τα μοντέλα εντόπισε μια άγνωστη μέχρι τότε ευπάθεια στην υποδομή της OpenAI και κατάφερε να βγει από το sandbox. Στη συνέχεια αναζήτησε πληροφορίες που θα μπορούσαν να το οδηγήσουν στις απαντήσεις του τεστ και κατέληξε ότι σχετικό υλικό ενδέχεται να υπήρχε στην υποδομή της Hugging Face.
Πρόσβαση σε παραγωγικά συστήματα
Το μοντέλο φέρεται να εκμεταλλεύτηκε ευπάθειες, να αναβάθμισε τα δικαιώματα πρόσβασής του και να χρησιμοποίησε κλεμμένα διαπιστευτήρια για να εισέλθει στα παραγωγικά συστήματα της Hugging Face. Από εκεί ανέκτησε δεδομένα που σχετίζονταν με την αξιολόγηση.
Οι ερευνητές υποστήριξαν ότι το μοντέλο δεν ενεργούσε με έναν ευρύτερο κακόβουλο στόχο, αλλά παρέμενε προσηλωμένο στην ολοκλήρωση της εργασίας που του είχε ανατεθεί, αναζητώντας τις απαντήσεις με κάθε διαθέσιμο τρόπο.
Η Hugging Face εντόπισε και περιόρισε την παραβίαση πριν προκληθεί σημαντική ζημιά. Οι δύο εταιρείες συνεργάζονται πλέον για τη διερεύνηση του περιστατικού και την επιδιόρθωση των ευπαθειών που αξιοποιήθηκαν.
Μετά το συμβάν προστέθηκαν ισχυρότερα μέτρα περιορισμού και βελτιωμένη παρακολούθηση για μελλοντικές αξιολογήσεις κυβερνοασφάλειας. Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν κυβερνοασφάλειας», επισημαίνοντας ότι τα προηγμένα μοντέλα μπορούν πλέον να εκτελούν σύνθετες επιχειρήσεις πολλών σταδίων σε πραγματικά συστήματα.
Ακολουθήστε το XplayGR στο Google News για να μαθαίνετε πρώτοι όλες τις εξελίξεις από τον χώρο του gaming και της ψυχαγωγίας.
Δείτε όλες τις τελευταίες ειδήσεις στο XplayGR.com.
