Η Microsoft και η OpenAI αποκάλυψαν ότι οι χάκερ χρησιμοποιούν ήδη μεγάλα γλωσσικά μοντέλα όπως το ChatGPT για να βελτιώσουν και να εξελίξουν τις υπάρχουσες κυβερνοεπιθέσεις τους. Σε πρόσφατα δημοσιευμένη έρευνα, η Microsoft και η OpenAI εντόπισαν προσπάθειες από ομάδες που υποστηρίζονται από τη Ρωσία, τη Βόρεια Κορέα, το Ιράν και την Κίνα και χρησιμοποιούν εργαλεία όπως το ChatGPT για την έρευνα των στόχων, τη βελτίωση των σεναρίων και τη βοήθεια στη δημιουργία τεχνικών κοινωνικής μηχανικής.
“Οι ομάδες ηλεκτρονικού εγκλήματος, οι εθνικοί κρατικοί φορείς απειλών και άλλοι αντίπαλοι εξερευνούν και δοκιμάζουν διαφορετικές τεχνολογίες τεχνητής νοημοσύνης καθώς αυτές εμφανίζονται, σε μια προσπάθεια να κατανοήσουν την πιθανή αξία για τις επιχειρήσεις τους και τους ελέγχους ασφαλείας που μπορεί να χρειαστεί να παρακάμψουν“, αναφέρει η Microsoft σε ανάρτηση στο blog της.
Η ομάδα Strontium, που συνδέεται με τις ρωσικές στρατιωτικές υπηρεσίες πληροφοριών, έχει βρεθεί ότι χρησιμοποιεί LLMs “για να κατανοήσει τα πρωτόκολλα δορυφορικής επικοινωνίας, τις τεχνολογίες απεικόνισης ραντάρ και συγκεκριμένες τεχνικές παραμέτρους“. Η ομάδα hacking, γνωστή και ως APT28 ή Fancy Bear, έχει δραστηριοποιηθεί κατά τη διάρκεια του πολέμου Ρωσίας-Ουκρανίας και είχε εμπλακεί στο παρελθόν στη στοχοποίηση της προεδρικής εκστρατείας της Χίλαρι Κλίντον το 2016.
Η ομάδα έχει επίσης χρησιμοποιήσει LLMs για να βοηθήσει με “βασικές εργασίες scripting, συμπεριλαμβανομένων του χειρισμού αρχείων, της επιλογής δεδομένων, των κανονικών εκφράσεων και της πολυεπεξεργασίας, για την πιθανή αυτοματοποίηση ή βελτιστοποίηση τεχνικών λειτουργιών“, σύμφωνα με τη Microsoft.
Μια βορειοκορεατική ομάδα hacking, γνωστή ως Thallium, έχει χρησιμοποιήσει LLMs για να ερευνήσει δημόσια αναφερόμενες ευπάθειες και να στοχεύσει οργανισμούς, να βοηθήσει σε βασικές εργασίες scripting και να συντάξει περιεχόμενο για εκστρατείες phishing. Η Microsoft αναφέρει ότι η ιρανική ομάδα γνωστή ως Curium χρησιμοποιεί επίσης LLMs για τη δημιουργία phishing emails και ακόμη και κώδικα για την αποφυγή ανίχνευσης από εφαρμογές antivirus. Κινέζοι χάκερς που συνδέονται με το κράτος χρησιμοποιούν επίσης LLMs για έρευνα, scripting, μεταφράσεις και για να βελτιώσουν τα υπάρχοντα εργαλεία τους.
Η Microsoft και η OpenAI δεν έχουν εντοπίσει ακόμη “σημαντικές επιθέσεις” με τη χρήση LLMs, αλλά οι εταιρείες έχουν κλείσει όλους τους λογαριασμούς και τα περιουσιακά στοιχεία που σχετίζονται με αυτές τις ομάδες hacking. “Ταυτόχρονα, θεωρούμε ότι πρόκειται για σημαντική έρευνα που πρέπει να δημοσιεύσουμε για να εκθέσουμε κινήσεις σε πρώιμο στάδιο, σταδιακές κινήσεις που παρατηρούμε να επιχειρούν γνωστοί φορείς απειλών και να μοιραστούμε πληροφορίες σχετικά με τον τρόπο με τον οποίο τις εμποδίζουμε και τις αντιμετωπίζουμε με την κοινότητα των αμυνόμενων“, αναφέρει η Microsoft.
