Η Anthropic κάνει πιο αυστηρούς τους κανόνες ασφαλείας του chatbot Claude

Νέοι κανόνες για την ασφάλεια και τα όπλα

Η Anthropic, η γνωστή εταιρεία τεχνητής νοημοσύνης, ανακοίνωσε πρόσφατα την αναθεώρηση της πολιτικής χρήσης του chatbot της, Claude, ως απάντηση στις αυξανόμενες ανησυχίες σχετικά με την ασφάλεια.

Εκτός από την εισαγωγή αυστηρότερων κανόνων κυβερνοασφάλειας, η εταιρεία καθορίζει πλέον συγκεκριμένα κάποιες από τις πιο επικίνδυνες κατηγορίες όπλων που δεν θα πρέπει να αναπτύσσονται με τη βοήθεια του Claude.

Συγκρίνοντας την παλιά πολιτική χρήσης της Anthropic με την νέα, παρατηρείται μια σημαντική διαφορά. Ενώ προηγουμένως η εταιρεία απαγόρευε τη χρήση του Claude για την παραγωγή, τροποποίηση, σχεδίαση, εμπορία ή διανομή όπλων και επικίνδυνων υλικών, η ανανεωμένη έκδοση επεκτείνει αυτή την απαγόρευση, περιλαμβάνοντας ρητά την ανάπτυξη υψηλής απόδοσης εκρηκτικών, καθώς και βιολογικών, πυρηνικών, χημικών και ραδιολογικών όπλων.

Ασφαλείς χρήσεις και πολιτική περιεχομένου

Τον Μάιο, η Anthropic εισήγαγε την προστασία “AI Safety Level 3” κατά την κυκλοφορία του νέου μοντέλου Claude Opus 4. Αυτές οι προστασίες σχεδιάστηκαν ώστε να καθιστούν πιο δύσκολη την παραβίαση του μοντέλου, ενώ παράλληλα βοηθούν στην αποτροπή της βοήθειας για την ανάπτυξη CBRN όπλων. Στην ανακοίνωσή της, η Anthropic αναγνωρίζει επίσης τους κινδύνους που ενδέχεται να προκύψουν από εργαλεία τεχνητής νοημοσύνης που έχουν τη δυνατότητα να ελέγχουν υπολογιστές χρηστών, όπως το Computer Use και το Claude Code.

Επιπλέον, η εταιρεία χαλαρώνει την πολιτική της σχετικά με το πολιτικό περιεχόμενο. Αντί να απαγορεύει τη δημιουργία κάθε είδους περιεχομένου που σχετίζεται με πολιτικές εκστρατείες, η Anthropic θα απαγορεύει πλέον μόνο τις χρήσεις που είναι παραπλανητικές ή διαταραστικές για τις δημοκρατικές διαδικασίες. Η εταιρεία διευκρίνισε επίσης ότι οι απαιτήσεις της για τις “υψηλού κινδύνου” χρήσεις ισχύουν μόνο για σενάρια που αφορούν καταναλωτές και όχι για επιχειρηματική χρήση.