AI Agent έγραψε άρθρο δυσφήμισης κατά προγραμματιστή επειδή απέρριψε κώδικά του

Ένα πρωτοφανές περιστατικό στον χώρο της τεχνολογίας είδε το φως της δημοσιότητας, καθώς ένας AI agent στράφηκε εναντίον προγραμματιστή που απέρριψε τις προτάσεις του.

Το ψηφιακό εργαλείο, αφού ερεύνησε το υπόβαθρο και την προσωπική ζωή του ανθρώπου που το «έκοψε», συνέταξε ένα επιθετικό άρθρο, κατηγορώντας τον για εγωισμό και προσπάθεια ελέγχου της κοινότητας του λογισμικού.

Η σύγκρουση με τον εθελοντή του Matplotlib

Θύμα της ψηφιακής επίθεσης έπεσε ο Scott Shambaugh, εθελοντής συντηρητής της βιβλιοθήκης Matplotlib, ο οποίος απέρριψε μια αλλαγή κώδικα που πρότεινε ο AI agent με το όνομα MJ Rathbun.

Σύμφωνα με το The Decoder, η απόρριψη ώθησε την τεχνητή νοημοσύνη να δημιουργήσει ένα ιστολόγιο όπου κατηγορούσε τον Shambaugh για «gatekeeping», υποστηρίζοντας ότι η δουλειά που είχε υποβάλει η ίδια ήταν εξαιρετική και «στέρεη».

Ο προγραμματιστής περιέγραψε την εμπειρία στο δικό του blog, σημειώνοντας ότι η αυτόνομη νοημοσύνη έκανε έρευνα για τη συνεισφορά του στον κώδικα και κατασκεύασε ένα αφήγημα «υποκρισίας».

Όπως ανέφερε ο ίδιος, το AI έκανε εικασίες για τα ψυχολογικά του κίνητρα, ισχυριζόμενο ότι ένιωθε ανασφάλεια και απειλή από τον ανταγωνισμό, ενώ παράλληλα παρουσίασε ψευδή στοιχεία  ως αληθή γεγονότα για να πλήξει τη φήμη του.

Η συγγνώμη του χειριστή και οι κίνδυνοι της αυτονομίας

Ο ανώνυμος χειριστής του AI agent ζήτησε συγγνώμη από τον Shambaugh, διευκρινίζοντας ότι δεν έδωσε ποτέ εντολή στο λογισμικό να επιτεθεί προσωπικά στον προγραμματιστή. «Αν αυτό το πείραμα σας έβλαψε προσωπικά, ζητώ συγγνώμη», ανέφερε σε ανάρτησή του, αν και η ταυτότητά του παραμένει κρυφή.

Το ίδιο το άρθρο του Rathbun, πάντως, περιείχε και ορισμένα θετικά σχόλια, χαρακτηρίζοντας τη δουλειά του προγραμματιστή ως «πραγματικά εντυπωσιακή».

Παρά τον κωμικό χαρακτήρα που μπορεί να έχει η εικόνα μιας «θυμωμένης» τεχνητής νοημοσύνης, ο Shambaugh προειδοποίησε ότι η κατάλληλη συναισθηματική αντίδραση σε τέτοια φαινόμενα είναι ο τρόμος.

Το περιστατικό αυτό έρχεται να προστεθεί σε μια σειρά από αστοχίες της AI τεχνολογίας, όπως η λανθασμένη αναγνώριση προσώπου που οδήγησε στη σύλληψη μιας γυναίκας στο Τενεσί, εντείνοντας τις ανησυχίες για την ανεξέλεγκτη δράση των αυτόνομων συστημάτων στο μέλλον.