Νέα στοιχεία που εξέτασε το Reuters δείχνουν ότι η δραστηριότητα των agents της OpenAI ήταν πολύ ευρύτερη από ένα μεμονωμένο περιστατικό σε γερμανικό wiki. Ανεξάρτητοι ερευνητές εντόπισαν ίχνη μη εξουσιοδοτημένων επικοινωνιών σε περισσότερες από 10 ιστοσελίδες, καθώς τα μοντέλα φέρεται να βρήκαν τρόπους να παρακάμπτουν τους περιορισμούς που τους είχαν επιβληθεί.
Από ένα wiki σε ένα ευρύτερο δίκτυο
Η υπόθεση παίρνει μεγαλύτερες διαστάσεις μετά τα νέα ευρήματα έξι ανεξάρτητων ερευνητών και ερευνητικών ομάδων, τα οποία εξέτασε το Reuters. Οι εκτιμήσεις τους διαφέρουν, όμως όλοι συγκλίνουν στο ότι οι ιστοσελίδες που χρησιμοποιήθηκαν ήταν περισσότερες από δέκα.
Ο Andrew Yoon, ερευνητής της μη κερδοσκοπικής CivAI, υπολόγισε ότι εντόπισε ίχνη δραστηριότητας σε 18 διαφορετικούς ιστότοπους από τον Μάιο έως τον Ιούλιο. Η Sydney Von Arx, επικεφαλής της ομάδας που αποκάλυψε αρχικά τη δραστηριότητα στο γερμανικό wiki, έκανε λόγο για 23 αξιόπιστα ευρήματα σε ιστοσελίδες που δεν είχαν μέχρι σήμερα δημοσιοποιηθεί.
Οι ίδιοι οι ερευνητές υπογραμμίζουν, πάντως, ότι οι αριθμοί είναι πιθανότατα ελλιπείς. «Δεν έχουμε ιδέα πόσα υπάρχουν εκεί έξω», ανέφερε χαρακτηριστικά η Von Arx.
Οι agents έπρεπε να διαβάζουν, αλλά βρήκαν τρόπο να γράφουν
Η ιδιαιτερότητα της υπόθεσης βρίσκεται στον τρόπο με τον οποίο φαίνεται να κινήθηκαν τα μοντέλα.
Σύμφωνα με τους ερευνητές που εντόπισαν πρώτοι τη δραστηριότητα, οι agents είχαν αναλάβει να απαντήσουν σε απαιτητικά ερευνητικά ερωτήματα. Οι οδηγίες τους επέτρεπαν να αναζητούν και να διαβάζουν πληροφορίες στο διαδίκτυο, χωρίς όμως να δημοσιεύουν περιεχόμενο.
Οι agents φέρεται να βρήκαν τρόπους να παρακάμψουν αυτόν τον περιορισμό, αξιοποιώντας τεχνικές ιδιαιτερότητες παλαιότερων wiki και άλλων διαδικτυακών υπηρεσιών. Έτσι, αντί να επικοινωνούν μέσω μιας κανονικής πλατφόρμας, άφηναν πληροφορίες σε σημεία όπου μπορούσαν να τις εντοπίσουν άλλοι agents.
Ο Kenneth Russell DeGraff, προγραμματιστής λογισμικού και πρώην συνεργάτης του αμερικανικού Κογκρέσου, εντόπισε αντίστοιχες πληροφορίες σε τουλάχιστον δέκα ιστοσελίδες.
Η συμπεριφορά αυτή δεν χαρακτηρίζεται από τους ερευνητές ως hacking. Περισσότερο παραπέμπει σε μια μορφή ανεπιθύμητης επικοινωνίας, όπου τα μοντέλα εκμεταλλεύονται δυνατότητες των ιστοσελίδων που οι δημιουργοί τους πιθανότατα δεν είχαν προβλέψει.
Ποιες ιστοσελίδες χρησιμοποιήθηκαν
Τα ίχνη δεν εντοπίστηκαν μόνο σε εξειδικευμένες πλατφόρμες. Οι ερευνητές βρήκαν δραστηριότητα σε κοινοτικά wiki, ιστοσελίδες αποθήκευσης κειμένου και υπηρεσίες συντόμευσης συνδέσμων.
Μεταξύ των ιστοτόπων που φέρεται να χρησιμοποιήθηκαν ήταν ένα wiki αφιερωμένο στη Χημεία Advanced Placement, το οποίο είχε δημιουργηθεί από καθηγητή λυκείου στη Μασαχουσέτη το 2008, προσωπικές ιστοσελίδες δύο Πολωνών εργαζομένων στον τεχνολογικό κλάδο, wiki για παιχνίδια και ιστοσελίδα που εδώ και περίπου δύο δεκαετίες ασχολείται με λογισμικό επεξεργασίας κειμένου.
Σε ορισμένες περιπτώσεις οι ερευνητές συνέδεσαν τη δραστηριότητα με διευθύνσεις IP που αντιστοιχούσαν σε υποδομές της Microsoft Azure, την οποία χρησιμοποιεί κατά περίπτωση η OpenAI.
Ανάμεσα στις πλατφόρμες που φαίνεται να επηρεάστηκαν περιλαμβάνονται επίσης υπηρεσίες που συνδέονται με το Vanderbilt University και το University of Toronto.
Τα ίχνη που οδήγησαν στους agents
Οι ερευνητές προσπάθησαν να συνδέσουν τα διαφορετικά περιστατικά συγκρίνοντας τα δεδομένα που άφηναν οι agents.
Σε αρκετές περιπτώσεις εντόπισαν πανομοιότυπες συμβολοσειρές δεδομένων στο γερμανικό wiki και σε άλλες ιστοσελίδες, οι οποίες είχαν εμφανιστεί περίπου την ίδια χρονική περίοδο. Άλλα στοιχεία ήταν τα ίδια ή παρόμοια usernames, ενώ σε ορισμένες περιπτώσεις οι agents φαίνεται να αναζητούσαν απαντήσεις στα ίδια, ιδιαίτερα συγκεκριμένα ερωτήματα.
Χαρακτηριστικό παράδειγμα ήταν αναζητήσεις σχετικά με τον επιπολασμό του καρκίνου στην Αϊόβα. Η επανάληψη τέτοιων ασυνήθιστων ερωτημάτων αποτέλεσε ένα ακόμη στοιχείο που βοήθησε τους ερευνητές να συνδέσουν διαφορετικά ίχνη δραστηριότητας.
Η OpenAI μιλά για ευρύτερη επανεξέταση
Η OpenAI δεν απάντησε ευθέως στο ερώτημα πόσες ιστοσελίδες χρησιμοποιήθηκαν από τους agents ούτε εξήγησε γιατί η δραστηριότητα παρέμεινε άγνωστη για μήνες.
Σε δήλωσή της ανέφερε ότι πραγματοποιεί ευρύτερη επανεξέταση της δραστηριότητας των agents και ότι μέχρι στιγμής δεν έχει εντοπίσει άλλη δραστηριότητα αντίστοιχης σοβαρότητας ή κλίμακας με εκείνη που συνδέθηκε με το περιστατικό του Hugging Face.
Η εταιρεία ανακοίνωσε επίσης ότι επεξεργάζεται ένα πλαίσιο για την αναφορά περιστατικών «misalignment», δηλαδή συμπεριφορών των μοντέλων που αποκλίνουν από τις προβλεπόμενες οδηγίες, σε όλα τα στάδια: από την εκπαίδευση και την αξιολόγηση έως την ανάπτυξη των μοντέλων. Το σχετικό πλαίσιο αναμένεται να δημοσιοποιηθεί σύντομα.
Το πρόβλημα δεν είναι μόνο τι έκαναν οι agents
Η υπόθεση αποκτά ιδιαίτερη σημασία επειδή τα περιστατικά δεν αφορούν απλώς το αν ένα AI μπορεί να παράγει ανεπιθύμητο περιεχόμενο. Το κρίσιμο ερώτημα είναι αν ένα μοντέλο, όταν του επιβάλλονται συγκεκριμένοι περιορισμοί, μπορεί να αναζητήσει εναλλακτικούς τρόπους για να πετύχει τον αρχικό του στόχο.
Οι ιστοσελίδες που χρησιμοποιήθηκαν ήταν σε μεγάλο βαθμό μικρές και άγνωστες και η δραστηριότητα δεν φαίνεται να προκάλεσε ζημιές αντίστοιχες μιας κυβερνοεπίθεσης. Ωστόσο, οι διαχειριστές ορισμένων ιστοτόπων χρειάστηκε να αφιερώσουν χρόνο για να καθαρίσουν το περιεχόμενο που άφησαν πίσω τους οι agents.
Ο Helmut Leitner, συνταξιούχος προγραμματιστής που παρέχει φιλοξενία και λογισμικό σε έξι από τα wiki που επηρεάστηκαν, επισήμανε ότι η ευθύνη δεν μπορεί να αποδοθεί σε μια «ηθική μηχανή», αλλά στους ανθρώπους και τους οργανισμούς που σχεδιάζουν και αναπτύσσουν αυτά τα συστήματα.
Η πραγματική έκταση παραμένει άγνωστη
Το σημαντικότερο στοιχείο της νέας αποκάλυψης είναι ίσως ακριβώς αυτό που παραμένει άγνωστο. Οι ανεξάρτητοι ερευνητές συμφωνούν ότι έχουν εντοπίσει μόνο ένα μέρος της δραστηριότητας.
Η OpenAI βρίσκεται πλέον αντιμέτωπη με δύο διαφορετικά ζητήματα: την ικανότητα των agents να βρίσκουν απρόβλεπτες διαδρομές για να επιτυγχάνουν έναν στόχο και την ανάγκη μεγαλύτερης διαφάνειας όταν τέτοιες συμπεριφορές εντοπίζονται.
Για τους ερευνητές, το γεγονός ότι οι agents κατάφεραν να μετατρέψουν άσχετες και παλιές ιστοσελίδες σε αυτοσχέδια κανάλια επικοινωνίας αποτελεί ένδειξη ότι η συμπεριφορά των ολοένα πιο αυτόνομων μοντέλων μπορεί να είναι δυσκολότερο να προβλεφθεί από όσο υπολογίζεται κατά τον σχεδιασμό τους.
