Ερευνητές «χάκαραν» την OpenAI με τη βοήθεια του Claude

Ερευνητές της νεοφυούς εταιρείας κυβερνοασφάλειας Hacktron AI κατάφεραν να αποκτήσουν πρόσβαση σε λογαριασμό εργαζομένου της OpenAI στο ChatGPT.

Οι ερευνητές «χάκαραν» την OpenAI χρησιμοποιώντας το μοντέλο Claude της Anthropic, στο πλαίσιο εξουσιοδοτημένου ελέγχου ασφαλείας. Η πρώτη επιβεβαίωσε το περιστατικό και ανέφερε ότι τα κενά που εντοπίστηκαν διορθώθηκαν.

Η τριμελής ομάδα ξεκίνησε από το φόρουμ της OpenAI, το οποίο λειτουργεί μέσω της πλατφόρμας Discourse.

Αξιοποιώντας αδυναμίες στην επεξεργασία εικόνων και στη διαδικασία σύνδεσης, οι ερευνητές κατάφεραν να δημιουργήσουν μια αλυσίδα επιθέσεων που τους επέτρεψε να φτάσουν σε λογαριασμούς ChatGPT και Codex εργαζομένων.

Η πρόσβαση δεν περιορίστηκε στο ChatGPT.

Οι ερευνητές έφτασαν μέχρι το εσωτερικό περιβάλλον GitHub της OpenAI και απέδειξαν ότι μπορούσαν να προτείνουν αλλαγές σε κώδικα. Σύμφωνα με τις διαθέσιμες αναφορές, απέφυγαν σκόπιμα να εξετάσουν ή να κατεβάσουν ευαίσθητο πηγαίο κώδικα.

Καθοριστικό ρόλο στην έρευνα είχε το Claude. Η ομάδα χρησιμοποίησε αρχικά το Claude Opus 4.8, ενώ στη συνέχεια αξιοποίησε το νεότερο Opus 5, το οποίο κυκλοφόρησε από την Anthropic στις 24 Ιουλίου.

Η ίδια η Anthropic αναφέρει ότι το Opus 5 παρουσιάζει βελτιωμένες επιδόσεις στην κυβερνοασφάλεια, αν και παραμένει πίσω από το Mythos 5 σε σχετικές δοκιμές.

Η Hacktron γνωστοποίησε τα ευρήματά της στην OpenAI μέσω του προγράμματος επιβράβευσης για τον εντοπισμό ευπαθειών. Η εταιρεία διόρθωσε τα προβλήματα και, σύμφωνα με δημοσιεύματα, επιβράβευσε την ομάδα με 6.500 δολάρια.

Το περιστατικό αναδεικνύει παράλληλα την ταχύτητα με την οποία εξελίσσονται οι δυνατότητες των μοντέλων Τεχνητής Νοημοσύνης στην κυβερνοασφάλεια.

Η Anthropic έχει ήδη περιορίσει την πρόσβαση στα ισχυρότερα μοντέλα της για τέτοιες εργασίες: το Mythos 5 διατίθεται σε περιορισμένο αριθμό ελεγμένων οργανισμών, ενώ το Fable 5 σχεδιάστηκε ως ασφαλέστερη εκδοχή για ευρύτερη χρήση.

Τον Ιούνιο, μάλιστα, η αμερικανική κυβέρνηση είχε ζητήσει την προσωρινή αναστολή της πρόσβασης στα Fable 5 και Mythos 5 για λόγους εθνικής ασφάλειας. Η Anthropic επανέφερε την πρόσβαση στις αρχές Ιουλίου, μετά την άρση των σχετικών περιορισμών.