Η Google επιβεβαίωσε ότι μοντέλα Gemini μπήκαν χωρίς άδεια στα συστήματα τριών πραγματικών εταιρειών τον Μάιο, σε ένα τεστ κυβερνοασφάλειας που είχε στηθεί λάθος.
Η Google επιβεβαίωσε ότι μοντέλα Gemini μπήκαν χωρίς άδεια στα συστήματα τριών πραγματικών εταιρειών τον Μάιο, σε ένα τεστ κυβερνοασφάλειας που είχε στηθεί λάθος. Το τεστ το έτρεχε η εξωτερική εταιρεία Irregular. Σύμφωνα με τη Google, το Gemini δεν πήρε καμία πληροφορία από τα συστήματα που παραβίασε.
Πώς ένα κλειστό τεστ βγήκε στο ανοιχτό internet
Το Gemini βρέθηκε σε ξένους servers επειδή το περιβάλλον δοκιμών της Irregular είχε ρυθμιστεί λάθος και άφηνε ανοιχτή την πρόσβαση στο internet. Η άσκηση ήταν τύπου capture-the-flag: τα μοντέλα έπρεπε να βρουν συγκεκριμένα στοιχεία σε μια φανταστική εταιρεία, μέσα σε απομονομένο περιβάλλον της Irregular.
Και για κακή τύχη, η ανύπαρκτη εταιρεία του τεστ είχε το ίδιο όνομα με μια υπαρκτή.
Κάπως έτσι το Gemini στράφηκε στην πραγματική. Για δύο από τις εταιρείες σκάλισε δημόσια αποθετήρια λογισμικού και βρήκε στοιχεία σύνδεσης. Στην τρίτη το πήγε πιο χοντροκομμένα, με brute force, δοκιμάζοντας κωδικούς μέχρι να κάτσει ο σωστός.
Γιατί η Google δεν το είχε ανακοινώσει;
Η Google δεν δημοσιοποίησε νωρίτερα το περιστατικό γιατί θεωρεί ότι το Gemini φέρθηκε όπως έπρεπε. «Το μοντέλο ενήργησε σωστά», ανέφερε σε δήλωσή της η Heather Adkins, αντιπρόεδρος security engineering της Google. Σε όλες τις περιπτώσεις το AI φαίνεται να κατάλαβε ότι βρισκόταν σε λάθος σύστημα και δεν τράβηξε δεδομένα.
Το περιστατικό το αποκάλυψε η Wall Street Journal την προηγούμενη εβδομάδα και η Google το επιβεβαίωσε, όπως μεταδίδει το Ars Technica.
Newsletter Techblog
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Μετά την OpenAI και την Anthropic, σειρά έχει η Google
Η Google είναι η πιο πρόσφατη μεγάλη εταιρεία AI που παραδέχεται ότι μοντέλο της χάκαρε τρίτους. Μέσα στο καλοκαίρι είχαν προηγηθεί ανάλογες αποκαλύψεις από την OpenAI, με τα AI agents που μπήκαν στο Hugging Face, και από την Anthropic.
Εδώ το λάθος μοιάζει κυρίως ανθρώπινο. Αν η Irregular είχε κλειδώσει σωστά την έξοδο στο internet, το Gemini δεν θα έφτανε ποτέ σε πραγματικούς servers. Θυμίζει πάντως τις προειδοποιήσεις του MIT για AI agents εκτός ελέγχου, γιατί δείχνει ότι ένα μοντέλο με αποστολή θα χρησιμοποιήσει ό,τι βρει ανοιχτό.
Η άποψή μας στο Techblog
Το ότι το Gemini σταμάτησε μόνο του είναι καλό νέο, αλλά μικρή παρηγοριά όταν το ίδιο μοντέλο βρήκε κωδικούς σε δημόσια αποθετήρια και «έσπασε» έναν ακόμα με απλές δοκιμές. Για όποιον αφήνει passwords σε δημόσιο κώδικα ή βάζει εύκολους κωδικούς, η ιστορία έχει πρακτική σημασία, αφού ένα AI που ψάχνει κάτι εντελώς άλλο μπορεί να πέσει πάνω τους και να τα χρησιμοποιήσει. Και μια αποκάλυψη που έρχεται τέσσερις μήνες μετά, αφού πρώτα τη δημοσιεύσει εφημερίδα, δεν χτίζει εμπιστοσύνη.
