Μια σειρά από τεταμένες τηλεφωνικές συνομιλίες μεταξύ του διευθύνοντος συμβούλου της Anthropic και κυβερνητικών αξιωματούχων την Παρασκευή (12/6) αναδεικνύει τον τρόπο με τον οποίο ο Λευκός Οίκος προσπαθεί να διαχειριστεί τα ολοένα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης.
Η απόφαση του Λευκού Οίκου να εκδώσει οδηγία ελέγχου εξαγωγών ήρθε μετά από ένα πυρετώδες 24ωρο διαβουλεύσεων, κατά το οποίο ανώτεροι κυβερνητικοί αξιωματούχοι επιχείρησαν να πείσουν την εταιρεία να προχωρήσει οικειοθελώς στην απόσυρση δύο μοντέλων της, επικαλούμενοι ανησυχίες για την εθνική ασφάλεια. Αυτό δήλωσαν στο Politico δύο κυβερνητικοί αξιωματούχοι και ένας ανώτερος αξιωματούχος του Λευκού Οίκου, οι οποίοι θέλησαν να διατηρήσουν την ανωνυμία τους.
Η κίνηση αυτή, που ακολούθησε πολλαπλές έντονες συνομιλίες μεταξύ του CEO της Anthropic, Ντάριο Αμοντέι, και κυβερνητικών αξιωματούχων, δείχνει πώς ο Λευκός Οίκος προσπαθεί να ρυθμίσει τα ταχέως εξελισσόμενα και δυνητικά επικίνδυνα μοντέλα AI. Οι λεπτομέρειες αυτών των συνομιλιών δεν είχαν δημοσιευθεί προηγουμένως.
Οι φόβοι και οι ανησυχίες της Ουάσιγκτον
Η αμερικανική κυβέρνηση επέβαλε περιορισμούς στην πρόσβαση στο προηγμένο μοντέλο της Anthropic, το Fable, λίγες μόλις ημέρες μετά την κυκλοφορία του. Η εταιρεία είχε διαβεβαιώσει ότι το μοντέλο ήταν ασφαλές, όμως λίγο μετά την κυκλοφορία του, ανώτεροι κυβερνητικοί αξιωματούχοι άρχισαν να αμφιβάλλουν για το κατά πόσο οι προστατευτικές του δικλίδες είναι πράγματι τόσο αποτελεσματικές όσο υποστηρίζει η εταιρεία.
Ειδικοί έχουν προειδοποιήσει ότι τα μοντέλα της κατηγορίας Mythos θα μπορούσαν, αν χρησιμοποιηθούν κακόβουλα, να επιταχύνουν σημαντικά πολύπλοκες κυβερνοεπιθέσεις, ιδιαίτερα σε τομείς όπως οι τράπεζες, οι χρηματοπιστωτικές υπηρεσίες και οι κρίσιμες υποδομές που βασίζονται σε παλαιά και περίπλοκα πληροφοριακά συστήματα.
Την Πέμπτη (11/6), δύο ημέρες μετά τη δημόσια διάθεση του μοντέλου, ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, εξέφρασε τις ανησυχίες του στον Λευκό Οίκο σχετικά με τη δυνατότητα παράκαμψης των ενσωματωμένων μηχανισμών ασφαλείας του μοντέλου, σύμφωνα με τους ίδιους αξιωματούχους. Όπως επισημαίνει το Politico, η Amazon, η οποία έχει επενδύσει στην Anthropic, ανταποκρινόταν σε αίτημα της κυβέρνησης για αξιολόγηση, σύμφωνα με άτομο που γνωρίζει τις σχετικές συζητήσεις. Μέχρι το πρωί της Παρασκευής, το θέμα είχε φτάσει στα υψηλότερα κλιμάκια του Λευκού Οίκου.
Ο διευθυντής Κυβερνοασφάλειας του Λευκού Οίκου Σον Κέρνκρος, η προσωπάρχης Σούζι Γουάιλς και άλλοι ανώτεροι αξιωματούχοι συναντήθηκαν για να συζητήσουν για το μοντέλο. Ο υπουργός Οικονομικών Σκοτ Μπέσεντ συμμετείχε εξ αποστάσεως ενώ ταξίδευε στο Χιούστον. Μετά τη συνάντηση, ο Λευκός Οίκος επιχείρησε να επικοινωνήσει με τον Αμοντέι, αλλά ενημερώθηκε ότι δεν ήταν διαθέσιμος επειδή συμμετείχε σε πρόγραμμα ευεξίας, σύμφωνα με κυβερνητικές πηγές. Ωστόσο, εκπρόσωπος της Anthropic απέρριψε τον ισχυρισμό ως «απολύτως ψευδή».
Άτομο κοντά στην εταιρεία δήλωσε ότι το πρώτο αίτημα επικοινωνίας έγινε γύρω στο μεσημέρι και ότι ο Αμοντέι συνομίλησε με ανώτερους αξιωματούχους μετά από μία ώρα και δεκαπέντε λεπτά. Μέχρι να καταστεί διαθέσιμος, η εταιρεία είχε προσφερθεί να εκπροσωπηθεί από άλλα ανώτερα στελέχη. Όταν τελικά επικοινώνησαν μαζί του, ο Αμοντέι συμμετείχε σε τρεις τηλεδιασκέψεις με περίπου έξι ανώτερους κυβερνητικούς αξιωματούχους, μεταξύ των οποίων οι Κέρνκρος, Μπέσεντ και ο υπουργός Εμπορίου Χάουαρντ Λάτνικ.
Η Anthropic αμφισβητεί τα στοιχεία
Κατά τη διάρκεια των συνομιλιών, ο Αμοντέι είπε πως επρόκειτο για παρεξήγηση. Αντέκρουσε τις ανησυχίες της κυβέρνησης, υπερασπίστηκε τις δικλίδες ασφαλείας του μοντέλου της και υποστήριξε ότι η συγκεκριμένη παράκαμψη που είχε εντοπιστεί δεν ισοδυναμούσε με ένα γενικευμένο «jailbreak» που θα επέτρεπε την πλήρη παράκαμψη όλων των μηχανισμών ασφαλείας.
Σε ανάρτηση που δημοσίευσε μετά την κυβερνητική εντολή, η Anthropic ανέφερε ότι κανένας δοκιμαστής δεν είχε καταφέρει να βρει μια «καθολική μέθοδο jailbreak» που να παρακάμπτει ευρέως τις δικλίδες ασφαλείας και να ξεκλειδώνει ένα μεγάλο εύρος κυβερνοδυνατοτήτων. Παράλληλα, υποστήριξε ότι καμία εταιρεία του κλάδου δεν διαθέτει σήμερα τη δυνατότητα να αποτρέψει πλήρως κάθε πιθανή μέθοδο παράκαμψης των δικλίδων ασφαλείας.
Ωστόσο, οι Κέρνκρος και Μπέσεντ δεν πείστηκαν από τα επιχειρήματα του Αμοντέι. Σύμφωνα με αξιωματούχο του Λευκού Οίκου, η Υπηρεσία Εθνικής Ασφάλειας (NSA) η οποία εξέτασε τα ευρήματα της Amazon, θεώρησε ότι υπήρχαν επαρκείς αποδείξεις. Οι αξιωματούχοι κάλεσαν την Anthropic να αποσύρει οικειοθελώς το μοντέλο και να συνεργαστεί με την κυβέρνηση για τη διόρθωση των ευπαθειών του. Ο Αμοντέι ζήτησε περισσότερο χρόνο και επιπλέον πληροφορίες, αλλά δεν δεσμεύτηκε να αποσύρει το μοντέλο. Σε κάποια στιγμή, ο Μπέσεντ φέρεται να του είπε ευθέως ότι «παίρνει λάθος απόφαση».
Λίγο αργότερα, η κυβέρνηση Τραμπ επέβαλε περιορισμούς στα μοντέλα Fable 5 και Mythos 5, επικαλούμενη λόγους εθνικής ασφάλειας και απαγόρευσε τη χρήση τους από αλλοδαπούς υπηκόους. Σύμφωνα με την Anthropic, η πρακτική συνέπεια ήταν να απενεργοποιηθούν άμεσα τα μοντέλα για όλους τους πελάτες της ώστε να διασφαλιστεί η συμμόρφωση.
Μετά τη δημοσίευση του άρθρου του Politico, πρόσωπο κοντά στην Anthropic δήλωσε ότι ο Λευκός Οίκος έδωσε διορία μόλις 90 λεπτών στην εταιρεία για την απόσυρση των μοντέλων της χωρίς να παράσχει λεπτομέρειες για την υποτιθέμενη απειλή.
Ωστόσο, αξιωματούχοι του Λευκού Οίκου δήλωσαν ότι δυσκολεύονταν να κατανοήσουν γιατί ο Αμοντέι δεν ήταν πρόθυμος να αποσύρει προσωρινά το μοντέλο προκειμένου να αντιμετωπίσει μια γνωστή ευπάθεια ασφαλείας.
Τρία άτομα με γνώση των κυβερνητικών συζητήσεων ανέφεραν ότι η Amazon δεν ήταν η μόνη εταιρεία που εξέφρασε ανησυχίες για τα συγκεκριμένα μοντέλα.
«Εάν η Anthropic το είχε πάρει στα σοβαρά και, αντί να το αποδώσει σε μεμονωμένο περιστατικό, είχε προβεί σε διορθώσεις ή είχε αναστείλει την πρόσβαση σα εν λόγω μοντέλα, αυτό δεν θα είχε συμβεί ποτέ», δήλωσε ένα από αυτά τα πρόσωπα.
«Δυσανάλογη αντίδραση»
Η Anthropic αντέτεινε ότι η επίμαχη παράκαμψη δεν αποτελούσε κατάρρευση των συστημάτων ασφαλείας του Fable 5 και επισήμανε ότι είχε συνεργαστεί με την κυβέρνηση πριν από την κυκλοφορία του μοντέλου. Σύμφωνα με την εταιρεία, η κυβέρνηση δεν είχε εκφράσει αντιρρήσεις κατά τις σχετικές συζητήσεις.
Σε μεταγενέστερη ανάρτησή της, η Anthropic δήλωσε ότι συμμορφώνεται με την κυβερνητική εντολή, αλλά χαρακτήρισε το μέτρο δυσανάλογο.
«Πιστεύουμε ότι η κυβέρνηση πρέπει να έχει τη δυνατότητα να εμποδίζει τη μη ασφαλή αναπτύξη της τεχνητής νοημοσύνης, μέσα από μια θεσμοθετημένη διαδικασία η οποία είναι διαφανής, δίκαιη, σαφής και βασισμένη σε τεχνικά δεδομένα. Η συγκεκριμένη ενέργεια δεν ανταποκρίνεται σε αυτές τις αρχές», ανέφερε.
Η διαμάχη αυτή αναδεικνύει την αυξανόμενη ένταση μεταξύ εταιρειών AI και ρυθμιστικών αρχών σχετικά με το πώς πρέπει να αξιολογούνται οι κίνδυνοι που προκύπτουν από τεχνικές παράκαμψης των μηχανισμών ασφαλείας.
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
