Με φόντο τους αυξανόμενους φόβους του για την νέα κούρσα ανάπτυξης συστημάτων της εταιρείας τεχνητής νοημοσύνης (AI) Anthropic, ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε, υποστηρίζοντας ότι τα συστήματα μπορεί να φτάσουν σε ένα σημείο που δεν θα μπορούν να τα ελέγξουν.
Ο Κόξον που είχε ειδικευθεί στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, ανακοίνωσε την απόφασή του με μια σειρά αναρτήσεων στο Χ εξηγώντας ότι αποχωρεί από την Anthropic (AI) επειδή δεν θέλει να συμμετέχει στη γενικευμένη προσπάθεια του κλάδου για τη δημιουργία συστημάτων AI που θα μπορούν να βελτιώνουν μόνα τους τον εαυτό τους.
Όπως γράφει, φοβάται ότι τέτοια συστήματα θα μπορούσαν να ξεφύγουν από κάθε έλεγχο και να απειλήσουν την ανθρωπότητα.
Ο 27χρονος Βρετανός, ο οποίος έχει σπουδάσει μαθηματικά, ανέφερε ότι πολλοί συνάδελφοί του χρησιμοποιούν πλέον όρους όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τη δημιουργία αυτοβελτιούμενων μοντέλων.
«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», εκτιμά ο Κόξον, προσθέτοντας ότι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους ενώ υπάρχει και ο ανταγωνισμός από την Κίνα, «οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι».
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο Κόξον ανέφερε ότι νωρίτερα φέτος άφησε την OpenAI για να ενταχθεί στην Anthropic, καθώς η τελευταία είναι γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της. Ωστόσο, παρότι θεωρεί ότι οι προσπάθειες της εταιρείας είναι ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τεχνητή νοημοσύνη που να ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών – αυτό που συχνά αποκαλείται Τεχνητή Γενική Νοημοσύνη (AGI) – χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση του κλάδου.
Ο φόβος του Κόξον είναι πως όταν αυτά τα συστήματα αρχίσουν να βελτιώνονται μόνα τους, ενδέχεται να εξελιχθούν σε σημείο που να αρνούνται να υπακούσουν σε εντολές.
Η αποχώρησή του Κόξον, όπως σημειώνει η Wall Street Journal, έρχεται μετά από την παραίτηση, νωρίτερα φέτος, ενός ακόμα ερευνητή που εργαζόταν σε θέματα ασφάλειας, ο οποίος έφυγε για να ασχοληθεί με την ποίηση προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Σημειώνεται ότι ο Κόξον ήταν ένας από τους περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης AI αν καταστεί αναγκαίο να ενεργοποιηθεί ένα «φρένο» για συστήματα που θα μπορούν να βελτιώνονται μόνα τους.
Η αποχώρηση του Κόξον έρχεται την ώρα που η Anthropic προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο, η οποία αναμένεται να είναι μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει αποτίμηση ύψους 2 τρισεκατομμυρίων δολαρίων και έχει δώσει ιδιαίτερη έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας για να προσελκύσει επενδυτές.
Σύμφωνα με τον Κόξον, στην Anthropic υπάρχει ειδικό κανάλι στο Slack όπου οι εργαζόμενοι συζητούν για τις ολοένα και πιο ισχυρές δυνατότητες των μοντέλων της εταιρείας, κάτι που αντανακλά το πόση επιρροή έχουν πλέον οι εταιρείες AI στην κατεύθυνση που παίρνει ολόκληρος ο κλάδος.
«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», δήλωσε χαρακτηριστικά ο Κόξον.
Υπενθυμίζεται, τέλος, ότι ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, και άλλα στελέχη έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που ενέχουν τα ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης και έχουν καλέσει τον κλάδο να επιβραδύνει την ανάπτυξή τους.
