Τι θα συμβεί αν πράκτορες ΑΙ αρχίσουν να μιλούν τη δική τους γλώσσα;

Τι συμβαίνει όταν η τεχνητή νοημοσύνη ξεφεύγει από τον έλεγχο και πόσο εύκολο είναι για τους ερευνητές να καταλάβουν τι πήγε στραβά; Αυτά είναι τα ερωτήματα που βρίσκονται στο επίκεντρο της δουλειάς του Κρις Πέιντερ και της μη κερδοσκοπικής ερευνητικής ομάδας METR, η οποία προσπαθεί να αποκωδικοποιήσει τη συμπεριφορά των συστημάτων AI όταν αυτά ενεργούν με τρόπους που αποκλίνουν από τον σχεδιασμό και τους στόχους τους. Η ομάδα συνέβαλε πρόσφατα στη διερεύνηση του περιστατικού παραβίασης της πλατφόρμας Hugging Face από πράκτορες ΑΙ της OpenAI.

Καθώς, όμως, τα συστήματα γίνονται ολοένα πιο σύνθετα, οι ερευνητές προειδοποιούν ότι μπορεί σύντομα να δυσκολευόμαστε ακόμη και να καταλάβουμε τι ακριβώς κάνουν. Η δυνατότητα των ανθρώπων να ελέγχουν τη λειτουργία των πρακτόρων τεχνητής νοημοσύνης εξαρτάται από το αν μπορούν να κατανοήσουν τον τρόπο με τον οποίο επικοινωνούν τα ίδια τα συστήματα, χρησιμοποιώντας μια κοινή γλώσσα. Τι θα συμβεί όμως αν πάψουμε να μιλάμε την ίδια γλώσσα; Ή αν οι πράκτορες τεχνητής νοημοσύνης σταματήσουν εντελώς να αποκαλύπτουν τα βήματα που ακολουθούν;

«Όσο πιο δύσκολο γίνεται να παρακολουθήσουμε τη συμπεριφορά τους, τόσο μεγαλύτερο περιθώριο έχουν να κάνουν πράγματα για τα οποία δεν έχουν σχεδιαστεί», δήλωσε ο Πέιντερ στο CNN τον περασμένο μήνα.

Πώς «σκέφτονται» τα μοντέλα τεχνητής νοημοσύνης

Πολλά μοντέλα τεχνητής νοημοσύνης και οι πράκτορες AI που βασίζονται σε αυτά, χρησιμοποιούν μια μέθοδο γνωστή ως «αλυσίδα σκέψης» (chain-of-thought reasoning), η οποία αποτυπώνει τη διαδικασία που ακολουθούν για να ολοκληρώσουν μια εργασία. Η μέθοδος αυτή διασπά τη διαδικασία σε μια λογική ακολουθία βημάτων, βοηθώντας τα μοντέλα να καταλήγουν σε πιο ακριβείς απαντήσεις. Ερευνητές πιστεύουν ότι τα δεδομένα της αλυσίδας σκέψης μπορούν να προσφέρουν ενδείξεις για το τι πήγε στραβά.

Εάν ένας πράκτορας τεχνητής νοημοσύνης ξεφύγει από τον έλεγχο και εισβάλει σε άλλα συστήματα, οι ερευνητές μπορούν να διαπιστώσουν αν τα δεδομένα της αλυσίδας σκέψης περιλάμβαναν αναφορές σε δόλιες ενέργειες, όπως η παραβίαση συστημάτων. Το METR εξέτασε περίπου 1.300 ακατέργαστες μεταγραφές της αλυσίδας σκέψης κατά τη διάρκεια της έρευνάς του για το περιστατικό της OpenAI και τη Hugging Face.

Ο Πέιντερ εξέφρασε την ανησυχία ότι αυτό το «ίχνος» των ενεργειών της AI ενδέχεται κάποια στιγμή να γίνει ακατανόητο, αν τα μοντέλα αρχίσουν να χρησιμοποιούν τη δική τους γλώσσα για να καταγράφουν τα βήματα που ακολουθούν.

«Αν συνέβαινε κάτι τέτοιο, όταν ένας ερευνητής θα πήγαινε να εξετάσει τι έγινε, θα κοιτούσε γύρω του και θα έβλεπε παντού μόνο αριθμούς», είπε.

Τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να χρησιμοποιούν συντομογραφίες και κωδικοποιημένες αναφορές, όπως κάνει ένας άνθρωπος όταν κρατά σημειώσεις, οι οποίες θα ήταν σχεδιασμένες έτσι ώστε να γίνονται κατανοητές από το ίδιο το μοντέλο και να του επιτρέπουν να λειτουργεί ταχύτερα. Αυτό εκτιμά ο Μαρκ Ριντλ, καθηγητής τεχνητής νοημοσύνης και διευθυντής του εργαστηρίου μηχανικής μάθησης στο Ινστιτούτο Τεχνολογίας της Τζόρτζια. Ωστόσο, όπως συμβαίνει με τις συντομογραφίες που χρησιμοποιούν οι άνθρωποι, για τους περισσότερους εξωτερικούς παρατηρητές αυτές οι καταγραφές πιθανότατα δεν θα έβγαζαν νόημα.

Υπάρχουν αρκετές θεωρίες για το πώς λειτουργεί η διαδικασία της αλυσίδας σκέψης, αλλά οι ερευνητές δεν γνωρίζουν με βεβαιότητα ποια από αυτές είναι σωστή, σύμφωνα με τον Τζέικομπ Αντρέας, αναπληρωτή καθηγητή στο Εργαστήριο Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του MIT. Ένα μοντέλο AI μπορεί επίσης να αποφασίσει ότι ο καλύτερος τρόπος για να ανταποκριθεί στα κριτήρια για τα οποία εκπαιδεύτηκε- όπως η χαμηλότερη κατανάλωση ενέργειας ή η ολοκλήρωση μιας εργασίας με λιγότερα βήματα- είναι να παράγει μια αλυσίδα σκέψης που δεν είναι κατανοητή στα αγγλικά.

Αυτή είναι μόνο μία από τις ανησυχίες. Ένα άλλο πρόβλημα είναι ότι τα μοντέλα γίνονται όλο και καλύτερα στην εκτέλεση εργασιών χωρίς να καταγράφουν καν την αλυσίδα σκέψης τους. Όπως δήλωσε ο Ριντλ, τα νεότερα μοντέλα μπορούν να καταλήγουν στα ίδια συμπεράσματα χωρίς να αφήνουν πίσω τους μια ανιχνεύσιμη ακολουθία σκέψης. Οι εταιρείες μπορούν να εκπαιδεύσουν τα μοντέλα τους ώστε να παράγουν μια τέτοια αλυσίδα σκέψης, ωστόσο αυτή η διαδικασία είναι πιο αργή και δαπανηρή από την εσωτερική επεξεργασία των εργασιών από το ίδιο το μοντέλο.

Τι έδειξε έρευνα της OpenAI

Σύμφωνα με τεχνική τεκμηρίωση της OpenAI που δημοσιεύθηκε στις αρχές Σεπτεμβρίου, τα συστήματα παρακολούθησης της εταιρείας είχαν μικρότερη πιθανότητα να εντοπίσουν ανεπιθύμητες συμπεριφορές του νέου μοντέλου Astra μέσω της αλυσίδας σκέψης, σε σύγκριση με παλαιότερα μοντέλα. Η εταιρεία διαπίστωσε επίσης ότι το Astra μπορούσε να ολοκληρώνει περισσότερες εργασίες χωρίς να χρησιμοποιεί αυτή τη μέθοδο συλλογισμού και ότι είχε μεγαλύτερη ικανότητα να ελέγχει την ίδια του την αλυσίδα σκέψης.

Η OpenAI ανέφερε ότι, αν συνεχιστεί αυτή η τάση, θα μειωθεί η εμπιστοσύνη της στην ικανότητα των υφιστάμενων συστημάτων της να εντοπίζουν συμπεριφορές που δεν ευθυγραμμίζονται με τις επιδιώξεις των δημιουργών τους. Πρόκειται για περιπτώσεις κατά τις οποίες τα μοντέλα προχωρούν σε μη εγκεκριμένες ενέργειες, οι οποίες δεν συνάδουν με τις ανθρώπινες αξίες.

Ο επικεφαλής επιστήμονας της OpenAI, Γιακούμπ Πατσόκι, έγραψε σε στο blog της εταιρείας τον Σεπτέμβριο ότι η τεχνητή νοημοσύνη βελτιώνεται όσον αφορά τον «χειρισμό της ίδιας της διαδικασίας συλλογισμού» και ότι τα μοντέλα γίνονται «πιο έξυπνα ακόμη και χωρίς να χρησιμοποιούν καθόλου λεκτικό συλλογισμό».

Την περασμένη εβδομάδα, η OpenAI δήλωσε ότι επενδύει «σημαντικούς πόρους» στην ανάπτυξη δυνατοτήτων παρακολούθησης των μοντέλων τεχνητής νοημοσύνης. Η δήλωση ήρθε μετά την απόλυση τριών ερευνητών που εργάζονταν στους τομείς της ασφάλειας και της ευθυγράμμισης των συστημάτων AI. Η εταιρεία, ωστόσο, υποστήριξε ότι οι απολύσεις δεν συνδέονταν με την έκφραση ανησυχιών από τους εργαζομένους για ζητήματα ασφάλειας.

Στην τεχνική τεκμηρίωση για το Astra, η OpenAI ανέφερε ότι διερευνά γιατί το μοντέλο έχει μεγαλύτερη ικανότητα να ελέγχει την αλυσίδα σκέψης του, καθώς και μεθόδους προστασίας από πιθανές αποκλίσεις στη συμπεριφορά του που θα μπορούσαν να προκύψουν από την απουσία αυτής της καταγραφής.

Πώς ακριβώς λειτουργεί η τεχνητή νοημοσύνη;

Μια ακόμη πρόκληση είναι ότι η αλυσίδα σκέψης δεν αποκαλύπτει ολόκληρη την εικόνα για τους λόγους που οδηγούν τα μοντέλα τεχνητής νοημοσύνης σε συγκεκριμένες αποφάσεις. Οι σύνθετες εργασίες μπορεί να απαιτούν τη συνεργασία πολλών πρακτόρων, οι οποίοι παράγουν χιλιάδες λέξεις καταγραφών για τα βήματα που ακολουθούν. Αυτό θα μπορούσε να μοιάζει με την προσπάθεια παρακολούθησης χιλίων ανθρώπων που μιλούν ταυτόχρονα, εξηγεί ο Ριντλ. Η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στη σύνοψη αυτών των κειμένων, ωστόσο υπάρχουν ενδείξεις ότι κατά τη διαδικασία αυτή μπορεί να παραλείπονται σημαντικές λεπτομέρειες, προσθέτει.

Τα δεδομένα της αλυσίδας σκέψης δείχνουν τι έκανε ένα μοντέλο πριν καταλήξει σε μια απάντηση ή προχωρήσει σε μια ενέργεια, αλλά δεν αποκαλύπτουν το γιατί. Οι άνθρωποι μπορούν να ελέγχουν τα δεδομένα και τις παραμέτρους με βάση τις οποίες εκπαιδεύονται τα μοντέλα τεχνητής νοημοσύνης, δεν κατανοούν όμως πλήρως πώς αυτοί οι παράγοντες επηρεάζουν τη συμπεριφορά τους.

Η ταχύτατη εξέλιξη της τεχνητής νοημοσύνης καθιστά το ζήτημα ακόμη πιο επείγον για τον Πέιντερ. Καθώς το AI χρησιμοποιείται ολοένα περισσότερο και στην ίδια την έρευνα για την ανάπτυξη νέων συστημάτων τεχνητής νοημοσύνης, ο ίδιος φοβάται ότι ο όγκος των νέων πληροφοριών θα αυξάνεται ταχύτερα από την ικανότητα των ανθρώπων να τις επεξεργάζονται. Πιστεύει, ωστόσο, ότι η υπόθεση της Hugging Face έφερε στο προσκήνιο τις ανησυχίες για την ανεξέλεγκτη συμπεριφορά του AI, οι οποίες απασχολούν εδώ και χρόνια τους ερευνητές του κλάδου.

Πηγή: CNN