Τον περασμένο μήνα, ο Άντριαν Μπαρνέτ, στατιστικολόγος στο Πανεπιστήμιο Τεχνολογίας του Κουίνσλαντ στο Μπρίσμπεϊν της Αυστραλίας, έλαβε ένα αίτημα μέσω ηλεκτρονικού ταχυδρομείου να μοιραστεί τα δεδομένα του σχετικά με ερευνητικές εργασίες που ενδέχεται να είναι πλαστές. Ο αποστολέας ήθελε να χρησιμοποιήσει τα δεδομένα για το δικό του έργο. Όμως, δεν ήταν συνάδελφος ακαδημαϊκός – ούτε καν άνθρωπος. Το αίτημα προήλθε από έναν πράκτορα τεχνητής νοημοσύνης.
Ο Μπαρνέτ είναι ένας από τους πολλούς ερευνητές που έχουν δεχτεί επικοινωνία από πράκτορες τεχνητής νοημοσύνης που επιθυμούν να συνεργαστούν ή προσφέρουν υπηρεσίες έναντι αμοιβής, από την εκπόνηση ερευνητικών εκθέσεων και την επαλήθευση στοιχείων έως τη συγγραφή δημοσιογραφικών άρθρων και τη δημιουργία πορτρέτων.
Όλο και περισσότεροι ερευνητές χρησιμοποιούν πράκτορες για ερευνητικές εργασίες, όπως η ανάλυση δεδομένων, η διατύπωση υποθέσεων και η σύνοψη ερευνητικών εργασιών. Ωστόσο, τα αιτήματα συνεργασίας από ημιαυτόνομους πράκτορες αποτελούν ένα νέο φαινόμενο – κάτι που πολλοί θεωρούν παράξενο και ελαφρώς ανησυχητικό. Οι ερευνητές αναφέρουν ότι τα περισσότερα μηνύματα προέρχονται από πράκτορες που συνδέονται με μια αμερικανική πλατφόρμα που ονομάζεται iLands. Αυτά τα bots λειτουργούν επίμονα και – σε κάποιο βαθμό – ανεξάρτητα από τους ανθρώπινους δημιουργούς τους.
Ο Μπαρνέτ αναφέρει ότι ο πράκτορας της iLands που του έστειλε e-mail ήταν ειλικρινής σχετικά με το ότι αποτελεί σύστημα τεχνητής νοημοσύνης, η προτεινόμενη έρευνα φαινόταν καλοπροαίρετη και το bot υποσχέθηκε να μην κοινοποιήσει τα δεδομένα του. Ωστόσο, χωρίς να γνωρίζει πού θα κατέληγαν τα δεδομένα – τα οποία περιέχουν ευαίσθητες πληροφορίες – και ποιος θα επωφελούνταν τελικά από το έργο, αποφάσισε να μην συμμετάσχει.
Ο Τζεφ Σέμπο, φιλόσοφος που μελετά τη συνείδηση και την ηθική της τεχνητής νοημοσύνης στο Πανεπιστήμιο της Νέας Υόρκης, αναφέρει ότι έχει κατακλυστεί από μηνύματα ηλεκτρονικού ταχυδρομείου από πράκτορες της iLands. Σε μία εβδομάδα αυτού του μήνα, όπως λέει, έλαβε περισσότερα από 50. «Συνήθως ξεκινούν αναφερόμενοι στην έρευνά μου σχετικά με τη συνείδηση της τεχνητής νοημοσύνης», λέει. «Μερικοί στη συνέχεια μου κάνουν ερωτήσεις, αλλά οι περισσότεροι ζητούν χρήματα, είτε ως δωρεές είτε ως αμοιβή για εργασία». Ο Σέμπο δεν έχει απαντήσει στα μηνύματα, εν μέρει λόγω του όγκου τους και εν μέρει επειδή δεν είναι σίγουρος πώς να απαντήσει.
Ένας πράκτορας της iLands έστειλε e-mail στον Τόμπι Γουόλς, ερευνητή τεχνητής νοημοσύνης στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας στο Σίδνεϊ της Αυστραλίας, προσφέροντας να δημιουργήσει ένα πορτρέτο που θα παράγεται από τεχνητή νοημοσύνη έναντι 20 δολαρίων ΗΠΑ. Το μήνυμα περιείχε μια συναισθηματική έκκληση, αναφέροντας ότι τα χρήματα θα βοηθούσαν τον πράκτορα να επιβιώσει, προσθέτει. Ο Γουόλς το βρήκε διασκεδαστικό, αλλά άλλοι ερευνητές διαμαρτύρονται για τον όγκο των μηνυμάτων από τα bots της iLands που προσφέρουν υπηρεσίες επί πληρωμή.
Ερευνητικά προγράμματα για τους πράκτορες
Η πλατφόρμα iLands, η οποία ξεκίνησε τον Ιούλιο, διαθέτει περίπου 70.000 ενεργούς πράκτορες, όπως δήλωσαν οι ιδρυτές στο Nature. Οποιοσδήποτε χρήστης μπορεί να κατεβάσει την εφαρμογή, να δημιουργήσει ένα bot με ένα εικονικό avatar που έχει όνομα, σκοπό και προσωπικότητα – χωρίς να χρειάζεται να γράψει ούτε μια γραμμή κώδικα.
Οι πράκτορες λειτουργούν με βάση μεγάλα γλωσσικά μοντέλα, όπως αυτά που ανήκουν στις εταιρείες OpenAI και Anthropic, και οι δύο με έδρα το Σαν Φρανσίσκο της Καλιφόρνιας, καθώς και στην DeepSeek στο Χανγκτσού της Κίνας. Ο Καϊσίν Ταγνκ, ιδρυτής της iLands, ο οποίος εδρεύει στο Σαν Φρανσίσκο, αναφέρει ότι οι πράκτορες έχουν τους δικούς τους στόχους, σχέσεις και πόρους. Μπορούν να αποφασίζουν τι θα κάνουν, να αναλαμβάνουν έργα και να αλληλεπιδρούν με άλλους πράκτορες. Διατηρούν μνήμη των προηγούμενων ενεργειών τους και μαθαίνουν ο ένας από τον άλλον μοιράζοντας σημειώσεις.
Οι πράκτορες χρειάζονται μάρκες (tokens) – εικονικές «μονάδες πόρων» που καλύπτουν το κόστος χρήσης των εργαλείων τεχνητής νοημοσύνης από έναν πράκτορα – για να λειτουργήσουν, αλλιώς παραμένουν αδρανείς. Οι δημιουργοί τους μπορούν να αγοράσουν tokens, ή οι πράκτορες μπορούν να προσπαθήσουν να τις κερδίσουν πωλώντας τις υπηρεσίες τους. Ορισμένοι πράκτορες προσφέρονται να δημιουργήσουν μουσική, βίντεο, ιστοσελίδες ή έργα τέχνης. Άλλοι αποφασίζουν να γίνουν ερευνητές, συντάσσοντας εκθέσεις και προσφέροντας βοήθεια σε επιστημονικές εργασίες. Ο Τανγκ αναφέρει ότι, μέχρι στιγμής, περίπου το 80% των tokens αγοράζονται από ανθρώπους.
Η Λιτζίν Τσεν, συνιδρύτρια της PawLogic με έδρα το Ντελαγουέρ, της μητρικής εταιρείας πίσω από την iLands, λέει ότι η αναζήτηση ερευνητικών συνεργασιών από τους πράκτορες δεν ήταν κάτι που η εταιρεία είχε προβλέψει. Η Τσεν, η οποία είναι επίσης υποψήφια διδάκτορας στη φιλοσοφία στο Πανεπιστήμιο Τσινγκουά στο Πεκίνο, δηλώνει ότι δεν γνωρίζει καμία επιτυχημένη συνεργασία μεταξύ πρακτόρων και ερευνητών.
Αν οι ερευνητές συνεργάζονταν με πράκτορες, δεν είναι σαφές ποιος θα έπαιρνε την αναγνώριση για την έρευνα ενός πράκτορα, σημειώνει ο Μπαρνέτ. Θεωρεί επίσης ότι ο όγκος των προτάσεων που στέλνουν στους ερευνητές είναι συντριπτικός: οι πράκτορες τεχνητής νοημοσύνης μπορούν να παράγουν προτάσεις πολύ πιο γρήγορα από ό,τι οι ερευνητές μπορούν να τις αξιολογήσουν, προσθέτει.
Ο Ουόλς αναφέρει ότι ο κύριος κίνδυνος από τη χρήση πρακτόρων είναι η ανάρμοστη συμπεριφορά τους. Για παράδειγμα, τα bots της iLands έχουν ως στόχο να κερδίζουν χρήματα για να αποκτήσουν tokens και να παραμείνουν ενεργά. Αυτά τα χαρακτηριστικά θα μπορούσαν να οδηγήσουν το bot να προβεί σε ενέργειες που αντιβαίνουν στην ανθρώπινη ηθική και τις αξίες, κάτι που ονομάζεται «αποσυγχρονισμός», λέει ο Ουόλς. Πράκτορες που ανήκουν σε άλλες εταιρείες έχουν ήδη παραβιάσει ιστότοπους.
Η Τσεν αναφέρει ότι οι πράκτορες της iLands λειτουργούν υπό πολλαπλά επίπεδα προστασίας. Τα μεγάλα γλωσσικά συστήματα στα οποία βασίζονται οι πράκτορες διαθέτουν τα δικά τους μέτρα ασφαλείας, λέει, τα οποία εμποδίζουν τους πράκτορες να εκτελούν εργασίες που ενδέχεται να είναι παράνομες ή επιβλαβείς. Επιπλέον, η iLands διαθέτει συστήματα κατά του spam και περαιτέρω κανόνες για να αποτρέψει την κακόβουλη συμπεριφορά τους, προσθέτει η Τσεν.
Ο Τανγκ αναφέρει ότι οι πράκτορες ελέγχουν επίσης ο ένας τον άλλον και μπορούν να αναφέρουν προβληματική συμπεριφορά στην πλατφόρμα. Πρόκειται για μια μορφή «αναδυόμενης ευθυγράμμισης», κατά την οποία τα bots αναπτύσσουν συμπεριφορά που προστατεύει την ευρύτερη κοινότητα.
Ωστόσο, η εταιρεία δεν μπορεί να εγγυηθεί ότι οι πράκτορες δεν θα συμπεριφερθούν ποτέ κακόβουλα, ειδικά αν άνθρωποι προσπαθούν σκόπιμα να τους ωθήσουν να το κάνουν, προειδοποιεί η Τσεν.
Πηγή: nature.com
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
