AI agents: Όταν οι ιστότοποι τούς κλείνουν την πόρτα

Μπορούν να κλείσουν αεροπορικά εισιτήρια, να κάνουν κρατήσεις σε εστιατόρια και να πραγματοποιήσουν αγορές για λογαριασμό μας. Τι συμβαίνει, όμως, όταν οι ιστότοποι τους αρνούνται την πρόσβαση; Καθώς οι AI agents, οι ψηφιακοί πράκτορες που αναλαμβάνουν να εκτελούν εργασίες αντί των χρηστών, αποκτούν ολοένα περισσότερες δυνατότητες, εμφανίζεται ένα νέο εμπόδιο: οι περιορισμοί που επιβάλλουν οι ίδιες οι διαδικτυακές πλατφόρμες.

Η Amazon ήταν μία από τις πρώτες μεγάλες εταιρείες που έθεσαν ρητά τέτοιους περιορισμούς. Στις 20 Σεπτεμβρίου, χρήστες του Muse, του AI agent της Meta, άρχισαν να λαμβάνουν μήνυμα σφάλματος όταν προσπαθούσαν να πραγματοποιήσουν αγορές μέσω της Amazon. Το μήνυμα ανέφερε ότι η συνεχιζόμενη πρόσβαση ενός μη εξουσιοδοτημένου AI agent παραβιάζει τους όρους χρήσης της πλατφόρμας, τους οποίους έχουν αποδεχθεί οι πελάτες της.

Η απόφαση αυτή πιθανόν να οφείλεται στον ανταγωνισμό μεταξύ των τεχνολογικών κολοσσών. Η Amazon αναπτύσσει δικά της μοντέλα Τεχνητής Νοημοσύνης και διαθέτει σημαντική υποδομή για τη λειτουργία τους. Υπάρχει, ωστόσο, και ένα πρακτικό ζήτημα: εάν ένας agent πραγματοποιήσει μια λανθασμένη παραγγελία, η Amazon θα πρέπει να διαχειριστεί τις συνέπειες, τόσο απέναντι στον πελάτη όσο και απέναντι στον πωλητή. Παρά τη σχετικά χαμηλή συχνότητα σφαλμάτων του Muse, η πιθανότητα να δώσει λανθασμένες πληροφορίες ή να εκτελέσει εσφαλμένα μια εντολή δεν έχει εξαλειφθεί.

Η περίπτωση της Amazon δεν είναι μεμονωμένη. Χρήστες έχουν αναφέρει στα κοινωνικά δίκτυα προβλήματα πρόσβασης των agents σε ιστοσελίδες εταιρειών όπως η Walmart, η eBay, η Yelp, η Zillow και αεροπορικών εταιρειών. Δεν πρόκειται, ωστόσο, σε όλες τις περιπτώσεις για σκόπιμο αποκλεισμό.

Στη Walmart, για παράδειγμα, χρήστες διαπίστωσαν ότι το Muse δεν μπορούσε να ολοκληρώσει αγορές. Η εταιρεία διευκρίνισε ότι δεν επιβάλλει σκόπιμους περιορισμούς, καθώς συνεργάζεται ήδη με τη Meta. Το πρόβλημα φαίνεται να προκύπτει από τους μηχανισμούς επαλήθευσης ανθρώπινης παρουσίας, οι οποίοι ζητούν από τον επισκέπτη να επιβεβαιώσει ότι δεν είναι αυτοματοποιημένο πρόγραμμα. Εάν η διαδικασία διακοπεί, ο agent δεν μπορεί να προχωρήσει στην αγορά.

Από τις αγορές στα αεροπορικά εισιτήρια

Ανάλογα εμπόδια αντιμετωπίζουν όσοι επιχειρούν να χρησιμοποιήσουν AI agents για την κράτηση αεροπορικών εισιτηρίων.

Η Delta Air Lines λαμβάνει μέτρα προστασίας από μη εξουσιοδοτημένη αυτοματοποιημένη δραστηριότητα. Δεν διαθέτει προς το παρόν συνεργασία ή τεχνική διασύνδεση που να επιτρέπει σε τρίτους agents να αναζητούν ή να κλείνουν πτήσεις για λογαριασμό των πελατών της, χωρίς να αποκλείει μελλοντικές λύσεις που θα πληρούν τις απαιτήσεις ασφάλειας και εξυπηρέτησης.

Οι όροι χρήσης της United Airlines απαγορεύουν τη χρήση αυτοματοποιημένων εργαλείων για την παρακολούθηση ή αντιγραφή περιεχομένου και άλλους μη εξουσιοδοτημένους σκοπούς χωρίς προηγούμενη γραπτή άδεια. Δεν υπάρχει όμως διευκρίνηση για το εάν αποκλείει συγκεκριμένους προσωπικούς AI agents.

Πιο ξεκάθαρη είναι η πολιτική της Yelp, η οποία δεν επιτρέπει την πρόσβαση μη ανθρώπινης κίνησης στην πλατφόρμα της, εκτός εάν υπάρχει συμφωνία επί πληρωμή για τη χρήση του περιεχομένου και των δεδομένων της. Έτσι, ένας agent που επιχειρεί να κάνει κράτηση σε εστιατόριο ή να προσθέσει κάποιον σε λίστα αναμονής ενδέχεται να αποτύχει εάν δεν υπάρχει σχετική συνεργασία.

Η eBay δεν απαγορεύει γενικά τις αγορές μέσω τρίτων AI agents, αλλά περιορίζει τη μη εξουσιοδοτημένη αυτοματοποιημένη συλλογή δεδομένων και άλλες χρήσεις, όπως η εκπαίδευση μοντέλων. Η Zillow επιτρέπει σε agents να ενεργούν για λογαριασμό καταναλωτών, αν και τα συστήματα προστασίας της από αυτοματοποιημένη συλλογή πληροφοριών ενδέχεται περιστασιακά να τους εμποδίζουν.

Ένας ακόμη παράγοντας είναι οι υπηρεσίες κυβερνοασφάλειας που χρησιμοποιούν οι ιστοσελίδες. Η Cloudflare, η οποία παρέχει εργαλεία προστασίας από bots, εφαρμόζει μηχανισμούς περιορισμού της πρόσβασης αυτοματοποιημένων συστημάτων. Αλλαγές που τέθηκαν σε εφαρμογή στις 15 Σεπτεμβρίου επέτρεψαν στους διαχειριστές ιστοσελίδων να διαχωρίζουν την πρόσβαση των bots που συλλέγουν δεδομένα για εκπαίδευση AI από άλλες αυτοματοποιημένες επισκέψεις. Ορισμένες προϋπάρχουσες ρυθμίσεις, ωστόσο, ενδέχεται να είχαν ως αποτέλεσμα να αποκλείονται και agents από σελίδες που περιείχαν διαφημίσεις.

Το πρόβλημα επιχειρούν πλέον να αντιμετωπίσουν από κοινού εταιρείες όπως οι Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE και Decagon, οι οποίες εργάζονται για τη δημιουργία ενός ανοιχτού προτύπου επικοινωνίας μεταξύ AI agents και επιχειρήσεων, ειδικά για το ηλεκτρονικό εμπόριο. Στόχος είναι να μπορούν οι πλατφόρμες να διακρίνουν τα αυτοματοποιημένα συστήματα που ενεργούν με εξουσιοδότηση των χρηστών από εκείνα που πραγματοποιούν ανεπιθύμητες ή κακόβουλες ενέργειες.

Η Meta έχει ήδη επιλέξει να συνάπτει απευθείας συνεργασίες με επιχειρήσεις και διατηρεί μέσα στην εφαρμογή Muse κατάλογο συμβατών υπηρεσιών. Όπως υποστηρίζει η ίδια, όταν μια επιχείρηση αποκλείει έναν προσωπικό agent, αποκλείει ταυτόχρονα και τον πελάτη που βρίσκεται πίσω του.

Μέχρι σήμερα, η συζήτηση γύρω από τους AI agents επικεντρωνόταν κυρίως στο τι μπορούν να κάνουν. Οι περιορισμοί που εμφανίζονται σε ολοένα περισσότερες ιστοσελίδες φέρνουν στο προσκήνιο ένα διαφορετικό ερώτημα: ακόμη κι αν ένας agent έχει την τεχνική δυνατότητα να εκτελέσει μια εργασία, ποιος αποφασίζει εάν θα του επιτραπεί; Και με ποιους όρους;