Στέλεχος της Salesforce παρουσιάζει 12 κανόνες για το agentic AI. Γιατί οι περισσότερες αποτυχίες δεν είναι λάθος του AI, αλλά της αρχιτεκτονικής.
Ένα νέο πλαίσιο 12 κανόνων για το agentic AI παρουσιάζει ο John Taschek, executive vice president και chief market strategy officer της Salesforce, με στόχο να εξηγήσει γιατί τόσα projects AI agents αποτυγχάνουν στην παραγωγική φάση. Το βασικό συμπέρασμα είναι ότι οι περισσότερες αποτυχίες δεν οφείλονται στην ίδια την τεχνητή νοημοσύνη, αλλά στην αρχιτεκτονική γύρω από αυτήν.
Γιατί τα περισσότερα pilots «σκάνε» στην παραγωγή
Οι αποτυχίες στα agentic AI projects είναι κατά κανόνα αρχιτεκτονικές, όχι αποτυχίες του μοντέλου. Σύμφωνα με την ανάλυση, οι ομάδες προσπαθούν να χτίσουν συστήματα αλληλεπίδρασης χωρίς να έχουν στήσει σωστά τα θεμέλια των δεδομένων. Η πιο συχνή αιτία αποτυχίας είναι AI agents που τρέχουν πάνω σε «βρώμικα», κατακερματισμένα ή ξεπερασμένα δεδομένα.
Η εικόνα επιβεβαιώνεται και από έρευνες. Έρευνα της Salesforce βρήκε ότι πάνω από τους μισούς εργαζόμενους γραφείου στις ΗΠΑ θεωρούν τους εαυτούς τους σκεπτικιστές απέναντι στο AI, με τους κατοίκους αναδυόμενων οικονομιών να εμπιστεύονται περισσότερο την τεχνολογία. Οι τρεις βασικότεροι λόγοι αποτυχίας ενός AI εργαλείου, σύμφωνα με τους εργαζόμενους, είναι τα γενικόλογα αποτελέσματα, η ανεπαρκής εκπαίδευση και η χαμηλή εμπιστοσύνη στα outputs.
Τι δείχνουν οι έρευνες για την υιοθέτηση
Παρά τις αποτυχίες, πολλά deployments πετυχαίνουν. Πάνω από το 80% των κυβερνητικών υπηρεσιών στις ΗΠΑ χρησιμοποιούν ήδη AI agents, ενώ έρευνα της IDC δείχνει ότι για τον δημόσιο τομέα το agentic AI έχει περάσει από την πειραματική φάση σε στρατηγική προτεραιότητα της ηγεσίας. Η Accenture τονίζει ότι οι επιχειρήσεις πρέπει να δείξουν γρήγορες, σταθερές νίκες για να χτίσουν momentum, περνώντας από το «κατακερματισμένο» στο «συστημικό» AI.
Η Salesforce, με πάνω από 20.000 παραγωγικά deployments AI agents, καταγράφει ένα κρίσιμο μάθημα: στο παραδοσιακό λογισμικό το 90% της δουλειάς ολοκληρώνεται πριν το launch, ενώ στους AI agents το 90% της δουλειάς έρχεται μετά την ανάπτυξη στην παραγωγή — με τη διαχείριση και τη συνεχή βελτίωσή τους. Σύμφωνα και με την Informatica, πάνω από τους μισούς που υιοθετούν agentic AI αναφέρουν προβλήματα ποιότητας και ανάκτησης δεδομένων ως εμπόδιο.
Οι 12 κανόνες αναλυτικά
Το πλαίσιο είναι vendor-neutral και εμπνευσμένο από τους 12 κανόνες του Edgar F. Codd για τα σχεσιακά συστήματα βάσεων δεδομένων, που είχε διατυπώσει το 1985. Οργανώνονται σε τέσσερα επίπεδα.
Θεμέλιο — σύστημα δεδομένων/context:
- Κανόνας 1 – Ενιαία ιχνηλασιμότητα δεδομένων: Κάθε δεδομένο πρέπει να έχει ιστορικό — από πού ήρθε, πώς άλλαξε, ποιος έχει δικαίωμα να το χρησιμοποιεί.
- Κανόνας 2 – Πρόσβαση σε real-time δεδομένα: Οι agents δουλεύουν με ζωντανά δεδομένα, όχι με παλιά snapshots.
- Κανόνας 3 – Σημασιολογικά μεταδεδομένα: Ο agent πρέπει να καταλαβαίνει τη σημασία των δεδομένων. Έννοιες όπως «πελάτης σε κίνδυνο» πρέπει να ορίζονται επίσημα, όχι να τις μαντεύει το μοντέλο.
Πυρήνας — σύστημα δράσης:
- Κανόνας 4 – Observability / ιχνηλασιμότητα συμπεριφοράς: Κάθε απόφαση καταγράφεται και εξηγείται.
- Κανόνας 5 – Συνεχής adversarial έλεγχος: Διαρκής δοκιμή σε edge cases και κακόβουλα σενάρια, σαν μόνιμο red-team.
- Κανόνας 6 – Multi-step reasoning: Ο agent σπάει έναν σύνθετο στόχο σε βήματα και προσαρμόζεται, αντί να ακολουθεί ένα στατικό script.
- Κανόνας 7 – Hybrid deterministic governance: Νομικά, οικονομικά και ζητήματα ασφάλειας πρέπει να είναι hard-coded, ώστε ο agent να μην μπορεί αρχιτεκτονικά να τα παραβιάσει.
Λειτουργίες — σύστημα εργασίας:
- Κανόνας 8 – Agnostic orchestration: Agents από διαφορετικούς vendors συντονίζονται χωρίς custom plumbing για κάθε συνδυασμό, αποφεύγοντας το lock-in.
- Κανόνας 9 – Συνέργεια ανθρώπου-agent: Όταν η βεβαιότητα είναι χαμηλή ή ανιχνεύεται συναισθηματικό context, ο agent παραδίδει στον άνθρωπο ομαλά, με πλήρες context.
- Κανόνας 10 – Sovereign agency: Η επιχείρηση κρατά τον έλεγχο σε data residency, επιλογή μοντέλου, ταυτότητα και πολιτική. Τίποτα δεν είναι trusted by default.
- Κανόνας 11 – Outcome-based parity: Οι agents μετριούνται με βάση επιχειρηματικά αποτελέσματα (έσοδα, λύση προβλημάτων, χρόνος που εξοικονομείται), όχι με το πλήθος των tasks.
Κορυφή — σύστημα εμπιστοσύνης:
- Κανόνας 12 – Trusted agency: Ο κανόνας με τη μεγαλύτερη βαρύτητα. Ο agent κερδίζει το δικαίωμα να δράσει μέσα από αλγοριθμική δικαιοσύνη (χωρίς bias), έλεγχο τοξικότητας περιεχομένου, σεβασμό στη συναίνεση και τα δικαιώματα δεδομένων, αποτροπή hallucinations σε κρίσιμα σενάρια, explainability, αξία για τον τελικό χρήστη και προκαθορισμένη ευθύνη του vendor.
Πού «σπάει» η αλυσίδα στην πράξη
Τα περισσότερα pilots δείχνουν εντυπωσιακά σε ελεγχόμενο περιβάλλον και καταρρέουν μόλις συναντήσουν πραγματικά δεδομένα παραγωγής. Χωρίς τους τρεις πρώτους κανόνες, ο agent δεν ξέρει τι επεξεργάζεται, δουλεύει σε ξεπερασμένα snapshots και δεν καταλαβαίνει τη σημασία των δεδομένων. Όταν βγάζει λάθος ή παράξενη απάντηση, χωρίς observability (κανόνας 4) κανείς δεν μπορεί να εξηγήσει τι συνέβη.
Συχνά δεν υπάρχουν guardrails μέχρι να συμβεί κάποιο incident, καθώς οι ομάδες παρακάμπτουν την hybrid deterministic governance επειδή «καθυστερεί» τη διαδικασία. Ζητήματα sovereign agency εμφανίζονται αργά, ειδικά σε ρυθμιζόμενους κλάδους, ενεργοποιώντας νομικούς ελέγχους που παγώνουν ή ακυρώνουν το deployment. Τέλος, πολλά projects αποτυγχάνουν γιατί η εμπιστοσύνη δεν χτίστηκε ποτέ: τα pilots εστιάζουν στην ταχύτητα και την δυνατότητα, και παραλείπουν τη δουλειά γύρω από fairness, συναίνεση και αποτροπή hallucinations. Μία κακή έξοδος σε ρυθμιζόμενο ή customer-facing περιβάλλον αρκεί για να τερματίσει ολόκληρο το πρόγραμμα.
Η άποψή μας στο Techblog
Πίσω από τον τεχνικό όρο «agentic AI» κρύβεται ένα πολύ απλό μήνυμα: η τεχνητή νοημοσύνη είναι τόσο καλή όσο τα δεδομένα και οι δικλείδες ασφαλείας πάνω στις οποίες στήνεται. Για όποιον δουλεύει σε εταιρεία που σχεδιάζει να βάλει AI agents σε εξυπηρέτηση πελατών, λογιστήριο ή πωλήσεις, το χρήσιμο συμπέρασμα είναι ότι το δύσκολο κομμάτι δεν είναι η αγορά του εργαλείου, αλλά η καθημερινή του διαχείριση μετά. Το πλαίσιο αυτό λειτουργεί καλά σαν checklist πριν κανείς εμπιστευτεί έναν αυτόνομο agent με αποφάσεις που έχουν πραγματικό κόστος.
