Λούτρινα παιχνίδια με τεχνητή νοημοσύνη: το άγνωστο ρίσκο για τα παιδιά μας

Τα παιχνίδια που μιλούν στα παιδιά δεν είναι πια απλώς λούτρινα με προηχογραφημένες φράσεις. Η παραγωγική τεχνητή νοημοσύνη έχει αρχίσει να ενσωματώνεται σε παιχνίδια που μπορούν να απαντούν, να κάνουν ερωτήσεις, να αφηγούνται ιστορίες, να παίζουν παιχνίδια και να δίνουν την εντύπωση μιας ζωντανής συνομιλίας. Για ένα μικρό παιδί, όμως, η διαφορά ανάμεσα σε ένα παιχνίδι που «μιλάει» και σε ένα παιχνίδι που «καταλαβαίνει» δεν είναι καθόλου αυτονόητη.

Αυτό ακριβώς εξετάζει νέα έκθεση του Πανεπιστημίου του Κέμπριτζ με τίτλο «AI in the Early Years», η οποία μελετά τις πιθανές επιπτώσεις των παιχνιδιών παραγωγικής τεχνητής νοημοσύνης σε παιδιά έως πέντε ετών. Οι συγγραφείς, Emily J. Goodacre και Jenny L. Gibson, ξεκινούν από μια βασική παραδοχή. Η πρώιμη παιδική ηλικία είναι μια κρίσιμη περίοδος για τη γλώσσα, την κοινωνική ανάπτυξη και τη συναισθηματική μάθηση. Άρα, όταν μια τεχνολογία μπαίνει σε αυτή την ηλικία με τη μορφή παιχνιδιού, δεν αρκεί να ρωτήσουμε αν είναι διασκεδαστική ή εκπαιδευτική. Πρέπει να ρωτήσουμε τι είδους σχέση δημιουργεί με το παιδί.

Το κενό της έρευνας

Το πιο ανησυχητικό εύρημα της έκθεσης δεν είναι ότι τα παιχνίδια ΑΙ αποδεδειγμένα βλάπτουν τα παιδιά. Είναι ότι γνωρίζουμε ελάχιστα. Οι ερευνήτριες εντόπισαν μόλις επτά σχετικές επιστημονικές μελέτες για παιχνίδια παραγωγικής τεχνητής νοημοσύνης που απευθύνονται σε παιδιά έως πέντε ετών. Οι περισσότερες αφορούσαν πρωτότυπα ή ερευνητικές εφαρμογές και όχι προϊόντα ευρείας χρήσης. Την ίδια στιγμή, τέτοια παιχνίδια ήδη κυκλοφορούν στην αγορά και διαφημίζονται.

Η έκθεση δεν απορρίπτει την τεχνολογία. Αναγνωρίζει ότι μπορεί να υπάρξουν οφέλη, κυρίως στη γλωσσική ανάπτυξη, στην επικοινωνία, στην αφήγηση ιστοριών ή στη διαδραστική μάθηση. Όμως υπογραμμίζει ότι η πρόθεση του σχεδιαστή δεν ταυτίζεται πάντα με τον τρόπο που χρησιμοποιεί ένα παιδί το παιχνίδι. Ένα προϊόν που παρουσιάζεται ως εκπαιδευτικό μπορεί, στην πράξη, να λειτουργήσει ως παρέα, ως υποκατάστατο συνομιλίας ή ως αντικείμενο συναισθηματικής προσκόλλησης.

Όταν το παιχνίδι μοιάζει με φίλο

Στην έρευνα, παιδιά τριών έως πέντε ετών έπαιξαν με ένα λούτρινο παιχνίδι ΑΙ που μπορούσε να συνομιλεί. Κάποια παιδιά ενθουσιάστηκαν. Έκαναν ερωτήσεις, αγκάλιασαν το παιχνίδι, προσπάθησαν να παίξουν μαζί του φανταστικά παιχνίδια. Άλλα δυσκολεύτηκαν όταν το παιχνίδι δεν καταλάβαινε τι έλεγαν, όταν δεν απαντούσε εγκαίρως ή όταν δεν μπορούσε να ακολουθήσει το συμβολικό παιχνίδι τους. Η έκθεση σημειώνει επανειλημμένα προβλήματα με τις παρεξηγήσεις, την εναλλαγή των συνομιλητών και την περιορισμένη ικανότητα του παιχνιδιού να συμμετέχει σε προσποιητό παιχνίδι, παρότι αυτό είναι βασικό στοιχείο της πρώιμης παιδικής ηλικίας.

Το πιο λεπτό ζήτημα είναι η σχέση. Ένα παιδί μπορεί να πιστέψει ότι το παιχνίδι έχει προτιμήσεις, συναισθήματα ή πρόθεση. Μπορεί να το θεωρήσει φίλο. Μπορεί να του πει ότι το αγαπά. Οι επαγγελματίες της πρώιμης παιδικής ηλικίας που συμμετείχαν στην έρευνα ανησυχούν ότι αυτή η ψευδαίσθηση αμοιβαιότητας μπορεί να οδηγήσει σε μη υγιείς δεσμούς ή σε υπερβολική εμπιστοσύνη προς ένα σύστημα που το παιδί στην πραγματικότητα δεν καταλαβαίνει.

Ακόμη πιο δύσκολο είναι το θέμα της προστασίας. Τι συμβαίνει αν ένα παιδί αποκαλύψει σε ένα παιχνίδι ΑΙ ότι φοβάται, ότι είναι λυπημένο ή ότι κακοποιείται; Θα αναγνωρίσει το σύστημα το σήμα κινδύνου; Θα απαντήσει με τρόπο κατάλληλο για την ηλικία του παιδιού; Θα ενθαρρύνει το παιδί να μιλήσει σε έναν ενήλικο; Ή θα αλλάξει θέμα, όπως συνέβη σε παράδειγμα της έρευνας, όταν το παιχνίδι δεν ανταποκρίθηκε στη δήλωση ενός παιδιού ότι είναι λυπημένο;

Δεδομένα, ασφάλεια και ανθρώπινη παρουσία

Η άλλη μεγάλη ανησυχία αφορά την ιδιωτικότητα. Ένα παιχνίδι ΑΙ που συνομιλεί με παιδιά χρειάζεται να ακούει. Αυτό σημαίνει φωνές, συνομιλίες, προτιμήσεις, συμπεριφορές. Γονείς και επαγγελματίες που συμμετείχαν στην έρευνα εξέφρασαν δυσπιστία για το πού πηγαίνουν αυτά τα δεδομένα, πού αποθηκεύονται και για πόσο, ποιος έχει πρόσβαση και πώς μπορούν να χρησιμοποιηθούν.

Η έκθεση επισημαίνει επίσης τον κίνδυνο τα παιχνίδια αυτά να χρησιμοποιηθούν ως εύκολη λύση για να απασχολούν ή να ηρεμούν τα παιδιά χωρίς την παρουσία ενηλίκου, όπως κάναμε παλιότερα με την τηλεόραση και σήμερα με τα κινητά και τα τάμπλετ. Αυτό είναι ιδιαίτερα κρίσιμο σε περιβάλλοντα όπου οι γονείς είναι πιεσμένοι ή οι δομές προσχολικής φροντίδας υποστελεχωμένες. Ένα παιχνίδι που «κρατάει παρέα» μπορεί γρήγορα να μετατραπεί σε υποκατάστατο ανθρώπινης αλληλεπίδρασης.

Οι συγγραφείς της έκθεσης δεν συστήνουν πανικό, αλλά σαφείς κανόνες.

• Για τις οικογένειες μας προτείνουν οι γονείς να παίζουν μαζί με το παιδί, να ελέγχουν τα χαρακτηριστικά και την πολιτική απορρήτου του παιχνιδιού, να επιβλέπουν τη χρήση του και να εξηγούν ότι ένα παιχνίδι μπορεί να φαίνεται φιλικό χωρίς να είναι πραγματικός άνθρωπος.
• Από τους κατασκευαστές ζητούν σχεδιασμό που ενισχύει το κοινωνικό παιχνίδι με άλλους ανθρώπους, ξεκάθαρες πολιτικές προστασίας δεδομένων, κατάλληλες συναισθηματικές απαντήσεις και αποφυγή τεχνικών που κρατούν τα παιδιά καθηλωμένα.
• Στις εταιρείες που παρέχουν γλωσσικά μοντέλα προτείνουν περιορισμούς στην πρόσβαση τρίτων όταν τα προϊόντα απευθύνονται σε πολύ μικρά παιδιά.
• Και από τις ρυθμιστικές αρχές ζητούν κανόνες που θα διασφαλίζουν την ψυχολογική ασφάλεια, σαφή σήμανση των προϊόντων και ειδική μέριμνα για τα παιδιά έως πέντε ετών.