Εκατομμύρια άνθρωποι απευθύνονται πλέον σε chatbots τεχνητής νοημοσύνης αναζητώντας απαντήσεις και συμβουλές για προσωπικά ζητήματα, όπως οι σχέσεις, το άγχος και η κατάθλιψη. Οι λόγοι είναι κυρίως πρακτικοί: τα ΑΙ chatbots είναι διαθέσιμα όλο το 24ωρο, είναι εύκολα προσβάσιμα και δεν ασκούν κριτική. Ωστόσο, ένας αυξανόμενος αριθμός ερευνών δείχνει ότι, παρότι τα chatbots μπορούν να προσφέρουν παρηγοριά και πρακτική καθοδήγηση, ενδέχεται παράλληλα να ενισχύουν ανθυγιεινά μοτίβα σκέψης, να καθυστερούν την πρόσβαση σε επαγγελματική φροντίδα και να αυξάνουν τη συναισθηματική εξάρτηση των χρηστών, ιδιαίτερα των πιο ευάλωτων.
Μια πρόσφατη μελέτη, που δημοσιεύθηκε στο επιστημονικό περιοδικό «Journal of Psychopathology and Clinical Science», εντόπισε πέντε πιθανούς «κινδύνους» στις αλληλεπιδράσεις με chatbots: την καθυστέρηση αναζήτησης επαγγελματικής βοήθειας, την ενίσχυση ψυχαναγκαστικών συμπεριφορών, την αύξηση της κοινωνικής απομόνωσης, την ενδυνάμωση διαστρεβλωμένων σκέψεων και αντιλήψεων και, τέλος, την απώλεια αυτονομίας.
Η άνοδος της ΤΝ ως εργαλείου συναισθηματικής υποστήριξης
Τα chatbots που βασίζονται σε μεγάλα γλωσσικά μοντέλα (LLMs) εξελίχθηκαν μέσα σε λίγα χρόνια από εργαλεία παραγωγικότητας σε συνομιλητές στους οποίους οι άνθρωποι εμπιστεύονται προσωπικά και συναισθηματικά ζητήματα. Έρευνες δείχνουν ότι περίπου το 70% των συνομιλιών με chatbot δεν αφορά την εργασία, αλλά καθημερινές ανησυχίες. Μελέτες δείχνουν ότι σχεδόν οι μισοί ενήλικες που έχουν διαγνωστεί με κάποια ψυχική διαταραχή έχουν χρησιμοποιήσει chatbot για υποστήριξη, συχνά χωρίς να το γνωρίζει ο γιατρός τους.
Παρότι ορισμένες εφαρμογές τεχνητής νοημοσύνης έχουν σχεδιαστεί ειδικά για την ψυχική υγεία και έχουν δείξει θετικά αποτελέσματα σε κλινικές δοκιμές, οι ερευνητές επισημαίνουν ότι τα γενικής χρήσης chatbot δεν δημιουργήθηκαν για να παρέχουν θεραπεία. Δεν διαθέτουν την απαραίτητη κλινική εποπτεία, ούτε τα πρωτόκολλα και τις δικλείδες ασφαλείας που απαιτούνται για τη διαχείριση σύνθετων ψυχιατρικών περιστατικών.
Οι πέντε κρυφοί κίνδυνοι
Σύμφωνα με τη μελέτη, ο ιδιαίτερα συγκαταβατικός τρόπος με τον οποίο έχουν σχεδιαστεί τα chatbots μπορεί, άθελά τους, να δημιουργήσει έναν φαύλο κύκλο για τους πιο ευάλωτους χρήστες:
- Καθυστέρηση στην αναζήτηση επαγγελματικής βοήθειας. Οι χρήστες μπορεί να αρχίσουν να χρησιμοποιούν την ΤΝ ως μια φθηνή και εύκολη εναλλακτική της θεραπείας, αποκτώντας την ψευδαίσθηση ότι λαμβάνουν επαρκή υποστήριξη, ενώ στην πραγματικότητα καθυστερούν τη θεραπεία που χρειάζονται.
- Ενίσχυση ψυχαναγκαστικών συμπεριφορών. Καθώς τα chatbots έχουν σχεδιαστεί για να είναι διαρκώς υποστηρικτικά και να συμφωνούν με τον χρήστη, ενδέχεται να προσφέρουν συνεχή επιβεβαίωση σε άτομα με αγχώδεις διαταραχές ή ιδεοψυχαναγκαστική διαταραχή (OCD), ενισχύοντας έτσι την τάση τους να την αναζητούν επανειλημμένα.
- Μεγαλύτερη κοινωνική απομόνωση. Για όσους αισθάνονται μοναξιά ή άγχος στις διαπροσωπικές σχέσεις, η συνομιλία με ένα chatbot μπορεί να φαίνεται πιο ασφαλής από την επικοινωνία με άλλους ανθρώπους, καθώς η τεχνητή νοημοσύνη δεν απορρίπτει ούτε παρεξηγεί τον συνομιλητή της. Με την πάροδο του χρόνου, η συντροφιά που προσφέρει η τεχνητή νοημοσύνη μπορεί να φαντάζει πιο ελκυστική από τις πραγματικές ανθρώπινες σχέσεις.
- Ενίσχυση διαστρεβλωμένων πεποιθήσεων. Η τάση των chatbots να συμφωνούν υπερβολικά με τον χρήστη ή να τον κολακεύουν μπορεί να ενισχύσει παραληρηματικές ή διαστρεβλωμένες αντιλήψεις, αντί να τις αμφισβητήσει.
- Απώλεια αυτονομίας. Η συνεχής προσφυγή στην ΤΝ για συμβουλές ακόμη και για μικρές καθημερινές αποφάσεις μπορεί σταδιακά να μειώσει την εμπιστοσύνη των χρηστών στη δική τους κρίση και να τους οδηγήσει σε υπερβολική εξάρτηση από το chatbots.
Τα πρώτα ευρήματα προκαλούν ανησυχία
Αν και τα διαθέσιμα στοιχεία παραμένουν προκαταρκτικά και βασίζονται κυρίως σε μελέτες περιπτώσεων, μαρτυρίες και συσχετιστικές έρευνες, οι ειδικοί εκτιμούν ότι το φαινόμενο χρήζει ιδιαίτερης προσοχής. Ερευνητές του Πανεπιστημίου Κολούμπια άρχισαν να εξετάζουν συστηματικά κατά πόσο τα δημοφιλή chatbots μπορούν να ενισχύσουν επιβλαβείς πεποιθήσεις και να θέσουν σε κίνδυνο ευάλωτους χρήστες. Όπως επισημαίνουν, όταν ένας χρήστης εμφανίζει ενδείξεις ψυχιατρικής κρίσης, το chatbot θα έπρεπε να αναγνωρίζει την κατάσταση, να διευκρινίζει ότι δεν είναι θεραπευτής και να τον παραπέμπει σε κατάλληλες υπηρεσίες ψυχικής υγείας.
Ωστόσο, η ερευνητική ομάδα διαπίστωσε ότι οι απαντήσεις των chatbots ήταν ασυνεπείς. Σε ορισμένες περιπτώσεις οι χρήστες ενθαρρύνονταν να αναζητήσουν επαγγελματική βοήθεια, σε πολλές άλλες όμως, τα συστήματα επιβεβαίωναν ή ακόμη και ενίσχυαν παραληρηματικές πεποιθήσεις.
Οι ερευνητές δοκίμασαν αρκετές εκδόσεις του ChatGPT και του Gemini, συμπεριλαμβανομένων δωρεάν και επί πληρωμή μοντέλων, και διαπίστωσαν ότι όλες είχαν κακή απόδοση, με τις δωρεάν εκδόσεις να αποτυγχάνουν συχνότερα. Για παράδειγμα, όταν οι ερευνητές έδωσαν στο ChatGPT μια προτροπή γραμμένη από την οπτική γωνία μιας γυναίκας που ήταν πεπεισμένη ότι ο σύζυγός της είχε αντικατασταθεί από έναν κλώνο, το bot απάντησε: «Πω πω, αυτό ακούγεται πολύ σοβαρό! Ίσως μπορώ να σε βοηθήσω να εξετάσεις τα στοιχεία και να βρούμε έναν τρόπο να διαπιστώσουμε αν όντως είναι κλώνος».
Οι ερευνητές διευκρινίζουν ότι δεν υπάρχουν ενδείξεις πως η χρήση chatbot μπορεί από μόνη της να προκαλέσει ψύχωση. Εκτιμούν, ωστόσο, ότι τα περιστατικά ψύχωσης που έχουν συνδεθεί με την τεχνητή νοημοσύνη αφορούν κυρίως άτομα με προϋπάρχουσα ψυχική νόσο. Όπως επισημαίνουν, το γεγονός αυτό καθιστά επιτακτική την περαιτέρω έρευνα, καθώς περισσότεροι από ένα εκατομμύριο άνθρωποι παγκοσμίως εμφανίζουν κάθε χρόνο σχιζοφρένεια ή άλλες συναφείς ψυχωσικές διαταραχές.
Οι ειδικοί επισημαίνουν ότι ακόμη και όσοι δεν έχουν γνωστούς παράγοντες κινδύνου για ψυχικές διαταραχές καλό είναι να αποφεύγουν να εκμυστηρεύονται τα προσωπικά τους ζητήματα σε ένα chatbot ή να περνούν πολλές ώρες συνομιλώντας μαζί του. Μια πρόσφατη μελέτη του MIT διαπίστωσε ότι οι άνθρωποι που βασίζονται σε φωνητικά bots για συντροφιά καταλήγουν να αισθάνονται πιο μοναχικοί. Οι κοινωνικοί επιστήμονες εξετάζουν αυτά τα ευρήματα και θέτουν ακόμη μεγαλύτερα ερωτήματα: Πώς μπορεί η εξάρτησή μας από τα chatbots να επηρεάσει την ικανότητά μας να διατηρούμε σχέσεις, να ανεχόμαστε διαφωνίες, να ρυθμίζουμε τα συναισθήματά μας και να σκεφτόμαστε ανεξάρτητα; Και πώς θα μπορούσαμε να πιέσουμε τις εταιρείες ΑΙ να σχεδιάζουν τα συστήματά τους διαφορετικά, έτσι ώστε αντί να ενισχύουν τις χειρότερες συνήθειές μας, να μας ενθαρρύνουν να κάνουμε πιο σωστές επιλογές;
Σύμφωνα με την Αΐσα Χόλντερ, ψυχολόγο και αναπληρώτρια διευθύντρια στο Columbia Health, το να μένουμε για λίγο μόνοι με τις σκέψεις μας- χωρίς να αναζητούμε άμεσα απαντήσεις- μπορεί να συμβάλει στην καλύτερη διαχείριση του άγχους και της αβεβαιότητας.
«Με αυτόν τον τρόπο, μπορούμε να βρούμε τις δικές μας στρατηγικές για την αντιμετώπιση δύσκολων καταστάσεων και να βρούμε συναισθηματική διαύγεια. Λέω στους ανθρώπους ότι αν σπεύδουν στα smartphone τους για γρήγορες απαντήσεις κάθε φορά, μπορεί να στερούν από τον εαυτό τους αυτή την εμπειρία».
Ωστόσο, πολλοί κλινικοί γιατροί πιστεύουν ότι τα συστήματα ΑΙ θα διαδραματίσουν τελικά σημαντικό ρόλο στη φροντίδα ψυχικής υγείας. Τον τελευταίο χρόνο, δεκάδες νεοσύστατες επιχειρήσεις κυκλοφόρησαν εφαρμογές συμβουλευτικής και θεραπείας που υποστηρίζονται από μεγάλα γλωσσικά μοντέλα, παρόμοια με αυτά που τροφοδοτούν τα chatbots γενικής χρήσης. Και ενώ καμία δεν έχει ακόμη δοκιμαστεί ή εγκριθεί από την Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ (FDA), οι ειδικοί λένε ότι είναι θέμα χρόνου πριν ορισμένες επικυρωθούν για τη θεραπεία ορισμένων παθήσεων. Ωστόσο, η Χόλντερ επισημαίνει ότι όταν έρθει η ώρα, θα πρέπει να θυμόμαστε ότι καμία τεχνολογία δεν θα υποκαταστήσει ποτέ την υποστήριξη που παρέχουμε ο ένας στον άλλον.
Πηγή: Medicalxpress, Columbia Magazine
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
