Η τεχνητή νοημοσύνη ως νέο κοινωνικό ζήτημα: Τα 15 μηνύματα της παπικής εγκυκλίου

Η πρώτη μεγάλη παπική παρέμβαση για την τεχνητή νοημοσύνη δεν αντιμετωπίζει την AI ως τεχνολογική καινοτομία, αλλά ως νέο κοινωνικό ζήτημα. Στην εγκύκλιο Magnifica Humanitas (Υπέροχη Ανθρωπότητα), ο Πάπας Λέων ΙΔ΄ τοποθετεί την ψηφιακή επανάσταση δίπλα στις μεγάλες μεταβολές που σημάδεψαν τη νεωτερικότητα: την εργασία, την οικονομία, την ανισότητα, την εξουσία, τον πόλεμο, την αλήθεια.

Το κεντρικό ερώτημα δεν είναι αν η τεχνητή νοημοσύνη είναι «καλή» ή «κακή», αλλά ποιον άνθρωπο υπηρετεί και ποια κοινωνία οικοδομεί. Η εγκύκλιος αναγνωρίζει τις δυνατότητες της τεχνολογίας, αλλά προειδοποιεί για τη συγκέντρωση ισχύος σε λίγους, την εμπορευματοποίηση των δεδομένων, την απορρύθμιση της εργασίας, τη χειραγώγηση της δημόσιας σφαίρας και τη χρήση της ΤΝ στον πόλεμο.

Πάνω απ’ όλα, το κείμενο επιμένει ότι η ανθρώπινη αξιοπρέπεια δεν μπορεί να γίνει μεταβλητή ενός αλγορίθμου. Με αυτήν την αφετηρία, τα 15 σημεία που ακολουθούν συνοψίζουν τα βασικά μηνύματα της εγκυκλίου και δείχνουν γιατί η συζήτηση για την τεχνητή νοημοσύνη είναι, τελικά, συζήτηση για τη δημοκρατία, την κοινωνική δικαιοσύνη και το μέλλον του ανθρώπου.

1. Η ΤΝ ως το νέο “κοινωνικό ζήτημα” της εποχής
   Ο Πάπας τοποθετεί την τεχνητή νοημοσύνη, την ψηφιοποίηση και τη ρομποτική δίπλα στα μεγάλα ιστορικά κοινωνικά ερωτήματα που αντιμετώπισε η Εκκλησία από τη Rerum Novarum («Των Νέων Πραγμάτων» του Πάπα Λέοντα ΙΓ’) και μετά. Δεν τη βλέπει ως τεχνικό θέμα, αλλά ως αλλαγή εποχής.
2. Το δίλημμα δεν είναι «υπέρ ή κατά της τεχνολογίας».
   Το κρίσιμο ερώτημα είναι τι είδους κοινωνία οικοδομούμε: μια νέα Βαβέλ, βασισμένη στην ισχύ, την ομοιομορφία και την κυριαρχία, ή μια Ιερουσαλήμ, βασισμένη στην κοινή ευθύνη, την κοινωνία και το κοινό καλό.
3. Η τεχνολογία δεν είναι από μόνη της εχθρός του ανθρώπου
   Το κείμενο αποφεύγει τον τεχνοφοβικό τόνο. Αναγνωρίζει ότι η τεχνολογία μπορεί να θεραπεύσει, να εκπαιδεύσει, να συνδέσει και να προστατεύσει, αλλά προειδοποιεί ότι μπορεί επίσης να αποκλείσει, να διαιρέσει και να γεννήσει νέες αδικίες.
4. Η τεχνολογία στην πράξη δεν είναι ουδέτερη
   Η τεχνολογία παίρνει τα χαρακτηριστικά της από εκείνους που τη σχεδιάζουν, τη χρηματοδοτούν, τη ρυθμίζουν και τη χρησιμοποιούν. Άρα το ερώτημα δεν είναι μόνο «πώς χρησιμοποιούμε την ΤΝ», αλλά και «ποια αντίληψη για τον άνθρωπο έχει ενσωματωθεί μέσα στα συστήματα».
5. Η ανθρώπινη αξιοπρέπεια είναι το απόλυτο κριτήριο
   Η ΤΝ πρέπει να κρίνεται με βάση το αν υπηρετεί ή υπονομεύει την αξιοπρέπεια του ανθρώπινου προσώπου. Αν ένα σύστημα αποκλείει ανθρώπους, αξιολογεί κάποιες ζωές ως λιγότερο άξιες ή δεν επιτρέπει προσφυγή και διόρθωση, τότε το πρόβλημα δεν είναι απλώς τεχνικό αλλά ηθικό.
6. Η συγκέντρωση ψηφιακής ισχύος σε λίγους είναι κεντρική απειλή
   Πλατφόρμες, δεδομένα, υποδομές και υπολογιστική ισχύς συγκεντρώνονται σε μεγάλους οικονομικούς και τεχνολογικούς δρώντες, συχνά πέρα από τον αποτελεσματικό δημόσιο έλεγχο. Αυτό δημιουργεί νέες ανισότητες, εξαρτήσεις και μορφές χειραγώγησης.
7. Δεν αρκεί μια “ηθική ΤΝ” αν η ηθική της ορίζεται από λίγους
   Ο Πάπας δεν περιορίζεται στο γνωστό αίτημα για “ευθυγράμμιση” της ΤΝ με ανθρώπινες αξίες. Ρωτά ποιος ορίζει αυτές τις αξίες και ζητά συμμετοχή, λογοδοσία, κοινωνική δικαιοσύνη και πολιτική εποπτεία.
8. Τα δεδομένα πρέπει να αντιμετωπιστούν ως κοινό ή διαμοιραζόμενο αγαθό
   Τα δεδομένα δεν πρέπει να μείνουν αποκλειστικά στα χέρια ιδιωτικών συμφερόντων. Επειδή παράγονται από πολλούς και επηρεάζουν πολλούς, χρειάζονται ρύθμιση, συμμετοχή και προστασία του κοινού καλού.
9. Η αλήθεια είναι κοινό αγαθό και προϋπόθεση της δημοκρατίας
   Η ΤΝ συνδέεται με την παραπληροφόρηση, τη δημόσια σφαίρα, τη δημοσιογραφία, την επαλήθευση και την ποιότητα της δημοκρατίας.
10. Χρειάζεται νέα εκπαιδευτική συμμαχία για την ψηφιακή εποχή
    Η εγκύκλιος δίνει κεντρική θέση στην εκπαίδευση: σχολεία, οικογένειες, πανεπιστήμια, πολιτεία και κοινότητες πρέπει να μάθουν στους νέους όχι μόνο πώς να χρησιμοποιούν την ΤΝ, αλλά και πότε να μην τη χρησιμοποιούν.
11. Η προστασία των παιδιών είναι ξεχωριστό και επείγον ζήτημα
    Το κείμενο μιλά για πρώιμη έκθεση σε ψηφιακές συσκευές, εθισμό, cyberbullying, grooming, σεξουαλική εκμετάλλευση ανηλίκων και ΤΝ εργαλεία που μπορούν να χειραγωγούν εικόνες και βίντεο. Ζητά και ευθύνη των πλατφορμών, όχι μεταφορά όλου του βάρους στις οικογένειες.
12. Η εργασία πρέπει να παραμείνει μέτρο αξιοπρέπειας, όχι απλό κόστος
    Η εγκύκλιος συνδέει την ψηφιακή μετάβαση με την αξία της εργασίας, την ανεργία, τις οικογένειες και τους νέους. Η καινοτομία δεν πρέπει να μετριέται μόνο με παραγωγικότητα, αλλά με το αν ενισχύει ή διαλύει αξιοπρεπείς κοινωνικούς δεσμούς.
13. Η ΤΝ έχει αθέατη υλική και εργασιακή βάση
    Πίσω από τη «ροή» της υπολογιστικής ισχύος υπάρχουν εξορύξεις, σπάνιες γαίες, επικίνδυνες συνθήκες εργασίας, ακόμη και εργαζόμενα παιδιά και έφηβοι σε ορισμένες περιοχές του κόσμου. Η τεχνολογική πρόοδος δεν είναι άυλη.
14. Ο ψηφιακός αποικιοκρατισμός είναι νέο όνομα παλιάς εξουσίας
    Δημιουργουνται νέες μορφές αποικιοκρατίας μέσω δεδομένων: υγείας, γενετικών, δημογραφικών, επιδημιολογικών. Όποιος ελέγχει τα δεδομένα ολόκληρων πληθυσμών αποκτά δύναμη πάνω στο μέλλον τους.
15. Η χρήση της ΤΝ στον πόλεμο αποτελεί κόκκινη γραμμή
    Χάρη στην ΤΝ οι αποφάσεις ζωής και θανάτου μπορούν να παίρνονται πιο γρήγορα, πιο απρόσωπα και να μην υπάρχει λογοδοσία. Η εγκύκλιος ζητά να μη μεταβιβάζεται η χρήση φονικής ισχύος σε αδιαφανείς ή αυτοματοποιημένες διαδικασίες και να υπάρχει ουσιαστικός ανθρώπινος έλεγχος.