ΗΠΑ: Τα deepfakes των ενδιάμεσων εκλογών

Λίγες ημέρες πριν από τις ενδιάμεσες εκλογές της 3ης Νοεμβρίου στις ΗΠΑ, οι υποψήφιοι για το Κογκρέσο βρίσκονται αντιμέτωποι με μια νέα γενιά προεκλογικής παραπληροφόρησης. Βίντεο που δημιουργούνται ή παραποιούνται με τη βοήθεια της Τεχνητής Νοημοσύνης εμφανίζουν πραγματικούς ανθρώπους να διατυπώνουν ανυπόστατες κατηγορίες εναντίον πολιτικών.

Δύο από τα πιο πρόσφατα περιστατικά αφορούν τους Δημοκρατικούς υποψηφίους για τη Γερουσία Τζέιμς Ταλαρίκο στο Τέξας και Σέροντ Μπράουν στο Οχάιο. Στην περίπτωση του Μπράουν, ο οποίος διεκδικεί την έδρα απέναντι στον Ρεπουμπλικανό γερουσιαστή Τζον Χάστεντ, το βίντεο μιμείται τηλεοπτικό δελτίο ειδήσεων και περιλαμβάνει φωτογραφίες της Χάγια Άκμπικ, η οποία είχε εργαστεί ως ασκούμενη στο γραφείο του πριν από αρκετά χρόνια, καθώς και άλλων πρώην συνεργατών του. Η ίδια δήλωσε στο Associated Press ότι όλες οι καταγγελίες που της αποδίδονται είναι απολύτως κατασκευασμένες. «Είναι το όνομά μου, είναι η φήμη μου», είπε, επισημαίνοντας ότι η ψευδής κατηγορία πλήττει ταυτόχρονα την ίδια και τον υποψήφιο.

Ακόμη πιο σύνθετη είναι η υπόθεση του Ταλαρίκο, ο οποίος αντιμετωπίζει τον Ρεπουμπλικανό Κεν Πάξτον στο Τέξας. Ένα βίντεο εμφανίζει έναν άνδρα να μιλά απευθείας στην κάμερα, ισχυριζόμενο ότι υπήρξε μαθητής του Ταλαρίκο και κατηγορώντας τον για σεξουαλική κακοποίηση. Ο Ταλαρίκο είχε εργαστεί ως καθηγητής στο γυμνάσιο Ρόουντς του Σαν Αντόνιο πριν ασχοληθεί με την πολιτική.

Σύμφωνα με την έρευνα του PolitiFact, το βίντεο φαίνεται να χρησιμοποιεί την ταυτότητα ενός πραγματικού πρώην μαθητή, ο οποίος διατηρεί λογαριασμό στο Facebook. Ο άνδρας είχε μάλιστα εκφραστεί θετικά για τον Ταλαρίκο σε προηγούμενες αναρτήσεις του. Όταν επικοινώνησαν μαζί του οι ελεγκτές γεγονότων του Lead Stories, διέψευσε ότι εμφανίζεται στο βίντεο ή ότι έχει διατυπώσει οποιαδήποτε σχετική κατηγορία.

Η NewsGuard εντόπισε ενδείξεις συνθετικής παραγωγής, όπως αφύσικες κινήσεις των ματιών και σχεδόν ακίνητες εκφράσεις προσώπου. Εργαλείο ανίχνευσης εκτίμησε στο 98% την πιθανότητα να πρόκειται για deepfake, δηλαδή βίντεο κατασκευασμένο ή αλλοιωμένο με Τεχνητή Νοημοσύνη ώστε κάποιος να φαίνεται ότι λέει ή κάνει πράγματα που δεν συνέβησαν ποτέ. Το ποσοστό, ωστόσο, αποτελεί εκτίμηση του εργαλείου και όχι ανεξάρτητη απόδειξη της προέλευσης του βίντεο.

Μιλώντας στο Associated Press, ο καθηγητής Χάνι Φαρίντ του Dartmouth College χαρακτήρισε το βίντεο του Μπράουν σχετικά απλή τεχνικά παραποίηση, ενώ εκτίμησε ότι εκείνο του Ταλαρίκο πιθανότατα δημιουργήθηκε με AI.

Τα ίχνη της ρωσικής προπαγάνδας

Ο καθηγητής του Πανεπιστημίου Κλέμσον Ντάρεν Λίνβιλ, ειδικός στην ψηφιακή εγκληματολογική ανάλυση, σε δηλώσεις του στο PolitiFact συνδέει τα βίντεο με το Storm-1516, ένα ρωσικό δίκτυο παραπληροφόρησης που είχε στοχοποιήσει το 2024 την τότε υποψήφια των Δημοκρατικών για την προεδρία, Κάμαλα Χάρις, και τον υποψήφιο αντιπρόεδρό της, Τιμ Γουόλς.

Ο Λίνβιλ διαπίστωσε ότι ορισμένοι από τους λογαριασμούς που διέδωσαν τα πρόσφατα βίντεο είχαν συμμετάσχει και σε προηγούμενες επιχειρήσεις του Storm-1516. Κατά την εκτίμησή του, το δίκτυο αξιοποιεί συστηματικά πρόσωπα με διαδικτυακή επιρροή για τη διάδοση ψευδών αφηγημάτων. Η ρωσική πρεσβεία στην Ουάσιγκτον δεν απάντησε στο αίτημα του Associated Press για σχόλιο, ενώ στο παρελθόν έχει αρνηθεί ότι η Ρωσία παρεμβαίνει στις αμερικανικές εκλογές.

Οι δύο αυτές υποθέσεις δεν είναι οι μοναδικές. Όπως αναφέρει ο βρετανικός Guardian, νωρίτερα τον Οκτώβριο μια άλλη ψευδής ιστορία για τον Ταλαρίκο ισχυριζόταν ότι είχε νοσηλευτεί σε ψυχιατρική κλινική στο Οχάιο, ενώ στην πραγματικότητα ανάρρωνε από γρίπη στο σπίτι του. Το γραφείο του δημοσιοποίησε βίντεο από κάμερα ασφαλείας για να διαψεύσει τον ισχυρισμό.

Το Digital Democracy Institute of the Americas (DDIA) παρακολούθησε τη διάδοση της συγκεκριμένης ιστορίας και κατέγραψε πώς μεταβλήθηκε καθώς πέρασε σε ισπανόφωνα μέσα και λογαριασμούς. Η αρχική αναφορά σε δήθεν νοσηλεία εξελίχθηκε σε ψευδείς ισχυρισμούς ότι ο υποψήφιος είχε αποπειραθεί να αυτοκτονήσει. Η διάψευση του αρχικού ισχυρισμού δεν κάλυπτε πλέον όλες τις μεταγενέστερες εκδοχές της.

Η Τεχνητή Νοημοσύνη χρησιμοποιείται και στην πολιτική διαφήμιση. Σε διαφήμιση του Κεν Πάξτον, ο Ταλαρίκο εμφανίστηκε με συνθετικό οπτικό υλικό να ξαναγράφει τη Βίβλο. Σύμφωνα με το Axios, οι προεκλογικές καμπάνιες αξιοποιούν την AI για να αποδίδουν στους πολιτικούς αντιπάλους τους δηλώσεις που δεν έκαναν ποτέ.

Τα αρχικά βίντεο για τον Ταλαρίκο και τον Μπράουν αφαιρέθηκαν από το X και οι λογαριασμοί που τα δημοσίευσαν ανεστάλησαν. Ωστόσο, σύμφωνα με το Associated Press, αντίγραφα εξακολουθούν να κυκλοφορούν μέχρι σήμερα, ορισμένα με εκατοντάδες κοινοποιήσεις, μόλις λίγες ημέρες πριν ανοίξουν οι κάλπες.