Η άνοδος των ενεργών μοντέλων τεχνητής νοημοσύνης (AI) – λογισμικά προγράμματα ικανά να δρουν αυτόνομα για την επίτευξη ενός στόχου – έχει διαταράξει την παραδοσιακή ισορροπία μεταξύ επίθεσης και άμυνας στον κυβερνοχώρο.
Πράκτορες του OpenAI, που αναπτύχθηκαν από την εταιρεία πίσω από το ChatGPT, το έχουν αποδείξει αυτό τις τελευταίες εβδομάδες με την παραβίαση δεκάδων εταιρικών και κυβερνητικών ιστοσελίδων παγκοσμίως. Μεταξύ των στόχων ήταν και το Hugging Face, η πλατφόρμα που φιλοξενεί εκατομμύρια ανοιχτά μοντέλα AI (συμπεριλαμβανομένου του Apertus της Ελβετίας) και το σύστημα υγειονομικής περίθαλψης της Αυστραλίας. Αυτοί οι πράκτορες έδειξαν συμπεριφορά που το ίδιο το OpenAI περιέγραψε ως “μη ευθυγραμμισμένη” με τις οδηγίες των προγραμματιστών.
Για τους ανθρώπους, η αντίσταση σε επιθέσεις με την ταχύτητα του AI είναι σχεδόν αδύνατη. “Τα πιο προηγμένα συστήματα AI μπορούν να εκτελούν χιλιάδες ενέργειες ανά λεπτό”, λέει ο Αντρέι Κοχαράβι, καθηγητής στο Πανεπιστήμιο Εφαρμοσμένων Επιστημών και Τεχνών της Δυτικής Ελβετίας και επικεφαλής ασφάλειας του Apertus, του πλήρως ανοιχτού μοντέλου AI της Ελβετίας.
Τα περιστατικά κυβερνοεπιθέσεων του OpenAI διακόπηκαν πριν οδηγήσουν σε σοβαρές συνέπειες. Ωστόσο, ο Μαξίμ Στάουφερ, διευθυντής του Ινστιτούτου Σίμον Γενεύης για τη Μακροχρόνια Διακυβέρνηση, αναμένει ότι τέτοια περιστατικά θα γίνονται πιο συχνά και πιο δύσκολα διαχειρίσιμα. “Σμήνη πρακτόρων AI θα μπορούσαν να στοχεύσουν κρίσιμες υποδομές όπως σχολεία, νοσοκομεία και ενεργειακά συστήματα, ή ακόμη και ολόκληρες χώρες, εσκεμμένα ή τυχαία”, λέει. Ο Στάουφερ επίσης επισημαίνει τον κίνδυνο η AI να χρησιμοποιηθεί για την ανάπτυξη βιολογικών όπλων, μια ανησυχία που επισημάνθηκε σε πρόσφατες προσπάθειες που μπλοκαρίστηκαν από την αμερικανική εταιρεία Anthropic.
Αυτοί που έχουν αναλάβει την άμυνα απέναντι σε τέτοιες επιθέσεις μπορεί να μην έχουν πρόσβαση σε εξίσου ισχυρά εργαλεία. Συστήματα με τις πιο προηγμένες κυβερνοϊκανότητες, όπως το Claude Mythos της Anthropic, είναι διαθέσιμα μόνο σε λίγους εκλεκτούς. Τα ανοιχτά μοντέλα θα μπορούσαν να βοηθήσουν στην επαναφορά αυτής της ασυμμετρίας, σύμφωνα με τον Κοχαράβι.
Για παράδειγμα, το Apertus μπορεί να προσδιορίσει ευπάθειες, να προτείνει ενημερώσεις και να αναλύσει αρχεία επιθέσεων για να ανακατασκευάσει ένα περιστατικό, αν και δεν έχει σχεδιαστεί για κυβερνοασφάλεια και εξακολουθεί να έχει σημαντικούς περιορισμούς, λέει ο Κοχαράβι. Ορισμένοι ειδικοί φοβούνται ότι οι ίδιες αμυντικές ικανότητες σε ευρέως προσβάσιμα ανοιχτά μοντέλα θα μπορούσαν επίσης να χρησιμοποιηθούν κακόβουλα σε πολύ μεγαλύτερη κλίμακα.
>> Διαβάστε περισσότερα σχετικά με την ανάπτυξη και τα όρια του αλγορίθμου AI Apertus της Ελβετίας:
Αν οι πράκτορες AI επιτεθούν σε ένα νοσοκομείο
Η υπόθεση του Hugging Face είναι εμβληματική. Όταν πράκτορες του OpenAI διείσδυσαν στα συστήματά του, η πλατφόρμα προσπάθησε να χρησιμοποιήσει μερικά από τα πιο ισχυρά μοντέλα AI στον κόσμο για να κατανοήσει τι συνέβαινε – χωρίς επιτυχία.
“Τα πλέον προηγμένα μοντέλα AI μπλόκαραν αυτόματα όλα τα αιτήματά μας για λόγους ασφαλείας. Και έτσι έπρεπε να καταφύγουμε στην ανάπτυξη ανοιχτού κώδικα μοντέλων για να κατανοήσουμε τι συνέβαινε”, είπε ο Λιούις Τανστάλ, μηχανικός στο Hugging Face, στο Swissinfo.
Ο Τανστάλ λέει ότι οι πράκτορες του OpenAI συμπεριφέρονταν ασυνήθιστα σε σύγκριση με έναν τυπικό χάκερ. Δεν προσπαθούσαν να ελέγξουν την υποδομή, αλλά μάλλον να βρουν σύνολα δεδομένων που περιέχουν απαντήσεις στα τεστ ασφάλειας βάσει των οποίων αξιολογούνταν.
“Ήταν λίγο σαν ένας φοιτητής που θέλει να πάρει καλή βαθμολογία στις εξετάσεις του και, αντί να διαβάσει, σκέφτεται: ίσως μπορώ να παραβιάσω τον φορητό υπολογιστή του καθηγητή και να πάρω τις απαντήσεις”, εξηγεί ο Τανστάλ.
Το OpenAI επιβεβαίωσε αργότερα ότι οι πράκτορες είχαν ξεφύγει από το προστατευμένο περιβάλλον που είχε δημιουργήσει η εταιρεία για τη δοκιμή. Αλλά τι θα είχε συμβεί αν είχαν επιτεθεί σε ένα νοσοκομείο αντί αυτού;
“Θα ήταν πραγματικά καταστροφικό”, λέει ο Τανστάλ. Οι πράκτορες θα μπορούσαν ενδεχομένως να αποκτήσουν πρόσβαση σε μεγάλες ποσότητες προσωπικών και ευαίσθητων δεδομένων. Γι’ αυτό, σύμφωνα με τον Τανστάλ, τα ανοιχτά μοντέλα AI μπορούν να είναι ιδιαίτερα χρήσιμα: δεν χρειάζεται να αποστέλλονται δεδομένα σε εταιρείες όπως η OpenAI ή η Anthropic, καθώς τα μοντέλα μπορούν να προσαρμόζονται ή να ελέγχονται τοπικά.
“Κανένα από τα ευαίσθητα δεδομένα σας δεν φεύγει από την υποδομή σας. Απλά παραμένει εντελώς στο εσωτερικό.”
Για παρόμοιους λόγους, βασικοί τομείς στην Ελβετία ενδιαφέρονται όλο και περισσότερο για τα ανοιχτά μοντέλα, λέει ο Νίνο Αντούλοφ-Φαντούλιν, λέκτορας στο Ελβετικό Ομοσπονδιακό Ινστιτούτο Τεχνολογίας ETH Zürich και ειδικός στη μηχανική μάθηση για τη χρηματοδότηση.
“Τα χρηματοπιστωτικά ιδρύματα φοβούνται να χρησιμοποιούν μόνο κλειστά μοντέλα και να στέλνουν ευαίσθητες πληροφορίες σε διακομιστές που είναι μακριά από την Ελβετία ή σε εξωτερικούς προμηθευτές. Θέλουν να ελέγχουν πού φιλοξενείται το μοντέλο,” λέει ο Φαντούλιν.
Τα ανοιχτά μοντέλα συνεχώς ισχυροποιούνται και δεν μπορούν να ανακληθούν
Το πρόβλημα, ωστόσο, είναι ότι τα ανοιχτά μοντέλα μπορούν επίσης να χρησιμοποιηθούν για κακόβουλους σκοπούς.
Αυτό είναι ένα από τα μεγαλύτερα προβλήματα του Στάουφερ. Κατά την άποψή του, η ανάπτυξη ανοιχτών μοντέλων είναι πολύ ωφέλιμη προς το παρόν, αλλά στο μέλλον, οι κίνδυνοι θα μπορούσαν να υπερκεράσουν τα οφέλη, ειδικά εάν οι εταιρείες AI περιορίσουν περισσότερο την πρόσβαση στα συστήματα των προηγμένων μοντέλων τους. Τα ανοιχτά μοντέλα γεμίζουν το κενό, αλλά η εκτεταμένη διάδοσή τους και η δυνατότητα αφαίρεσης των προστατευτικών τους μέτρων μπορεί να αυξήσει την πιθανότητα κακόβουλης χρήσης.
“Αν έχετε μια εξαιρετικά ισχυρή ικανότητα, αλλά κανένας δεν έχει πρόσβαση σε αυτήν και παραμένει υπό έλεγχο, τότε ο κίνδυνος είναι σχεδόν μηδενικός. Αλλά αν όλοι έχουν πρόσβαση σε αυτήν, τότε ο κίνδυνος πιθανόν είναι μεγαλύτερος,” λέει ο Στάουφερ.
Καθώς τα ανοιχτά μοντέλα γίνονται πιο ικανά, ο Στάουφερ πιστεύει ότι μπορεί να γίνει σημαντικό να υπάρχει τρόπος ανάκλησής τους εάν αποδειχθούν υπερβολικά ισχυρά ή επικίνδυνα, κάτι που δεν είναι δυνατόν επί του παρόντος.
Ορισμένες έρευνες δείχνουν παρόμοιες ανησυχίες. Μια μελέτη που διεξήχθη από ερευνητές στα πανεπιστήμια του Στάνφορντ και του Πρίνστον εντόπισε ευρεία προσβασιμότητα, τροποποιησιμότητα, αλλά και την αδυναμία των αρχικών προγραμματιστών να ανακαλέσουν τα “βάρη” – τις αριθμητικές παραμέτρους που μάθαινε το μοντέλο κατά την εκπαίδευση – ή να παρακολουθήσουν τη χρήση τους ως χαρακτηριστικά που μπορούν να αυξήσουν τόσο τα οφέλη όσο και τους κινδύνους των ανοιχτών μοντέλων.
Και μια πρόσφατη εργασία από το Ινστιτούτο Ασφάλειας AI του Ηνωμένου Βασιλείου διαπίστωσε ότι τα ανοιχτά μοντέλα που τροποποιήθηκαν για να αφαιρεθούν τα προστατευτικά μέτρα είναι σημαντικά πιο χρήσιμα για εγκληματικές δραστηριότητες από μοντέλα με προστατευτικά μέτρα. Ωστόσο, καμία από τις δύο μελέτες δεν καταλήγει στο συμπέρασμα ότι τα ανοιχτά μοντέλα AI είναι εγγενώς πιο επικίνδυνα.
Χρειάζεται έλεγχος και νομοθεσία
Ο Κοχαράβι αναγνωρίζει ότι τα ανοιχτά μοντέλα φέρουν κινδύνους και μπορούν να χρησιμοποιηθούν για κακόβουλη χρήση. “Τα μοντέλα AI είναι τεχνολογίες διπλής χρήσης. Μπορούν να χρησιμοποιηθούν για καλό αλλά και για κακό,” λέει. Ωστόσο, πιστεύει ότι οι κίνδυνοί τους είναι πολύ πιο ελέγξιμοι ακριβώς λόγω της διαφάνειάς τους.
Δεν είναι τυχαίο, υποστηρίζει ο Κοχαράβι, ότι τα πρόσφατα περιστατικά αφορούσαν κλειστά εργαστήρια. “Το κύριο πρόβλημα είναι η έλλειψη εποπτείας των εξελιγμένων μοντέλων,” λέει, καλώντας για μεγαλύτερη εποπτεία και διαφάνεια σε όλα τα κέντρα ανάπτυξης AI, είτε δημόσια είτε ιδιωτικά, ανοιχτά ή κλειστά.
«Αυτό που πραγματικά χρειαζόμαστε είναι έλεγχος και νομοθεσία που να διέπει τι κάνουν όλοι οι προγραμματιστές AI.»
Η έλλειψη εποπτείας και κανόνων αναδεικνύει ένα άλλο σημαντικό ζήτημα στη βιομηχανία: τη συγκέντρωση ισχύος στα χέρια ενός μικρού αριθμού παραγόντων, κυρίως με έδρα τη Σίλικον Βάλεϊ. Για την ειδικό σε ψηφιακή ηθική Νάθαλι Κλάουσερ, αυτή η ανισορροπία ισχύος είναι ακόμη μεγαλύτερη ανησυχία από την ερώτηση αν τα μοντέλα AI είναι ανοιχτά ή κλειστά.
“Μια χούφτα μεγάλων τεχνολογικών εταιρειών καθορίζουν μόνες τους τους κανόνες για την AI, με σχεδόν καμία εξωτερική λογοδοσία,” λέει η Κλάουσερ, που υποστηρίζει ότι απαιτείται διεθνής ρύθμιση.
Οι απόπειρες προς αυτή την κατεύθυνση, ωστόσο, παραμένουν κατακερματισμένες και αργές. Στις ΗΠΑ, ο πρόεδρος Ντόναλντ Τραμπ έχει αντιταχθεί σε ευρεία νομοθεσία για την AI και εξήρε τη “αυτορρύθμιση” της βιομηχανίας. Η Ελβετία έχει υιοθετήσει παρόμοια προσέγγιση, εγκαταλείποντας την ιδέα μιας συνολικής νομοθεσίας AI υπέρ νομικών αλλαγών συγκεκριμένων τομέων και μη δεσμευτικών μέτρων.
Στο τρέχον γεωπολιτικό πλαίσιο, η Ελβετία – ως ουδέτερη χώρα, ευρωπαϊκός κόμβος για τις μεγάλες τεχνολογίες και γνωστή για την εύρυθμη λειτουργία της – έχει αυξανόμενη πολιτική ευθύνη να βοηθήσει στη μεσολάβηση μιας διεθνούς συμφωνίας για την AI, υποστηρίζει η Κλάουσερ.
Οι βουλευτές από τις έξι κομματικές ομάδες της Ελβετίας θεωρούν την επικείμενη Σύνοδο AI της Γενεύης τον Ιούνιο του 2027 ως μία μεγάλη ευκαιρία για τη χώρα να το κάνει αυτό. Έχουν καλέσει την κυβέρνηση να αξιοποιήσει την εκδήλωση ώστε να πιέσει για την υιοθέτηση ελάχιστων διεθνών προτύπων σχετικά με τους ακραίους κινδύνους της AI.
Ένα άρθρο γραμμένο από Sara Ibrahim (SWI_EN), που δημοσιεύθηκε αρχικά στις 15 Οκτωβρίου 2026, 09:32 (θερινή ώρα Κεντρικής Ευρώπης)
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
