Ο Sam Altman της OpenAI είπε στο Politico ότι ο κόσμος πρέπει να δεχτεί κάποια άσχημα πράγματα από την AI για τα οφέλη της, όχι όμως απώλεια ελέγχου.
Ο Sam Altman, CEO της OpenAI, δήλωσε στο Politico ότι ο κόσμος «πρέπει να αποδεχτεί να συμβαίνουν κάποια άσχημα πράγματα» με την τεχνητή νοημοσύνη, ως αντάλλαγμα για τα οφέλη της. Η συνέντευξη φιλοξενείται στο πρώτο τεύχος του Decoded, του νέου καθημερινού newsletter και podcast του Politico για την τεχνολογία, που ξεκίνησε στις 5 Οκτωβρίου.
Τι ακριβώς είπε ο Sam Altman για τους κινδύνους της AI
Ο Sam Altman θεωρεί ότι τα οφέλη της AI αξίζουν κάποια ζημιά και ότι η τεχνολογία πρέπει να μείνει ανοιχτή στο κοινό. «Πιστεύουμε ότι ο κόσμος πρέπει να αποδεχτεί να συμβαίνουν κάποια άσχημα πράγματα για χάρη των οφελών αυτής της τεχνολογίας και της δυνατότητας των ανθρώπων να αποφασίζουν οι ίδιοι», είπε στο Politico.
Δεν θα αντάλλασσε αυτά τα οφέλη με την υπόσχεση ότι δεν θα υπάρξουν hacks, απάτες ή κακή χρήση. Κατά τον ίδιο, οι άνθρωποι θα κάνουν με την AI πολύ περισσότερο καλό παρά κακό.
Υπάρχει πάντως όριο. Ο Altman ξεκαθάρησε ότι ο κόσμος δεν πρέπει να δεχτεί τους χειρότερους κινδύνους, όπως μια σοβαρή απώλεια ελέγχου απέναντι στην AI.
Πού διαφωνούν OpenAI και Anthropic
Η OpenAI και η Anthropic εξακολουθούν να διαφωνούν έντονα για τους κανόνες της AI, σύμφωνα με τον Sam Altman. Κάποιοι πιστεύουν ότι η AI είναι τόσο επικίνδυνη που πρέπει να την κρατά ένα μόνο εργαστήριο και να μοιράζει τα οφέλη. Ο Altman είπε ότι καταλαβαίνει αυτή την άποψη αλλά δεν τη συμμερίζεται, και τη χαρακτήρισε «εντελώς απαράδεκτο αντάλλαγμα».
Εκπρόσωπος της Anthropic απάντησε στο Politico ότι οι κανόνες που προτείνει η εταιρεία αφορούν μόνο τα frontier models, δηλαδή τα πιο προηγμένα συστήματα AI.
Newsletter Techblog
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Τρεις εβδομάδες μετά το «φρένο» του Amodei
Η συνέντευξη του Sam Altman έρχεται τρεις εβδομάδες αφότου ο CEO της Anthropic, Dario Amodei, ζήτησε με δοκίμιό του από τον κλάδο να επιβραδύνει τη βελτίωση των μοντέλων AI. Ο Altman είχε στηρίξει το φρένο στο AI την ίδια μέρα και είχε δεσμευτεί ότι η OpenAI θα δίνει σε εξωτερικούς ελεγκτές την ίδια πρόσβαση με το προσωπικό της.
Σύμφωνα με το Politico, η κουβέντα έπιασε και το σύμφωνο ασφάλειας AI που υπέγραψαν επικεφαλής εταιρειών τεχνολογίας στον Λευκό Οίκο, και το διάταγμα του Trump που μετονομάζει την AI σε «υπερνοημοσύνη». Την ίδια μέρα, στις 5 Οκτωβρίου, η OpenAI είναι μία από τις τέσσερις εταιρείες AI που καταθέτουν ενόρκως σε ακρόαση του Δημοτικού Συμβουλίου της Νέας Υόρκης για την ασφάλεια της AI.
Η άποψή μας στο Techblog
Ο Altman είπε φωναχτά αυτό που ο κλάδος εννοεί εδώ και καιρό, ότι οι απάτες και τα hacks είναι αποδεκτό κόστος της AI. Λίγες εβδομάδες μετά το «πολύ σίγουρος» για ασφαλή AI στο Dreamforce, η ευθύνη για την κακή χρήση μετακομίζει σιγά σιγά από τις εταιρείες στον χρήστη. Ο χρήστης λοιπόν καλά θα κάνει να εμπιστεύεται λιγότερο τις υποσχέσεις ασφάλειας και περισσότερο τη δική του προσοχή.
