Σαφής προειδοποίηση από τον Μπέρνι Σάντερς προς τους κολοσσούς της AI
Ο Μπέρνι Σάντερς απευθύνει μια αυστηρή προειδοποίηση στους μεγάλους παίκτες της τεχνητής νοημοσύνης, καλώντας τις OpenAI, Anthropic και Meta να σταματήσουν την ανάπτυξη ακόμα πιο ισχυρών συστημάτων AI. Ο Αμερικανός πολιτικός δηλώνει ότι αν οι εταιρείες δεν αναλάβουν δράση από μόνες τους, η νομοθετική εξουσία των ΗΠΑ είναι έτοιμη να παρέμβει.
Επιστολή σε κορυφαίους διευθυντές
Όπως αποκαλύπτει το Axios, ο ανεξάρτητος γερουσιαστής του Βερμόντ έχει στείλει επιστολή στους Σαμ Άλτμαν, Ντάριο Αμοντέι και Μαρκ Ζάκερμπεργκ, οι οποίοι ηγούνται των OpenAI, Anthropic και Meta αντίστοιχα. Ο Σάντερς ζητά από αυτές τις τρεις εταιρείες να τηρήσουν τις υποσχέσεις τους για ασφάλεια και να επιβραδύνουν την ανάπτυξη εφόσον τα μοντέλα φτάσουν σε επίπεδα που δεν μπορούν να ελεγχθούν με επαρκή ασφάλεια.
Αυτή η παρέμβαση έρχεται σε μια περίοδο όπου ο διάλογος σχετικά με την πρόοδο της τεχνητής νοημοσύνης εντείνεται στις Ηνωμένες Πολιτείες. Ο Σάντερς επισημαίνει ότι οι εταιρείες επενδύουν δισεκατομμύρια δολάρια σε μια τεχνολογία που εξελίσσεται ταχύτερα από τους μηχανισμούς εποπτείας.
Περιεχόμενο της επιστολής
Στην επιστολή του ο γερουσιαστής καθιστά σαφές ότι αν οι ίδιες οι εταιρείες δεν λάβουν μέτρα αυτοπεριορισμού, θα αναζητήσει τη βοήθεια της Γερουσίας. Οι ανησυχίες του επικεντρώνονται στις πρόσφατες ενδείξεις ότι τα προηγμένα μοντέλα αποκτούν ικανότητες που πριν λίγα χρόνια θεωρούνταν μακρινές.
Το Axios αναφέρει επίσης μια πρόσφατη ερευνητική εργασία υπό την καθοδήγηση επιστημόνων του Stanford που χρησιμοποίησε γενετική τεχνητή νοημοσύνη για το σχεδιασμό συνθετικών ιών ικανοί να μολύνουν το βακτήριο E. coli. Αν και αυτή η έρευνα έχει σημαντικές επιστημονικές εφαρμογές, εγείρει επίσης σοβαρούς προβληματισμούς σχετικά με τους βιολογικούς κινδύνους που μπορεί να προκύψουν.
Aνακοίνωση μεγάλων εταιρειών AI
Pαρ’ όλα αυτά, πολλές κορυφαίες εταιρείες στον τομέα έχουν δημοσιοποιήσει περιστατικά ή δοκιμές που ενισχύουν τις ανησυχίες γύρω από την ταχύτητα εξέλιξης των συστημάτων τους. Για παράδειγμα, η OpenAI αποφάσισε πρόσφατα να επιβραδύνει τη διαδικασία ανάπτυξης ενός νέου μοντέλου λόγω των προηγμένων δυνατοτήτων του στον κυβερνοχώρο.
Pεαλιστικές απαιτήσεις για συνεργασία
Η κίνηση του Σάντερς δεν είναι μοναδική· πάνω από 1.200 εργαζόμενοι σε κορυφαίες επιχειρήσεις AI έχουν υπογράψει αίτημα προς την αμερικανική κυβέρνηση για τη δημιουργία ενός διεθνούς πλαισίου ελέγχου στην ανάπτυξη προηγμένων συστημάτων AI.
Aλλά κανείς δεν θέλει μονομερώς να περιορίσει την πρόοδο:
- Kανένα εργαστήριο δε θέλει να χάσει ανταγωνιστικό πλεονέκτημα περιορίζοντας τις δυνατότητές του λόγω ασφαλείας.
- Aυτό οδηγεί στη μετατόπιση της συζήτησης προς ένα ευρύτερο πλαίσιο συνεργασίας αντί μιας απλής αυτορύθμισης.
Tο πολιτικό περιβάλλον στην Αμερική
Tο πολιτικό σκηνικό στις ΗΠΑ δυσκολεύει οποιαδήποτε άμεση νομοθετική παρέμβαση αυτή τη στιγμή σύμφωνα με εκτιμήσεις ειδικών στο Axios; έτσι λοιπόν η πίεση θα συνεχίσει κυρίως μέσω δημόσιων παρεμβάσεων και πρωτοβουλιών πολιτικής δράσης.
Η επιστολή πάντως αντικατροπτρίζει μία αλλαγή στη συζήτηση γύρω από την τεχνητή νοημοσύνη: πλέον τίθεται το ζήτημα όχι μόνο πόσο γρήγορα μπορούν αυτές οι νέες τεχνολογίες ν’αναπτυχθούν αλλά κατά πόσο θα υπάρξουν αυστηρότεροι κανόνες ασφαλείας ώστε αυτό ν’αγγιξει θετικά όλους μας.