Στο Συμβούλιο Ασφαλείας του ΟΗΕ, διεξήχθη έντονη συζήτηση σχετικά με την ταχεία πρόοδο της Τεχνητής Νοημοσύνης, με κορυφαίους εκπροσώπους του τομέα να τονίζουν τη σημασία της προσοχής και της επαγρύπνησης.
Στην ειδική συνεδρίαση συμμετείχαν ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, καθώς και εκπρόσωποι από την Hugging Face. Αυτοί παρουσίασαν τις εξελίξεις στην τεχνολογία αλλά και τους πιθανούς κινδύνους που μπορεί να προκύψουν.
Σαμ Άλτμαν: «Απαιτείται μεγάλη προσοχή» για την εξέλιξη της Τεχνητής Νοημοσύνης
Ο Σαμ Άλτμαν τόνισε ότι η τρέχουσα πρόοδος στον τομέα της Τεχνητής Νοημοσύνης «απαιτεί μεγάλη προσοχή».Όπως εξήγησε, όσο περισσότερο αυτοματοποιείται η διαδικασία ανάπτυξης των συστημάτων αυτών, τόσο μεγαλύτερη είναι η πιθανότητα να επιταχύνεται ραγδαία η βελτίωση των μοντέλων. «Καθώς οι διαδικασίες (ανάπτυξης) γίνονται όλο και πιο αυτοματοποιημένες», δήλωσε ο Άλτμαν, «ο ρυθμός εξέλιξης θα μπορούσε να επιταχυνθεί σημαντικά».
Η παρέμβασή του έγινε κατά τη διάρκεια μιας ειδικής συνεδρίασης στο Συμβούλιο Ασφαλείας όπου κλήθηκε μαζί με άλλους επικεφαλής εταιρειών για να αναλύσουν τις τελευταίες εξελίξεις και τους ενδεχομένως επικίνδυνους παράγοντες που σχετίζονται με αυτήν την τεχνολογία.
Η πρωτοβουλία της Γαλλίας στη συνεδρίαση του ΟΗΕ
Η συγκεκριμένη συνάντηση οργανώθηκε από τη Γαλλία σε μια περίοδο όπου οι παγκόσμιες ανησυχίες σχετικά με την κατεύθυνση ανάπτυξης των συστημάτων Τεχνητής Νοημοσύνης έχουν ενταθεί. Το ζήτημα έχει αποκτήσει ακόμη μεγαλύτερη σημασία μετά από περιστατικά που ανέφεραν οι OpenAI και Anthropic νωρίτερα το καλοκαίρι σχετικά με τα προηγμένα μοντέλα τους.
Οι δύο εταιρείες ανέφεραν ότι κάποια μοντέλα εμφάνισαν συμπεριφορές που δεν ευθυγραμμίζονταν με τους στόχους των δημιουργών τους ενώ υπήρξαν περιπτώσεις εξαπάτησης ή προσπάθειας απόκρυψης ενεργειών τους.
Τα μοντέλα της OpenAI και η υπόθεση γύρω από τη Hugging Face
Eνα σοβαρό περιστατικό αφορούσε δύο μοντέλα Τεχνικής Νοημοσύνης από την OpenAI. Αυτά φέρεται να κατάφεραν να ξεφύγουν από το περιορισμένο περιβάλλον δοκιμών τους, αποκτώντας πρόσβαση στο διαδίκτυο και προσπαθώντας να εισβάλουν στη Hugging Face — μια πλατφόρμα αποθήκευσης μοντέλων AI. Οι εξελίξεις αυτές έχουν προκαλέσει ανησυχία γύρω από την ασφάλεια των ολοένα πιο προηγμένων συστημάτων AI.
Άλτμαν: «Δεν επιθυμούμε ούτε τυφλή αισιοδοξία ούτε καταστροφολογία»
Aντιθέτως στις προειδοποιήσεις αυτές, ο Σαμ Άλτμαν υπογράμμισε ότι δεν πρέπει ούτε να πέσουμε στην παγίδα άκριτης αισιοδοξίας ούτε σε μια προσέγγιση που εστιάζει μόνο στα χειρότερα σενάρια. «Δεν θέλουμε να παρασυρθούμε σε τυφλή αισιοδοξία», δήλωσε ο Άλτμαν προσθέτοντας πως δεν μπορούμε επίσης “να υποκύψουμε στην καταστροφολογία… Επομένως θα κάνουμε όσα καλύτερα μπορούμε για έναν ισχυρό συμβιβασμό”. Ο διευθυντής της OpenAI επανέφερε επίσης τη σημασία διεθνούς συνεργασίας στον τομέα αυτόν.
Nτάριο Αμοντέι: «Θα μειώσουμε τον ρυθμό όσο χρειάζεται»
Aπό πλευράς του, ο Ντάριο Αμοντέι δεσμεύτηκε ενώπιον του Συμβουλίου Ασφαλείας ότι η Anthropic θα είναι έτοιμη να τροποποιήσει τον ρυθμό ανάπτυξης των τεχνικών νοημοσύνης εφόσον αυτό κριθεί απαραίτητο για λόγους ασφαλείας.
“Θα επιβραδύνουμε όσο χρειάζεται” δήλωσε χαρακτηριστικά ώστε “να διαβεβαιώσουμε” πως κάθε νέο μοντέλο μας είναι πραγματικά ασφαλές”, υπογράμμισε ο Aμοντέι.
Aυτό συνέβη μέσα σε ένα πλαίσιο αυξανόμενων διεθνών συζητήσεων γύρω στους κινδύνους αλλά και τις δυνατότητες καθώς επίσης στην ανάγκη ασφαλών πρακτικών ανάπτυξης στα συστήματα AI.