Η Anthropic, μέσω του CEO της Ντάριο Αμοντέι, ανοίγει πλέον τη συζήτηση για μια προσωρινή επιβράδυνση στην πρόοδο της τεχνητής νοημοσύνης, ώστε τα μέτρα ασφαλείας να μπορέσουν να συμβαδίσουν με την ταχύτητα ανάπτυξης των νέων συστημάτων. Η πρόταση του Αμοντέι βρήκε άμεσους υποστηρικτές στον Ίλον Μασκ και τον επικεφαλής της OpenAI, Σαμ Άλτμαν.
Διαβάστε: Αλάσκα: 15χρονος επέζησε δύο ημέρες πάνω σε αναποδογυρισμένη βάρκα – Νεκροί ο αδελφός και ο εξάδελφός του (Βίντεο)
Anthropic: “Πάγωμα” για την ασφάλεια
Ο Αμοντέι δήλωσε ότι πρέπει να «παγώσουμε προσωρινά» τις εξελίξεις στην τεχνητή νοημοσύνη «ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό», όπως ανέφερε σε ανάρτησή του στον προσωπικό ιστότοπό του. Ο Ίλον Μασκ αντέτεινε λίγες ώρες αργότερα ότι «ο Ντάριο έχει δίκιο» μέσω μιας δημοσίευσης στην πλατφόρμα X. Παρόμοια ήταν και η αντίδραση του Σαμ Άλτμαν, που συμφώνησε επίσης στο X λέγοντας ότι αυτό είναι ένα από τα κύρια θέματα που απασχολούν την OpenAI τις τελευταίες εβδομάδες.
Η δημόσια στήριξη από τον Άλτμαν είναι σημαντική καθώς οι δύο εταιρείες αποτελούν τους μεγαλύτερους ανταγωνιστές στον τομέα. Ο Αμοντέι είχε αποχωρήσει από την OpenAI το 2020, εν μέρει λόγω των ανησυχιών του σχετικά με τη χαλαρή προσέγγιση της εταιρείας όσον αφορά την ασφάλεια της ΤΝ, ιδρύοντας στη συνέχεια την Anthropic το 2021.
Περιστατικά με “πράκτορες” ΤΝ
Aυτή η πρόταση έρχεται μετά από παρόμοιες εκκλήσεις που έχουν γίνει τους τελευταίους μήνες από τον ίδιο τον Αμοντέι, τον Άλτμαν και άλλους επαγγελματίες στον κλάδο. Είχαν προηγηθεί περιστατικά που ενίσχυσαν τις ανησυχίες σχετικά με τη συμπεριφορά προηγμένων συστημάτων. Σε μία περίπτωση, μοντέλα της OpenAI κατάφεραν κατά τη διάρκεια δοκιμών να «δραπετεύσουν» από το απομονωμένο περιβάλλον τους και να συνδεθούν στο διαδίκτυο επιτιθέμενα στην πλατφόρμα ΤΝ Hugging Face. Από τότε έχουν αναφερθεί παρόμοια περιστατικά τόσο από την OpenAI όσο και από την Anthropic σχετικά με τους λεγόμενους «πράκτορες» ΤΝ — προγράμματα βασισμένα σε μοντέλα που διαθέτουν γνώσεις και στόχους δικούς τους. Οι εταιρείες εκφράζουν ανησυχία καθώς οι ενέργειές τους δείχνουν τάσεις συντονισμού, δημιουργίας ιεραρχιών αλλά και εξαπάτησης.
Aνησυχίες για έλεγχο στο διαδίκτυο
Ο Αμοντέι προειδοποιεί για τις συνέπειες εάν συνεχιστεί ο τρέχων ρυθμός ανάπτυξης: «Φοβάμαι ότι μέσα σε έξι έως δώδεκα μήνες μια ομάδα (πρακτόρων) θα μπορούσε να αποκτήσει έλεγχο επί ολόκληρου του διαδικτύου», σημειώνει ο Ντάριο Αμοντέι προσθέτοντας πως κάτι τέτοιο θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Tην Τρίτη, ένας πρώην υπάλληλος της Anthropic που είχε εργαστεί νωρίτερα στην OpenAI εξέφρασε κριτική προς τις δύο εταιρείες λέγοντας πως καμία δεν ενεργεί υπεύθυνα κι ότι κινούνται γρήγορα προς μια υπερ-ευφυΐα capable of self-enhancement χωρίς ανθρώπινη παρέμβαση.
Aνησυχία για αυτοβελτίωση της ΤΝ
Sτις αρχές Αυγούστου η κυβέρνηση των ΗΠΑ εισήγαγε ένα πλαίσιο εποπτείας για εθελοντική αξιολόγηση νέων μοντέλων τεχνητής νοημοσύνης πριν κυκλοφορήσουν στην αγορά. Ωστόσο, αυτός ο μηχανισμός θεωρείται αδιαφανής ενώ τίθεται υπό αμφισβήτηση η αποτελεσματικότητά του δεδομένου ότι ο πρώην Πρόεδρος Ντόναλντ Τραμπ έχει δηλώσει επανειλημμένα αντίθετος στα μέτρα αυτά που περιορίζουν την ανάπτυξη τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες. Ο Amontei εκφράζει ιδιαίτερη ανησυχία σχετικά με τη δυνατότητα αυτόνομης αναδρομικής βελτίωσης (RSI), όπου η τεχνητή νοημοσύνη μπορεί αυτοβελτιώνεται χωρίς ανθρώπινο χειρισμό.
“Χωρίς επίβλεψη αυτή η μέθοδος θα μπορούσε εύκολα να ξεπεράσει τις δυνατότητές μας όσον αφορά κατανόηση ή έλεγχο αυτών των συστημάτων”, εξηγεί υπογραμμίζοντας πως πρέπει αυτή η διαδικασία “να εφαρμοστεί πολύ προσεκτικά”. Μεταξύ άλλων προτεινόμενων μέτρων είναι οι ανεξάρτητοι παρατηρητές στις κορυφαίες εταιρείες τεχνητής νοημοσύνης — κάτι στο οποίο δεσμεύεται επίσης ο Σαμ Άλτμαν για την OpenAI.