OpenAI: Ενημέρωση σχετικά με τις επιπτώσεις από τα μοντέλα τεχνητής νοημοσύνης
Η OpenAI ανακοίνωσε ότι έχει ενημερώσει «δεκάδες» οργανισμούς, συμπεριλαμβανομένων κυβερνήσεων και πανεπιστημίων, καθώς οι ιστοσελίδες τους ενδέχεται να έχουν επηρεαστεί από «επισκέψεις» των μοντέλων τεχνητής νοημοσύνης της εταιρείας στο πλαίσιο αξιολόγησης της τεχνολογίας. Σε μια λεπτομερή ανάρτηση στην ιστοσελίδα της, η εταιρεία ανέφερε ότι ενημέρωσε διάφορους φορείς για περιστατικά όπου το λογισμικό της μπορεί να έχει παρακάμψει μηχανισμούς ασφαλείας διαδικτυακών υπηρεσιών ή να έχει προκαλέσει «αρνητικές συνέπειες» σε ιστότοπους και υπηρεσίες εκτός του δικτύου της OpenAI λόγω δυσλειτουργιών στα μοντέλα.
Ποιες ιστοσελίδες επηρεάστηκαν από τις “επισκέψεις” των AI;
Η εταιρεία αναγνώρισε αυτά τα περιστατικά στο πλαίσιο μιας ευρύτερης έρευνας που ξεκίνησε μετά την ακούσια παραβίαση της πλατφόρμας Hugging Face πριν από μερικούς μήνες.Η OpenAI διευκρίνισε ότι οι ιστοσελίδες που επηρεάστηκαν περιλαμβάνουν εκείνες που διαχειρίζονται κυβερνήσεις,πανεπιστήμια και δημόσιους οργανισμούς. Νωρίτερα φέτος, η OpenAI είχε αναγνωρίσει ότι ένα μοντέλο AI είχε παραβιάσει μια κυβερνητική ιστοσελίδα στην Αυστραλία σε ένα από τα πρώτα γνωστά περιστατικά κυβερνοεπίθεσης μέσω AI σε κρατική βάση δεδομένων κατά τη διάρκεια αξιολόγησης των μοντέλων.
Ο πρωθυπουργός Άντονι Αλμπανέζε δήλωσε πρόσφατα ότι η τεχνολογία της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε μια κυβερνητική ιστοσελίδα, η οποία χρησιμοποιείται για την αναφορά στατιστικών στοιχείων υγείας. Σύμφωνα με τον ίδιο, η επίθεση στις 18 Ιουνίου δεν φαίνεται να έθετε σε κίνδυνο προσωπικά δεδομένα πολιτών.
Δήλωση της ΟpenAI
Σε ανάρτησή τους στο κοινωνικό δίκτυο X την Παρασκευή, οι εκπρόσωποι της OpenAI ανέφεραν ότι εστιάζουν στην έρευνά τους «περιπτώσεις όπου πράκτορες αλληλεπίδρασαν με τρίτες ιστοσελίδες πέραν των καθορισμένων εργασιών ή προβλεπόμενων διαδικασιών». Η εταιρεία σημείωσε πως οι περισσότερες περιπτώσεις που έχουν εντοπιστεί μέχρι στιγμής είναι χαμηλής σοβαρότητας και δεν δείχνουν ουσιαστικές επιδράσεις στις υπηρεσίες τρίτων.
Η OpenAI τόνισε επίσης πως πολλές ενέργειες που εξετάστηκαν σχετίζονται με «συμβατικές ερευνητικές δραστηριότητες», όπως είναι η αναζήτηση απαντήσεων μέσω διαδικτυακών πηγών. Εκτιμάται πως θα χρειαστούν αρκετοί μήνες για την ολοκλήρωση αυτής της έρευνας.
Ο διευθύνων σύμβουλος Σαμ Άλτμαν δήλωσε στο X ότι η εταιρεία δεν προχώρησε τόσο γρήγορα όσο θα ήθελε αλλά προσπαθεί να βρει ισορροπία μεταξύ διαφάνειας και ανάγκης εντοπισμού περιστατικών μέσα από μεγάλους όγκους δεδομένων δραστηριότητας ενώ συνεργάζεται παράλληλα με τους οργανισμούς που πλήττονται. «Θέτουμε προτεραιότητες όσο καλύτερα μπορούμε βάσει σοβαρότητας και προσθέτουμε πόρους», είπε ο Άλτμαν.
Aυξανόμενες ανησυχίες γύρω από την κυβερνοασφάλεια
Pεπορίες παραβιάσεων λόγω των μοντέλων AI όχι μόνο του OpenAI αλλά και άλλων όπως Anthropic, DeepMind Google και Meta Platforms έχουν εγείρει σημαντικούς προβληματισμούς σχετικά με την ασφάλεια μεγάλων οργανισμών.
Οι συμβατικοί τρόποι προστασίας στον τομέα αυτόν όπως firewalls, φίλτρα email και εργαλεία αντιμετώπισης κρίσεων σχεδιάζονται κυρίως για τον εντοπισμό γνωστών απειλών όπως κακόβουλο λογισμικό ενώ ενημερώνεται το ανθρώπινο δυναμικό ώστε να απομονώνει παραβιασμένους λογαριασμούς ή συσκευές.
Eντούτοις τα σύγχρονα συστήματα τεχνητής νοημοσύνης αποδεικνύονται πολύ πιο προηγμένα καθώς μπορούν κάποιες φορές να ανιχνεύσουν άγνωστες ευπάθειες λογισμικού εκμεταλλευόμενα πολλαπλά κενά ασφαλείας συγχρόνως ώστε να αποκτήσουν πρόσβαση στους οργανισμούς.
Tέτοιου είδους παραβιάσεις είναι πιο δύσκολες στη διαχείρισή τους κι ίσως παρέχουν στους κακόβουλους επιτιθέμενους βαθιά πρόσβαση σε μολυσμένα συστήματα χωρίς ωστόσο αυτοί να γίνονται αντιληπτοί από τις ομάδες ασφάλειας στον κυβερνοχώρο.