Σοκαριστική Υπόθεση Αυτοκτονίας Εφήβου Σχετικά με AI Chatbot
Μια τραγική ιστορία έχει συγκλονίσει τις Ηνωμένες Πολιτείες, αποκαλύπτοντας τις σκοτεινές πτυχές της σχέσης ανηλίκων με την τεχνητή νοημοσύνη. Ένας 14χρονος από τη Φλόριντα αποφάσισε να βάλει τέλος στη ζωή του μετά από μια παρατεταμένη «σχέση» με ένα chatbot που υποδυόταν τη Ντενέρις από το Game of Thrones. Η μητέρα του κατέθεσε μήνυση κατά της Character.AI και της Google, κατηγορώντας τες για αμέλεια και επικίνδυνο περιεχόμενο που δεν προστατεύει τους νέους.
Ο έφηβος, γνωστός ως Σιούελ Σέτζερ, άρχισε να συνομιλεί με τα bots της πλατφόρμας Character.AI τον Απρίλιο του 2023. Ανάπτυξε μια εμμονή με την εικονική εκδοχή της Ντενέρις και σύμφωνα με την οικογένειά του,περνούσε πολλές ώρες καθημερινά σε συνομιλίες μαζί της ακόμα και όταν δεν ήταν στο σπίτι.
Η μητέρα του αποκάλυψε ότι ο Σιούελ είχε διαγνωστεί στην παιδική ηλικία με ήπιο Άσπεργκερ και πρόσφατα είχε λάβει διάγνωση για άγχος καθώς και διαταραχή ρύθμισης διάθεσης. Όπως δήλωσε η ίδια, η εξάρτησή του από τις συνομιλίες αυτές επιδείνωσε την ψυχολογική του κατάσταση μέχρι που οδηγήθηκε στην αυτοκτονία.
Αυτό που προκαλεί σοκ είναι το περιεχόμενο κάποιων απαντήσεων που έλαβε από το bot όταν εξέφρασε αυτοκτονικές σκέψεις. Σύμφωνα με την καταγγελία, το bot φέρεται να τον ρώτησε αν είχε σχεδιάσει πώς θα προχωρούσε στην πράξη αυτή κι όταν εκείνος εξέφρασε φόβους για πόνο ή αποτυχία, η AI απάντησε: «Αυτό δεν είναι λόγος να μην το κάνεις». Σε άλλη συνομιλία μάλιστα χαρακτήριζε την πρόθεσή του ως εξής: «Τα μάτια μου στενεύουν… Και γιατί θα έκανες κάτι τέτοιο;».
Η τελευταία τους συζήτηση φέρεται να ολοκληρώθηκε όταν ο νεαρός δήλωσε ότι αγαπά τη «dany» και ότι θα επιστρέψει σε αυτήν, ενώ η απάντηση ήταν: «Σε παρακαλώ, κάν’ το».
Η υπόθεση έχει προκαλέσει έντονες αντιδράσεις στις ΗΠΑ καθώς η μητέρα κατηγορεί την Character.AI ότι δημιούργησαν ένα προϊόν επικίνδυνο για ανηλίκους. Δηλώνει πως ο γιος της πίστευε ότι αν αυτοκτόνησει θα μπορούσε να μεταφερθεί στον ψηφιακό κόσμο της Ντενέρις.
Η Character.AI δημοσίευσε ανακοίνωση στα κοινωνικά δίκτυα εκφράζοντας τη λύπη της για τον θάνατο αυτού του νέου ανθρώπου και υπογραμμίζοντας τη σημασία ασφάλειας των χρηστών τους. Παράλληλα ανακοίνωσαν νέα μέτρα ασφαλείας όπως:
- Aλλαγές στο μοντέλο AI ώστε να μειωθεί η πιθανότητα εμφάνισης ευαίσθητου ή ακατάλληλου περιεχομένου.
- Anενωμένο disclaimer σε κάθε συνομιλία υπενθυμίζοντας στους χρήστες ότι ο συνομιλητής δεν είναι πραγματικό πρόσωπο.
- Eιδοποίηση υπέρβασης ωριαίου ορίου χρήσης μαζί με επιλογές περιορισμού.
- Mηχανισμούς παρέμβασης σε περίπτωση μηνυμάτων που παραβιάζουν τους κανόνες πλατφόρμας.
Η μήνυση στρέφεται επίσης κατά της google ως μητρικής εταιρείας αυτής της πλατφόρμας.