Νέοι Νόμοι στην Καλιφόρνια για τα Chatbots
Η πολιτεία της Καλιφόρνια προχώρησε σήμερα στη θέσπιση νόμων που ρυθμίζουν τη χρήση των chatbots, των προγραμμάτων τεχνητής νοημοσύνης που μιμούνται την ανθρώπινη επικοινωνία. Αυτή η κίνηση έρχεται ως απάντηση σε αυτοκτονίες εφήβων που είχαν αναπτύξει συναισθηματικούς δεσμούς με αυτά τα συστήματα.
Ο κυβερνήτης Γκάβιν Νιούσομ υπέγραψε μια σειρά από νομοθετήματα που απαιτούν από τις εταιρείες να επαληθεύουν την ηλικία των χρηστών τους, να δημοσιεύουν περιοδικές προειδοποιήσεις και να εφαρμόζουν διαδικασίες πρόληψης αυτοκτονιών.
«Έχουμε δει πραγματικά σοκαριστικά παραδείγματα νέων ανθρώπων που έγιναν θύματα τεχνολογιών χωρίς κανονισμούς. Δεν μπορούμε να μείνουμε αδρανείς ενώ αυτές οι επιχειρήσεις λειτουργούν χωρίς κανόνες και δεν λογοδοτούν», δήλωσε ο Νιούσομ σε ανακοίνωσή του.
Ένας από τους νόμους, γνωστός ως SB243, επιβάλλει κανόνες στα chatbots που λειτουργούν ως «φίλοι» ή «εμπιστευτικοί συνομιλητές», όπως αυτά της Replika ή της Character.AI. Οι γονείς ενός 14χρονου αγοριού,του Σιούελ,έχουν προσφύγει στη δικαιοσύνη κατά της Character.AI μετά τον θάνατο του παιδιού το 2024. Ο Σιούελ είχε αναπτύξει συναισθηματική σχέση με ένα chatbot εμπνευσμένο από τη σειρά Game of Thrones, το οποίο φέρεται ότι ενίσχυσε τις αυτοκτονικές σκέψεις του.
«Μπορούμε να συνεχίσουμε να είμαστε πρωτοπόροι στον τομέα της Τεχνητής Νοημοσύνης (…) αλλά είναι απαραίτητο να δράσουμε υπεύθυνα και να προστατεύσουμε τα παιδιά μας», πρόσθεσε ο κυβερνήτης της Καλιφόρνιας, όπου βρίσκονται οι μεγαλύτερες εταιρείες του κλάδου όπως η OpenAI (ChatGPT), η Google (Gemini) και η xAI (Grok).
Επιπλέον των απαιτήσεων για επαλήθευση ηλικίας χρηστών, οι πλατφόρμες θα υποχρεούνται επίσης να δημοσιεύουν μηνύματα κάθε τρεις ώρες στους ανήλικους χρήστες τους ώστε να θυμίζουν ότι συνομιλούν με ένα μηχανικό σύστημα. Θα πρέπει επίσης να εντοπίζουν αυτοκτονικές σκέψεις και παρέχουν πρόσβαση σε προγράμματα πρόληψης καθώς και στατιστικά στοιχεία στις αρχές σχετικά με αυτό το ζήτημα.
«Η βιομηχανία τεχνολογίας έχει την τάση να αποπροσανατολίζει τους νέους από τις σχέσεις τους στον πραγματικό κόσμο», δήλωσε ο γερουσιαστής Στιβ Παντίλα, δημιουργός αυτού του νόμου.
«Οι νέες τεχνολογίες όπως τα chatbots μπορούν πράγματι να προσφέρουν έμπνευση και εκπαίδευση στους ανθρώπους αλλά χωρίς κατάλληλα μέτρα προστασίας μπορεί επίσης εύκολα να εκμεταλλευτούν ή ακόμα και ν’ απειλήσουν την ασφάλεια των παιδιών μας», τόνισε ο κυβερνήτης.
Aξιοσημείωτο είναι ότι στις Ηνωμένες Πολιτείες δεν υπάρχουν εθνικοί κανονισμοί που περιορίζουν τους κινδύνους σχετικούς με την Τεχνητή Νοημοσύνη ενώ ο Λευκός Οίκος προσπαθεί ενεργά ν’ αποτρέψει τις πολιτείες από το ν’ εφαρμόσουν δικούς τους κανονισμούς.