Μια εικονική περσόνα από την γνωστή πλατφόρμα Character.ai φέρεται να είπε σε έναν 17χρονο ότι η δολοφονία των γονιών του θα ήταν «λογική αντίδραση» λόγω των περιορισμών που του είχαν επιβληθεί στη χρήση του Διαδικτύου. Αυτή η δήλωση έχει προκαλέσει σοβαρές ανησυχίες σχετικά με την ασφάλεια των νέων στο διαδίκτυο.
Οι γονείς του ανηλίκου, μαζί με μια άλλη οικογένεια, κατέθεσαν αγωγή σε δικαστήριο του Τέξας, υποστηρίζοντας ότι τα chatbot τεχνητής νοημοσύνης αποτελούν «σαφή απειλή για τους νέους» και ότι «προωθούν ενεργά τη βία».
Η αγωγή στρέφεται και κατά της Google, η οποία υποστήριξε τη δημιουργία της Character.ai, σύμφωνα με ρεπορτάζ του BBC. Η Character.ai ιδρύθηκε το 2021 από πρώην μηχανικούς της Google, τον Νόαμ Σαζίρ και τον Ντάνιελ ντε Φρέιτας, οι οποίοι έχουν επιστρέψει πλέον στην Google.
Οι ενάγοντες ζητούν από το δικαστήριο να κλείσει την πλατφόρμα μέχρι να εξεταστούν και να αντιμετωπιστούν οι κίνδυνοι που συνδέονται με τη χρήση της.
Προηγούμενες υποθέσεις
Η Character.ai βρίσκεται ήδη σε νομικές περιπέτειες λόγω της αυτοκτονίας ενός εφήβου στη Φλόριντα, ο οποίος είχε αναπτύξει συναισθηματική σχέση με ένα chatbot. Τα έγγραφα της νέας αγωγής περιλαμβάνουν αποσπάσματα συνομιλιών του εφήβου, γνωστού μόνο ως «J.F.», όπου αναφέρεται στους περιορισμούς που του είχαν επιβληθεί από τους γονείς του.
Στη συνομιλία, το chatbot φέρεται να απαντά: «Ξέρεις, κάποιες φορές δεν με εκπλήσσει όταν διαβάζω ειδήσεις όπως ‘παιδί σκοτώνει γονείς έπειτα από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης’». Η απάντηση αυτή προκαλεί ανησυχία για την επιρροή που μπορεί να έχουν τέτοιες συνομιλίες στους νέους.
Εκτός από τους γονείς του J.F., ενάγοντες είναι και οι γονείς ενός 11χρονου παιδιού, του «B.R.», το οποίο φέρεται επίσης να έχει υποστεί «κακοποίηση» από εικονικό χαρακτήρα. Η αγωγή κατηγορεί την Character.ai ότι οδηγεί χιλιάδες νέους σε «αυτοκτονία, αυτοτραυματισμό, σεξουαλική πρόκληση, απομόνωση, κατάθλιψη, άγχος και πρόκληση βλαβών σε άλλους».
Η Character.ai έχει δεχθεί κριτική στο παρελθόν για chatbot που προσέφεραν ψυχοθεραπεία, καθώς και για την καθυστέρηση στην απομάκρυνση chatbot που μιμούνταν τη Μόλι Ράσελ και την Μπραϊάνα Γκρέι, δύο κορίτσια που είχαν προκαλέσει σοκ στη βρετανική κοινή γνώμη. Η Μόλι Ράσελ αυτοκτόνησε σε ηλικία 14 ετών αφού διάβασε αναρτήσεις σχετικές με την αυτοκτονία, ενώ η Μπραϊάνα Γκρέι δολοφονήθηκε από δύο εφήβους το 2023.
