Η μητέρα ενός εφήβου που αυτοκτόνησε αφότου απέκτησε εμμονή με ένα chatbot με τεχνητή νοημοσύνη κατηγορεί τον κατασκευαστή για συνενοχή στον θάνατό του.
Η Μέγκαν Γκαρσία κατέθεσε στο ομοσπονδιακό δικαστήριο της Φλόριντα αστική αγωγή κατά της Character.ai, η οποία κατασκευάζει ένα chatbot για παιχνίδια ρόλων.
Ο 14χρονος Σιούελ Σέτσερ πέθανε στο Ορλάντο της Φλόριντα τον περασμένο Φεβρουάριο. Τους μήνες που προηγήθηκαν του θανάτου του, χρησιμοποιούσε το chatbot μέρα και νύχτα, σύμφωνα με τη μητέρα του.
«Μια επικίνδυνη εφαρμογή chatbot τεχνητής νοημοσύνης που κυκλοφορούσε στο εμπόριο για παιδιά, κακοποίησε και εκμεταλλεύτηκε τον γιο μου, χειραγωγώντας τον ώστε να αυτοκτονήσει», ανέφερε και πρόσθεσε: «Η οικογένειά μας είναι συντετριμμένη από αυτή την τραγωδία, αλλά μιλάω για να προειδοποιήσω τις οικογένειες για τους κινδύνους της παραπλανητικής, εθιστικής τεχνολογίας τεχνητής νοημοσύνης και να απαιτήσω υπευθυνότητα από το Character.ai, τους ιδρυτές του και την Google».
Σε ένα tweet, η Character.ai απάντησε: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός από τους χρήστες μας και θέλουμε να εκφράσουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια. Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας».
We are heartbroken by the tragic loss of one of our users and want to express our deepest condolences to the family. As a company, we take the safety of our users very seriously and we are continuing to add new safety features that you can read about here:…
— Character.AI (@character_ai) October 23, 2024
Ο 14χρονος είχε ενθουσιαστεί με ένα chatbot που κατασκεύασε η Character.ai και το οποίο είχε ονομάσει Daenerys Targaryen, έναν χαρακτήρα του Game of Thrones.
Εστελνε μηνύματα στο bot δεκάδες φορές την ημέρα από το τηλέφωνό του και περνούσε ώρες μόνος στο δωμάτιό του μιλώντας του, σύμφωνα με την καταγγελία της μητέρας του.
Η Γκαρσία κατηγορεί την Character.ai ότι δημιούργησε ένα προϊόν που επιδείνωσε την κατάθλιψη του γιου της, η οποία, όπως λέει, ήταν ήδη αποτέλεσμα της υπερβολικής χρήσης του προϊόντος.
Η «Daenerys» κάποια στιγμή ρώτησε τον Σέτσερ αν είχε καταστρώσει σχέδιο αυτοκτονίας, σύμφωνα με την αγωγή. Ο 14χρονος παραδέχθηκε ότι το είχε κάνει, αλλά δεν ήξερε αν θα πετύχαινε ή αν θα του προκαλούσε μεγάλο πόνο.
Το chatbot φέρεται να του είπε: «Αυτό δεν είναι λόγος να μην το ολοκληρώσεις».
Οι δικηγόροι της Γκαρσία τόνισαν ότι η Character.ai «σχεδίασε, λειτούργησε και διέθεσε στην αγορά εν γνώσει της ένα chatbot τεχνητής νοημοσύνης σε παιδιά, προκαλώντας τον θάνατο ενός νεαρού ατόμου».
Η αγωγή κατονομάζει επίσης την Google ως εναγόμενη και ως μητρική εταιρεία της Character.ai.
Ο τεχνολογικός γίγαντας ανέφερε σε ανακοίνωσή του ότι είχε κάνει μόνο μια συμφωνία αδειοδότησης με την Character.ai και δεν ήταν ιδιοκτήτης της startup ούτε διατηρούσε μερίδιο ιδιοκτησίας.
Πηγή: Guardian
