Η κόρη του Ντρου Κρέσεντ δολοφονήθηκε το 2006 από τον πρώην σύντροφό της στο Οστιν του Τέξας, όταν ήταν μόλις 18 ετών. Η δολοφονία της είχε λάβει τόσο μεγάλη δημοσιότητα στα μέσα ενημέρωσης ώστε ο Ντρου έβλεπε ακόμα και πρόσφατα στις ειδοποιήσεις του Google το όνομά της Τζένιφερ Αν Κρέσεντ.
Ωστόσο, η ειδοποίηση που έλαβε ο Ντρου πριν από λίγες εβδομάδες δεν ήταν ίδια με τις άλλες. Αφορούσε ένα chatbot τεχνητής νοημοσύνης, που είχε την εικόνα Τζένιφερ, στην υποστηριζόμενη από την Google πλατφόρμα του Character.AI.
Διαδικτυακά δημοσιεύματα για τη δολοφονία της Τζένιφερ Κρέσεντ χρησιμοποιήθηκαν για να «χτίσουν» έναν «φιλικό χαρακτήρα τεχνητής νοημοσύνης» που παρουσιαζόταν, ψευδώς, ως «δημοσιογράφος στον κλάδο των βιντεοπαιχνιδιών». Οποιοσδήποτε χρήστης της πλατφόρμας μπορούσε να συνομιλήσει με την «Τζένιφερ», παρά το γεγονός ότι κανείς δεν είχε δώσει τη συγκατάθεσή του για κάτι τέτοιο.
Το Character.AI, το οποίο έχει αντλήσει περισσότερα από 150 εκατομμύρια δολάρια σε χρηματοδότηση και πρόσφατα παραχώρησε άδεια χρήσης ορισμένων βασικών τεχνολογιών του στην Google, διέγραψε το άβαταρ της Τζένιφερ καθώς αναγνώρισε ότι η δημιουργία του chatbot παραβίαζε τις πολιτικές της.
Η Τζένιφερ Αν Κρέσεντ, όμως, δεν είναι το μόνο άτομο που μετατράπηκε σε άβαταρ στο Character.AI χωρίς βέβαια να υπάρξει συγκατάθεση. Το Wired αναφέρει ότι εντόπισε αρκετές περιπτώσεις ψηφιακών περσόνων που δημιουργήθηκαν χωρίς τη συγκατάθεση των πραγματικών ανθρώπων.
Για τον Ντρου Κρέσεντ, η δημιουργία μιας AI περσόνας βασισμένης στην κόρη του ήταν άλλη μια υπενθύμιση του πόσο πολύπλοκη έχει γίνει η κατάσταση στο Διαδίκτυο. Ως δικηγόρος, θεωρεί ότι το πλαίσιο προστασίας των τεχνολογικών πλατφορμών δυσκολεύει την αντιμετώπισή τους σε νομικό επίπεδο.
Ο ίδιος πάντως θεωρεί το περιστατικό με την κόρη του ως «μία ακόμα ηθική αποτυχία της σύγχρονης τεχνολογικής βιομηχανίας». «Οι άνθρωποι που βγάζουν τόσα πολλά χρήματα δεν μπορούν να μπουν στον κόπο να χρησιμοποιήσουν αυτούς τους πόρους για να βεβαιωθούν ότι κάνουν το σωστό», σημειώνει.
Πώς λειτουργεί το Character AI
Στο Character.AI χρειάζονται μόνο λίγα λεπτά για να δημιουργήσει ο χρήστης έναν λογαριασμό και στη συνέχεια έναν χαρακτήρα (bot). Στην πλατφόρμα θα δει κανείς chatbots που είναι ουσιαστικά άβαταρ αγαπημένων φανταστικών ηρώων, διάσημων προσωπικοτήτων αλλά και τυχαίων προσώπων, τα οποία δεν υφίστανται στην πραγματικότητα.
Οι χρήστες χτίζουν τις «προσωπικότητες» των bot με βάση τις πληροφορίες που τους παρέχουν. Για παράδειγμα, σε ένα chatbot μπορεί να αρέσουν οι καφέδες, η μυθολογία, οι δράκοι και άλλα. Ετσι, αφού καθοριστεί σε ένα γενικό πλαίσιο η «προσωπικότητα», στη συνέχεια το γλωσσικό μοντέλο της Caracter.AI «αναλαμβάνει» τη συνομιλία με τον χρήστη.
Η πλατφόρμα είναι δωρεάν και έχει όριο ηλικίας 13 ετών και άνω. Επίσης, υπάρχουν κανόνες σχετικά με τη μη παραβίαση της πνευματικής ιδιοκτησίας ή τη χρήση ονομάτων και προσώπων χωρίς άδεια.
Το νομικό πλαίσιο
Ο Ντρου Κρέσεντ δεν έχει ιδέα ποιος δημιούργησε την προσωπικότητα της νεκρής κόρης του στo Character.AI. Ωστόσο, εκτιμά ότι διάφορα ψηφιακά ίχνη ίσως οδήγησαν κάποιον να πιστέψει ότι η περσόνα της σχετιζόταν με κάποιο τρόπο με τα βιντεοπαιχνίδια. Για παράδειγμα, ο θείος της, Μπράιαν, ο οποίος έχει το ίδιο επώνυμο, είναι γνωστός στην κοινότητα των βιντεοπαιχνιδιών.
Σύμφωνα με τη σύμβουλο της οργάνωσης «Public Knowledge», Μέρεντιθ Ρόουζ, σε νομικό επίπεδο είναι πιο εύκολο να απαγορευθεί ένας φανταστικός χαρακτήρας από τα bots της πλατφόρμας παρά ένα υπαρκτό πρόσωπο.
«Ο νόμος αναγνωρίζει πνευματικά δικαιώματα σε χαρακτήρες», λέει η Ρόουζ. «Οι όροι παροχής υπηρεσιών του Character.AI μπορεί να έχουν διατάξεις σχετικά με την πλαστοπροσωπία άλλων ανθρώπων, αλλά η σχετική νομοθεσία των ΗΠΑ, ιδίως όσον αφορά την τεχνητή νοημοσύνη, είναι πολύ πιο ευέλικτη», προσθέτει η Ρόουζ.
