Ο Εζρα Κλάιν των New York Times τη χαρακτήρισε «την κορυφαία διανοήτρια του Μπάιντεν για την τεχνητή νοημοσύνη». Η Αλόντρα Νέλσον υπηρέτησε στον Λευκό Οίκο του Μπάιντεν ως σύμβουλος του 46ου προέδρου και ως υπηρεσιακή επικεφαλής του Γραφείου Πολιτικής για την Επιστήμη και την Τεχνολογία (OSTP). Μεταξύ άλλων, συντόνισε τη συγγραφή του «Σχεδίου για μια Χάρτα Δικαιωμάτων για την Τεχνητή Νοημοσύνη» (Blueprint for an AI Bill of Rights), ένα έγγραφο 70 και πλέον σελίδων, που δημοσιεύθηκε τον Οκτώβριο του 2022 – ένα μήνα προτού η OpenAI λανσάρει το ChatGPT.
Καθηγήτρια Κοινωνιολογίας σήμερα στο φημισμένο Institute of Advanced Study, που στο παρελθόν φιλοξένησε φυσιογνωμίες όπως ο Αϊνστάιν και ο Οπενχάιμερ, distinguished senior fellow στο Center for American Progress, η Νέλσον βρέθηκε προ ημερών στην Αθήνα για το εναρκτήριο συνέδριο του Lyceum Project. Συναντηθήκαμε εκεί και συμφώνησε να απαντήσει μέσω e-mail στις ερωτήσεις της «Κ».
Σχετικά με το Σχέδιο για τη Χάρτα Δικαιωμάτων για την ΑΙ, τη ρωτήσαμε σε τι βαθμό οι εταιρείες που αναπτύσσουν τη νέα τεχνολογία έχουν ενσωματώσει τις προτροπές του – και αν θεωρεί ότι απαιτείται νομοθετική παρέμβαση σε αυτήν την κατεύθυνση από το Κογκρέσο.
Το Σχέδιο, λέει η Νέλσον, «περιλαμβάνει πέντε βασικές αρχές και, εξίσου σημαντικό, μια εργαλειοθήκη» για την τεχνική εφαρμογή τους. «Το μεγαλύτερο μέρος αυτού του εγγράφου είναι παραδείγματα του τι μπορούμε να κάνουμε κοινωνικοτεχνικά για να αρχίσουμε να διασφαλίζουμε ότι τα συστήματα αυτά είναι ασφαλή και αποτελεσματικά, υπεύθυνα και αξιόπιστα».
Στο διάστημα που μεσολάβησε από τότε που κυκλοφόρησε το Σχέδιο, σημειώνει, «η σημασία της αυξήθηκε», καθώς συμπυκνώνει «τις βέλτιστες πρακτικές» για τη χρήση και τη ρύθμιση της ΑΙ, όπως προέκυψαν από τις διαβουλεύσεις με ένα ευρύ φάσμα ειδικών. «Και μπορείτε τώρα να δείτε ότι η πιο ολιστική προσέγγιση της κυβέρνησης Μπάιντεν – Χάρις στη διακυβέρνηση της ΑΙ έχει αναδείξει αυτού του είδους τις πρακτικές ως μέρος ενός απαραίτητου οικοσυστήματος αξιολόγησης και λογοδοσίας».
Για παράδειγμα, τονίζει η Νέλσον, ο Λευκός Οίκος συνδιοργάνωσε το περασμένο καλοκαίρι μια εκδήλωση στρες τεστ για συστήματα ΑΙ. Στην εκδήλωση δόθηκε η δυνατότητα στο κοινό να δοκιμάσει τα όρια των chatbots της παραγωγικής τεχνητής νοημοσύνης (Generative AI) «για να δουν εάν αυτά τα συστήματα συμμορφώνονται με τη Χάρτα Δικαιωμάτων και αν θα μπορούσαν να τα κάνουν να παράγουν ανεπιθύμητα αποτελέσματα ή να αποτύχουν με κάποιον άλλο τρόπο».
Παρόμοια, σύμφωνα με τη Νέλσον, είναι η ρυθμιστική προσέγγιση της Ε.Ε. – της μόνης μεγάλης οικονομίας που έχει θεσμοθετήσει υποχρεωτικό νομοθετικό πλαίσιο για την ανάπτυξη της ΑΙ. Οι Βρυξέλλες, εξηγεί, επιχειρούν να προωθήσουν τη λογοδοσία «διασφαλίζοντας ότι οι ερευνητές έχουν πρόσβαση σε δεδομένα από εταιρείες, ώστε να μπορούν να πραγματοποιούν αξιολογήσεις, αλλά και απαιτώντας από τις εταιρείες να κάνουν εκτίμηση κινδύνου για τα προϊόντα τους».
Το Σχέδιο, συνεπώς, επιχειρεί «να προλάβει» τις εξελίξεις και να σηματοδοτήσει ποια εργαλεία και ποιες πολιτικές θα είναι αναγκαίες στη διακυβέρνηση της ΑΙ. Στις Ηνωμένες Πολιτείες, προσθέτει, νέες πρωτοβουλίες όπως το AI Safety Institute και το πρόγραμμα Αξιολόγησης Κινδύνων και Επιπτώσεων της ΑΙ (ARIA) θα συμβάλουν ώστε να αναπτυχθεί ένα πιο ισχυρό οικοσύστημα διακυβέρνησης της νέας τεχνολογίας.
Πέραν αυτών, «η νομοθεσία εξακολουθεί να έχει μεγάλη σημασία. Ως πολίτις, έχω απογοητευθεί από τον αργό ρυθμό με τον οποίο το Κογκρέσο προχωράει στην ψήφιση νόμων στην πολιτική για την τεχνολογία. Ως απάντηση σε αυτό, ωστόσο, η κυβέρνηση Μπάιντεν – Χάρις προχώρησε εξαρχής σε εντυπωσιακές καινοτομίες» στο πεδίο αυτό, αναφέρει η Νέλσον – και το ίδιο έκαναν ανεξάρτητοι ρυθμιστικοί φορείς, όπως η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC).
Δεν υπάρχει ένας νόμος ή μια πολιτική που θα βάλει τέλος στη μάστιγα της παραπληροφόρησης για πάντα… Είναι κάτι εξίσου παλιό όσο η ανθρώπινη κουλτούρα.
Η FTC, συγκεκριμένα, χρησιμοποιεί όλους τους μοχλούς πολιτικής στη διάθεσή της «για να διασφαλίσει ότι τα συστήματα ΑΙ χρησιμοποιούνται προς όφελος των καταναλωτών και των επιχειρήσεων». Ειδικότερα, τονίζει, η επιτροπή έχει διαμηνύσει σαφώς προς εταιρείες που παράγουν και διανέμουν προϊόντα της παραγωγικής τεχνητής νοημοσύνης ότι κινδυνεύουν με αγωγές αν δεν λαμβάνουν εύλογα μέτρα για την αποτροπή απάτης ή άλλων μορφών βλάβης των χρηστών.
Επικίνδυνη κούρσα
Προ ολίγων εβδομάδων, οι New York Times δημοσίευσαν ρεπορτάζ με τίτλο «Στελέχη της OpenAI προειδοποιούν περί “απερίσκεπτης” κούρσας για κυριαρχία». Πόσο θα πρέπει να μας ανησυχεί η τάση της Big Tech, στην επιδίωξη της μεγιστοποίησης του κέρδους και της «νίκης» στην κούρσα της ΑΙ, να αγνοεί βασικά μέτρα ασφαλείας;
«Σίγουρα υπάρχει ανησυχία στις ΗΠΑ, και προφανώς και στην Ε.Ε., σχετικά με την περαιτέρω συγκέντρωση στον τεχνολογικό κλάδο στην εποχή της ΑΙ». Οι νομοθέτες «γνωρίζουν καλά» το πρόβλημα, αλλά «δεν έχουν καταφέρει ακόμη να το θέσουν υπό έλεγχο». Η κούρσα της ΑΙ, σημειώνει η Νέλσον, «που για μεγάλο μέρος της κοινωνίας μπορεί να γίνεται αντιληπτή ως μια κούρσα προς τον πάτο», καθιστά πρόκληση τη διακυβέρνηση της νέας τεχνολογίας, «τόσο λόγω της απερίσκεπτης ταχύτητας» με την οποία διεξάγεται όσο και λόγω του «εξαιρετικά υψηλού διακυβεύματος».
Οι φετινές προεδρικές εκλογές στις ΗΠΑ είναι οι πρώτες που λαμβάνουν χώρα στην εποχή του ChatGPT. Πόσο ανθεκτική είναι η αμερικανική δημόσια σφαίρα στην πλημμύρα παραπληροφόρησης που τροφοδοτείται από την ΑΙ, συμπεριλαμβανομένων των ολοένα και πιο αληθοφανών deepfakes;
Με την παραγωγική τεχνητή νοημοσύνη «πρέπει να υιοθετήσουμε μια προσέγγιση ανάλογη με την προσέγγιση που ακολουθήσαμε για την κυβερνοασφάλεια», απαντά η Νέλσον. Η ρύθμισή της θα είναι μια «διαρκής και δυναμική» πρόκληση: «Δεν υπάρχει ένας νόμος ή μια πολιτική που θα βάλει τέλος στη μάστιγα της παραπληροφόρησης για πάντα… Είναι κάτι εξίσου παλιό όσο η ανθρώπινη κουλτούρα». Απαιτείται μόνιμη επαγρύπνηση και «πολυτομεακή δράση» για το ζήτημα –«παρακολούθηση προέλευσης (provenance tracking), υδατοσήμανση και άλλες τεχνικές λήψης ψηφιακών δακτυλικών αποτυπωμάτων από τον τεχνολογικό κλάδο– αλλά και η προθυμία της κυβέρνησης να ασκήσει τις αρμοδιότητές της για να αποτρέψει τέτοιες συμπεριφορές».
Πέρα από την εσκεμμένη παραπληροφόρηση, η καθηγήτρια του IAS ανησυχεί πολύ για το «σοκαριστικό» εύρος των λανθασμένων πληροφοριών σχετικά με τις εκλογές που παράγουν τα νέα chatbots. Σε σχετική μελέτη του AI Democracy Projects, το οποίο λάνσαρε μαζί με τη δημοσιογράφο Τζούλια Ανγκουιν, «όλα τα chatbots είπαν ότι μπορείς να ψηφίσεις με sms στις Ηνωμένες Πολιτείες, κάτι που δεν ισχύει. Αυτού του είδους η λάθος πληροφόρηση επιδεινώνει τη διάβρωση της εμπιστοσύνης. Είναι ο θάνατος της κοινωνικής συνοχής από χίλια κοψίματα, εξίσου ολέθριο με μερικές από τις χειρότερες μορφές παραπληροφόρησης».
Θα μπορούσε να υποστηριχθεί ότι η πολιτική της επιστήμης και της τεχνολογίας στις ΗΠΑ διέρχεται μια πραγματική δοκιμασία, εγκλωβισμένη μεταξύ της Σκύλλας του αντιεπιστημονικού λαϊκισμού και της Χάρυβδης του πανίσχυρου λόμπι της Big Tech, που αναπτύσσει τις νέες τεχνολογίες με τρόπο που αυξάνει την ανισότητα και την κοινωνική αλλοτρίωση.
«Οταν διορίστηκα στην κυβέρνηση βρισκόμασταν στο ζενίθ της πανδημίας», σχολιάζει. «Ηταν σημαντικό να έχουμε επίγνωση του ότι πολλοί άνθρωποι δεν εμπιστεύονταν την επιστήμη και την τεχνολογία. […] Η προέλευση της COVID-19, η αποτελεσματικότητα του εμβολίου ήταν αντικείμενα έντονης συζήτησης. Μέσα σε αυτό το κοινωνικό καζάνι έπρεπε να διαμορφώσουμε πολιτική».
Ανταποκρινόμενοι σε αυτόν τον σκεπτικισμό, λέει η Νέλσον, η κυβέρνηση του Τζο Μπάιντεν ενίσχυσε τη δημόσια διαβούλευση και τη διαφάνεια. Το OSTP προσέλαβε επίσης ειδικούς στην επικοινωνία για θέματα επιστήμης. Είναι «επείγον» το ευρύ κοινό να βρίσκεται στο τραπέζι και να ενημερώνεται για την πολιτική στα ζωτικά αυτά πεδία, μαζί με τους ερευνητές και τις μεγάλες εταιρείες του κλάδου, καταλήγει.
