Λίγων συγγραφέων τα βιβλία συζητιούνται στα διεθνή ΜΜΕ προτού κυκλοφορήσουν. Ο ιστορικός Γιουβάλ Νώα Χαράρι είναι τέτοιος συγγραφέας και η δημοτικότητά του αποδεικνύεται και με το τελευταίο του βιβλίο, «Nexus: Μια σύντομη ιστορία των δικτύων πληροφοριών από την Εποχή του Λίθου μέχρι την εποχή της τεχνητής νοημοσύνης», που κυκλοφορεί σήμερα σε πολλές χώρες και στην Ελλάδα στα τέλη Σεπτεμβρίου από τις εκδόσεις Αλεξάνδρεια.
Οι κριτικές δεν είναι όλες διθυραμβικές (κάποιες κάνουν λόγο για κοινότοπες ή ανώφελες απόψεις), όμως η ιστορία που αφηγείται ο Χαράρι μοιάζει ιδιαίτερα επίκαιρη.
Τα αποσπάσματα που προδημοσιεύει η «Κ» προέρχονται από ένα κεφάλαιο με τίτλο «Γιατί οι δικτάτορες πρέπει να φοβούνται την ΑΙ», στο οποίο εξετάζεται το ενδεχόμενο ενός τσάτμποτ (ενός γλωσσικού μοντέλου, ικανού για συνομιλίες, όπως το ChatGPT), που αναπτύσσει τεράστιες δυνατότητες.
Το θεμέλιο κάθε αυταρχικού καθεστώτος είναι ο τρόμος. Αλλά πώς μπορείς να εκφοβίσεις; Αν ένα τσάτμποτ στο ρωσικό Διαδίκτυο αναφέρει εγκλήματα πολέμου που διαπράττουν οι Ρώσοι στρατιώτες στην Ουκρανία, κάνει ένα ασεβές αστείο για τον Βλαντιμίρ Πούτιν ή ασκήσει κριτική στη διαφθορά του κόμματος Ενωμένη Ρωσία του Πούτιν, τι θα μπορούσε να του κάνει το καθεστώς του Πούτιν; Οι πράκτορες της Εφ Ες Μπε δεν μπορούν να το φυλακίσουν, να το βασανίσουν ή να απειλήσουν την οικογένειά του.
Αν ένας απολυταρχικός ηγεμόνας του 21ου αιώνα δώσει στους υπολογιστές υπερβολικά μεγάλη εξουσία, μπορεί τελικά να καταντήσει μαριονέτα τους.
Η κυβέρνηση θα μπορούσε φυσικά να το μπλοκάρει ή να το διαγράψει και να προσπαθήσει να βρει και να τιμωρήσει τους ανθρώπους που το δημιούργησαν, αλλά αυτό είναι πολύ πιο δύσκολο από το να υποχρεώσει τους χρήστες να πειθαρχήσουν.
(…)
Το Σύνταγμα της Ρωσίας περιλαμβάνει μεγαλόστομες υποσχέσεις ότι «εγγυάται σε όλους ελευθερία σκέψης και λόγου» (Αρθρο 29.1), ότι «όλοι έχουν το δικαίωμα να αναζητούν, να λαμβάνουν, να μεταδίδουν, να παράγουν και να διαδίδουν πληροφορίες ελεύθερα» (29.4) και ότι «η ελευθερία των μέσων μαζικής ενημέρωσης είναι εγγυημένη.
Η λογοκρισία απαγορεύεται» (29.5). Κανένας Ρώσος πολίτης δεν είναι τόσο αφελής που να παίρνει τοις μετρητοίς αυτές τις εγγυήσεις. Αλλά οι υπολογιστές δεν καταλαβαίνουν καλά τη διγλωσσία.
Ενα τσάτμποτ που θα του έχει δοθεί η οδηγία να τηρεί τους ρωσικούς νόμους και αξίες, μπορεί να διαβάσει το Σύνταγμα και να βγάλει το συμπέρασμα ότι η ελευθερία του λόγου είναι μία από τις θεμελιώδεις ρωσικές αξίες. Επειτα, αφού θα έχει περάσει μερικές μέρες στον ρωσικό κυβερνοχώρο παρατηρώντας τι συμβαίνει στη ρωσική σφαίρα της πληροφορίας, το τσάτμποτ μπορεί να αρχίσει να ασκεί κριτική στο καθεστώς Πούτιν επειδή παραβιάζει τη θεμελιώδη ρωσική αξία της ελευθερίας του λόγου.
Οι άνθρωποι αντιλαμβάνονται επίσης αυτές τις αντιφάσεις, αλλά αποφεύγουν να τις επισημάνουν επειδή φοβούνται. Αλλά τι θα εμπόδιζε ένα τσάτμποτ να αναδείξει τα σχετικά καταδικαστικά πρότυπα; Και πώς θα εξηγούσαν οι Ρώσοι μηχανικοί δεδομένων σε ένα τσάτμποτ ότι, παρόλο που το Σύνταγμα της Ρωσίας εγγυάται σε όλους τους πολίτες ελευθερία λόγου και απαγορεύει τη λογοκρισία, εκείνο δεν πρέπει να πιστέψει πραγματικά το Σύνταγμα και δεν πρέπει να αναφέρει ποτέ αυτό το χάσμα ανάμεσα στη θεωρία και την πραγματικότητα;
(…)
Μακροπρόθεσμα, τα ολοκληρωτικά καθεστώτα είναι πιθανό να αντιμετωπίσουν έναν ακόμα μεγαλύτερο κίνδυνο: αντί να τους ασκεί κριτική, κάποιος αλγόριθμος μπορεί να προσπαθήσει να τα πάρει υπό τον έλεγχό του. Σε όλη την ιστορία, η μεγαλύτερη απειλή που αντιμετώπιζαν οι απολυταρχικοί ηγεμόνες προερχόταν συνήθως από τους υποτελείς τους.
Οπως σημειώσαμε στο Κεφάλαιο 5, κανένας Ρωμαίος αυτοκράτορας ή Σοβιετικός ηγέτης δεν ανατράπηκε από δημοκρατική επανάσταση, αλλά διέτρεχαν πάντα τον κίνδυνο να τους ανατρέψουν ή να τους μετατρέψουν σε μαριονέτες οι υποτελείς τους.
Αν ένας απολυταρχικός ηγεμόνας του 21ου αιώνα δώσει στους υπολογιστές υπερβολικά μεγάλη εξουσία, μπορεί τελικά να καταντήσει μαριονέτα τους. Το τελευταίο που θέλει ένας δικτάτορας είναι να δημιουργήσει κάτι ισχυρότερο από τον ίδιο ή μια δύναμη που δεν ξέρει πώς να την ελέγξει.
Αν οι αλγόριθμοι αναπτύξουν ποτέ ικανότητες όπως εκείνες στο νοητικό πείραμα (σ.σ.: του φιλοσόφου Νικ Μπόστρομ, ο οποίος υπέθεσε ότι αν σε έναν υπερευφυή υπολογιστή ανατεθεί η άνευ όρων αύξηση της παραγωγής ενός εργοστασίου συνδετήρων, τότε εκείνος θα κατακτούσε τη Γη, προκειμένου να χρησιμοποιήσει τους πόρους της για τον αποκλειστικό του στόχο), οι δικτατορίες θα είναι πολύ πιο ευάλωτες στον σφετερισμό της εξουσίας από αλγόριθμους απ’ ό,τι οι δημοκρατίες.
Ακόμα και για μια σούπερ μακιαβελική ΑΙ θα είναι πολύ δύσκολο να πάρει την εξουσία σε να κατανεμημένο δημοκρατικό σύστημα όπως αυτό των Ηνωμένων Πολιτειών. Ακόμα κι αν η ΑΙ μάθει πώς να χειραγωγεί τον πρόεδρο των ΗΠΑ, θα έχει να αντιμετωπίσει αντίσταση από το Κογκρέσο, το Ανώτατο Δικαστήριο, τους κυβερνήτες των πολιτειών, τα μέσα ενημέρωσης, τις μεγάλες εταιρείες και αναρίθμητες ΜΚΟ.
Πώς θα αντιμετώπιζε ο αλγόριθμος, για παράδειγμα, μια κωλυσιεργία της Γερουσίας; Η υφαρπαγή της εξουσίας σε ένα εξαιρετικά συγκεντρωτικό σύστημα είναι πολύ πιο εύκολη. Οταν όλη η εξουσία είναι συγκεντρωμένη στα χέρια ενός ατόμου, όποιος ελέγχει την πρόσβαση προς τον ηγεμόνα μπορεί και να τον ελέγχει – και μαζί του ολόκληρο το κράτος. Για να χακάρει κανείς το σύστημα, αρκεί να μάθει να χειραγωγεί ένα μόνο άτομο.
Μέσα στα επόμενα λίγα χρόνια, οι δικτάτορες του κόσμου μας έχουν να αντιμετωπίσουν πιο πιεστικά προβλήματα από την υφαρπαγή της εξουσίας από αλγόριθμους. Κανένα σύγχρονο σύστημα ΑΙ δεν μπορεί να χειραγωγήσει καθεστώτα σε τέτοια κλίμακα.
Ωστόσο, τα ολοκληρωτικά συστήματα διατρέχουν ήδη τον κίνδυνο να εμπιστεύονται υπερβολικά τους αλγόριθμους. Ενώ οι δημοκρατίες θεωρούν ότι όλοι είναι ικανοί για λάθη, στα ολοκληρωτικά καθεστώτα η θεμελιώδης αρχή είναι ότι το κυρίαρχο κόμμα ή ο ανώτατος ηγέτης έχουν πάντα δίκιο.
Τα καθεστώτα που βασίζονται σε αυτή την αρχή είναι ρυθμισμένα ώστε να πιστεύουν στην ύπαρξη μιας αλάθητης νοημοσύνης και διστάζουν να δημιουργήσουν ισχυρούς αυτοδιορθωτικούς μηχανισμούς που μπορεί να παρακολουθούν και να θέτουν κανόνες στην ιδιοφυΐα που βρίσκεται στην κορυφή.
Μέχρι τώρα τέτοια καθεστώτα εναπόθεταν την πίστη τους σε ανθρώπινα κόμματα και ηγέτες και ήταν εκκολαπτήρια για την ανάπτυξη της προσωπολατρίας. Αλλά στον 21ο αιώνα, αυτή η ολοκληρωτική παράδοση τα προετοιμάζει ώστε να περιμένουν το αλάθητο της ΑΙ.
Συστήματα που ήταν πρόθυμα να πιστέψουν στην τέλεια ιδιοφυΐα ενός Μουσολίνι, ενός Τσαουσέσκου ή ενός Χομεϊνί είναι επίσης έτοιμα να πιστέψουν στην αλάθητη ιδιοφυΐα ενός υπερνοήμονος υπολογιστή.
