Ο Γιουβάλ Νόα Χαράρι ανήκει στον στενό κύκλο των δημόσιων διανοουμένων που θεωρούνται διασημότητες. Τα βιβλία του, με την πανοραμική τους ματιά στην ανθρώπινη Ιστορία, έχουν πουλήσει 45 εκατομμύρια αντίτυπα σε 65 γλώσσες. Παραμονές της κυκλοφορίας του νέου του βιβλίου, «Nexus», στην Ελλάδα στις 30 Σεπτεμβρίου (από τις Εκδόσεις Αλεξάνδρεια), ο Χαράρι μίλησε στην «Κ» για την τεχνητή νοημοσύνη, την παραπληροφόρηση, τη μάχη μεταξύ της δημοκρατίας και της απολυταρχίας, τον Νετανιάχου και τον Τραμπ. Ακολουθεί μία ελαφρώς επιμελημένη εκδοχή της συζήτησής μας.
– Η πολιτική πάντα μαστιζόταν από ψευδείς ειδήσεις και δημαγωγούς. Γιατί θεωρείτε ότι αυτή η συγκυρία είναι ιδιαίτερα υπονομευτική για την έννοια της αλήθειας;
– Πράγματι, οι ψευδείς ειδήσεις, οι θεωρίες συνωμοσίας, η προπαγάνδα, οι φαντασιώσεις δεν είναι τίποτα καινούργιο. Υφίστανται από την Εποχή του Λίθου. Αυτό που είναι διαφορετικό σήμερα είναι η τεχνολογία που χρησιμοποιείται για τη δημιουργία και τη διάδοση της πληροφορίας. Eνα από τα επιχειρήματα του βιβλίου είναι ότι δεν ήταν δυνατόν να υπάρξει η δημοκρατία σε μεγάλη κλίμακα πριν από την εφεύρεση της εφημερίδας, του ραδιοφώνου και της τηλεόρασης. Η δημοκρατία είναι μία συζήτηση – και παλαιότερα δεν υπήρχε η τεχνολογία για τη διεξαγωγή αυτής της συζήτησης μεταξύ εκατομμυρίων ανθρώπων. Τώρα, με την ανάδυση της τεχνητής νοημοσύνης έχουμε για πρώτη φορά μια μη ανθρώπινη μορφή νοημοσύνης που είναι ικανή να παράγει περιεχόμενο από μόνη της – και μάλιστα να συνομιλεί διαδικτυακά με ανθρώπους υποδυόμενη ότι έχει ανθρώπινη υπόσταση. Αυτή είναι μια νέα και τεράστια πρόκληση.
– Eχετε χαρακτηρίσει την ΑΙ «εξωγήινη νοημοσύνη». Με ποια έννοια; Ποιο είναι το καταστροφικό σενάριο σχετικά με την εξέλιξή της στο οποίο δεν έχουμε δώσει επαρκή προσοχή;
– Είναι «εξωγήινη» με την έννοια ότι λαμβάνει αποφάσεις και παράγει ιδέες με έναν τρόπο ριζικά διαφορετικό από τους ανθρώπους. Οι άνθρωποι βασίζουν τις αποφάσεις τους σε έναν ή δύο κρίσιμους παράγοντες. Δεν μπορούμε να λάβουμε υπόψη μας καθετί που σχετίζεται κάπως με την απόφαση που πρέπει να πάρουμε. Η ΑΙ έχει αυτή τη δυνατότητα. Αυτό δεν είναι αναγκαστικά κακό – απλά είναι αλλότριο. Το είδαμε με το Go: δεκάδες εκατομμύρια άτομα στην Ανατολική Ασία διατύπωναν στρατηγικές για το συγκεκριμένο παιχνίδι και ξαφνικά εμφανίζεται το Alpha Go και μέσα σε λίγες μέρες μαθαίνει να παίζει καλύτερα από τον παγκόσμιο πρωταθλητή, αλλά και να αναπτύσσει στρατηγικές εντελώς αδιανόητες για το ανθρώπινο μυαλό. Το ίδιο πιθανώς θα συμβεί με τον πόλεμο, τα χρηματοοικονομικά, τη θρησκεία και τόσα άλλα πεδία. Αυτό δημιουργεί και θετικές προοπτικές – καινούργια φάρμακα, για παράδειγμα. Oσον αφορά τα καταστροφικά σενάρια, κάποια είναι εύκολο να τα φανταστούμε. Eνας δικτάτορας δίνει τον έλεγχο του πυρηνικού του οπλοστασίου στην ΑΙ, η οποία προκαλεί πυρηνικό πόλεμο· κάποιοι τρομοκράτες χρησιμοποιούν την ΑΙ για να συνθέσουν έναν νέο ιό και να προκαλέσουν μια επιδημία. Αλλά η φύση της ΑΙ ως ανεξάρτητου δρώντος σημαίνει ότι μπορεί να θέσει σε κίνηση εκατοντάδες επικίνδυνα σενάρια τα οποία δεν μπορούμε να προβλέψουμε. Και μιλάμε για έναν τεράστιο αριθμό τέτοιων δρώντων – στις ένοπλες δυνάμεις όπου θα επιλέγουν τους στόχους στρατιωτικών επιχειρήσεων, στην οικονομία όπου θα συμμετέχουν σε αγοραπωλησίες και θα επινοούν νέα χρηματοοικονομικά εργαλεία, στα δικαστήρια όπου θα ορίζουν τις ποινές των κατάδικων… Δεν μιλάω για χολιγουντιανά σενάρια με ρομπότ που πυροβολούν ανθρώπους, αλλά θεωρώ ότι η ισχύς αυτή θα πρέπει να μας κάνει να ρυθμίσουμε πολύ πιο προσεκτικά την τεχνητή νοημοσύνη και να επιβραδύνουμε τον ρυθμό με τον οποίο της δίνουμε τόσο μεγάλη εξουσία επί της ζωής μας.
Αν οι ΗΠΑ σταματήσουν να είναι μια δημοκρατική χώρα, οι συνέπειες για τον υπόλοιπο κόσμο θα είναι ανυπολόγιστες.
– Ρωτάτε στο βιβλίο, κάπως ανατριχιαστικά: «Τι θα γίνει όταν η LaMDA (το chatbot της Google που έπεισε τον μηχανικό που επικοινωνούσε μαζί του ότι έχει αναπτύξει συνείδηση) συναντήσει τον QAnon;». Λοιπόν; Τι θα γίνει;
– Θα μπορούσαμε να έχουμε τις πρώτες θρησκευτικές αιρέσεις, που αποδεδειγμένα έχουν δημιουργηθεί από μια μη ανθρώπινη μορφή νοημοσύνης! Κάθε αίρεση στην Ιστορία ισχυρίζεται κάτι τέτοιο, ότι η πηγή έμπνευσής της, αλλά και των ιερών βιβλίων της, είναι μια μη ανθρώπινη ή υπεράνθρωπη μορφή νοημοσύνης. Τώρα η ΑΙ, εκμεταλλευόμενη τη βαθιά γνώση που αποκτά –π.χ. μέσω των social media– για τα ενδιαφέροντα και τα συναισθήματα των ανθρώπινων χρηστών του Διαδικτύου, μπορεί να δημιουργήσει τη δική της αίρεση και να προσηλυτίσει τους επιρρεπείς. Και σε αυτή την περίπτωση, σε αντίθεση με το παρελθόν, τα ιερά βιβλία θα συνομιλούν με τους πιστούς! Σκεφτείτε τη δύναμη που απέκτησαν τα ιερά βιβλία ιστορικά – και τώρα αναλογιστείτε ένα ιερό βιβλίο, που δεν δίνει απλά την υπόσχεση ότι κάποιος ακούει την προσευχή σου, αλλά που σου απαντάει σε πραγματικό χρόνο!
– Οι μεγάλες εταιρείες που αναπτύσσουν την ΑΙ παρουσιάζουν μια ρόδινη εικόνα του μέλλοντος, όπου «υπερευφυή εργαλεία» θα βελτιώνουν ποικιλοτρόπως τη ζωή μας. Η γενική τεχνητή νοημοσύνη, ωστόσο, συνεπάγεται μηχανές που έχουν κάτι σαν συνείδηση. Θα ήταν ηθικό τέτοιες μορφές νοημοσύνης να χρησιμοποιούνται ως εργαλεία;
– Αν έχουν συνείδηση, τότε είναι ηθικά υποκείμενα. Αυτό ανοίγει ένα εντελώς νέο πεδίο ερωτήσεων. Σε αυτή την περίπτωση πρέπει να λαμβάνονται υπόψη τα συμφέροντα και τα αισθήματά τους, το αν υποφέρουν ή όχι. Φυσικά θα είναι πολύ δύσκολο να κρίνει κανείς αν αυτές οι εξελιγμένες μορφές ΑΙ διαθέτουν όντως συνείδηση. Ακόμη και η ανθρώπινη συνείδηση δεν είναι κάτι που μπορεί να αποδειχθεί, ενώ θα υπάρχουν πολλοί που θα έχουν συμφέρον να δημιουργήσουν μορφές ΑΙ, που θα προσομοιάζουν σε όντα με συνείδηση, χωρίς αυτό να ισχύει. Θα καταλήξει να είναι προϊόν κοινωνικών συμβάσεων: αν αρκετοί άνθρωποι αρχίσουν να ερμηνεύουν τη συμπεριφορά των μηχανών αυτών ως ενδεικτική ύπαρξης συνείδησης, η αλήθεια δεν έχει σημασία: η κοινωνία θα τις αντιμετωπίσει ως όντα με συνείδηση.
Στις Ηνωμένες Πολιτείες, εν τω μεταξύ, ήδη υπάρχει η νομική διαδικασία για να αποκτήσουν δικαιώματα. Στο αμερικανικό σύστημα δικαίου, οι ανώνυμες εταιρείες έχουν διευρυμένη νομική προσωπικότητα. Αν ένα σύστημα ΑΙ μετατραπεί σε ανώνυμη εταιρεία, είναι πλέον άτομο με δικαιώματα. Και μάλιστα το άτομο αυτό, σε αντίθεση με τις εταιρείες που γνωρίζαμε έως τώρα, όπου τις αποφάσεις τις παίρνουν οι άνθρωποι που ήταν στελέχη τους, μπορεί να παίρνει αποφάσεις μόνο του. Να ανοίξει τραπεζικό λογαριασμό, να βγάζει χρήματα – και να χρησιμοποιεί το εισόδημά του για να επηρεάζει πολιτικούς και να αλλάξει τη νομοθεσία ώστε να αποκτήσει περισσότερα δικαιώματα.
– Το βιβλίο καταπιάνεται, μεταξύ άλλων, με την έννοια του λαϊκισμού και πώς στρεβλώνει την αναζήτηση της αλήθειας. Σε δύο μήνες έχουμε εκλογές στη σημαντικότερη χώρα του δυτικού κόσμου και ο ένας βασικός υποψήφιος αποτελεί την ενσάρκωση του σύγχρονου λαϊκισμού. Πόσο σημαντικό είναι να ηττηθεί ο Ντόναλντ Τραμπ για την υπεράσπιση της αλήθειας και του κράτους δικαίου στη Δύση;
– Είναι τρομακτικά σημαντικό. Για τα περισσότερα θέματα οι συνέπειες της επιλογής του ενός ή του άλλου υποψηφίου δεν είναι τόσο μεγάλες. Το πρόβλημα ξεκινάει όταν ένας πολιτικός θέλει να αλλάξει τους κανόνες του δημοκρατικού συστήματος ώστε να μην μπορείς να τον αντικαταστήσεις. Ακυρώνεται έτσι το μεγαλύτερο πλεονέκτημα της δημοκρατίας έναντι της απολυταρχίας, αυτός ο αυτοδιορθωτικός μηχανισμός. Αυτό ήταν ανέκαθεν το μεγαλύτερο πρόβλημα της δημοκρατίας: ηγέτες που αναρριχήθηκαν στην εξουσία με δημοκρατικά μέσα και μετά έστησαν το παιχνίδι ώστε να μην μπορεί ο λαός να τους διώξει. Ο Τραμπ μας έχει δείξει ότι έτσι σκέφτεται, αρνούμενος (το 2020) να πει ότι θα δεχθεί το αποτέλεσμα των εκλογών αν χάσει και χρησιμοποιώντας βία στις 6 Ιανουαρίου για να παραμείνει στην εξουσία, στην πιο ευαίσθητη στιγμή στη ζωή οποιασδήποτε δημοκρατίας: τη μεταβίβαση της εξουσίας. Και φυσικά, αν οι ΗΠΑ σταματήσουν να είναι δημοκρατική χώρα, οι συνέπειες για τον υπόλοιπο κόσμο θα είναι ανυπολόγιστες.
Η πιο μισητή μορφή στην ιστορία του Ισραήλ
– Η δική σας χώρα βρίσκεται σε πόλεμο εδώ και σχεδόν ένα χρόνο, μετά τη φρικτή επίθεση της 7ης Οκτωβρίου. Η ημέρα εκείνη, εκτός των άλλων, ήταν η μεγαλύτερη αποτυχία ασφαλείας στην ιστορία του κράτους του Ισραήλ. Πώς εξηγείτε το γεγονός ότι ο Μπέντζαμιν Νετανιάχου, που πάντα τόνιζε ότι είναι ο μόνος που μπορεί να εγγυηθεί την ασφάλεια του Ισραήλ, παραμένει σήμερα πρωθυπουργός;
– Δεν είναι καλή είδηση για το Ισραήλ. Είναι ένας άνθρωπος εντελώς ανίκανος να αναλάβει την ευθύνη όταν κάτι πάει στραβά – ενώ πιστώνει πάντα στον εαυτό του, εντός δευτερολέπτων, οτιδήποτε καλό συμβαίνει στη χώρα, ακόμη κι αν δεν είχε καμία σχέση με αυτό. Κυβερνάει εδώ και 15 χρόνια, με ένα πολύ σύντομο διάλειμμα, και δεν ανέλαβε ούτε κατ’ ελάχιστον την ευθύνη για την 7η Οκτωβρίου. Ο πρωθυπουργός δεν ευθύνεται, φυσικά, για την πράξη του κάθε στρατιώτη. Αλλά η κυβέρνηση έχει μια νευραλγική ευθύνη: θέτει τις προτεραιότητες της χώρας. Ο Νετανιάχου όταν επανεξελέγη τον Δεκέμβριο του 2022 δεν εστίασε στην αντιμετώπιση της Χαμάς ή της Χεζμπολάχ ή του Ιράν· επέλεξε, αντ’ αυτού, να επιτεθεί στο Ανώτατο Δικαστήριο, το μοναδικό αντίβαρο στην ισχύ της κυβέρνησης. Σε αυτό εστίασε έως τον Οκτώβριο του 2023, παρά τις διαδηλώσεις εκατοντάδων χιλιάδων πολιτών εναντίον του. Αν είχε αφιερώσει στη Χαμάς το ένα τέταρτο της προσοχής που αφιέρωσε στο Ανώτατο Δικαστήριο, η 7η Οκτωβρίου θα είχε αποφευχθεί. Η δημοτικότητά του αντανακλά το γεγονός ότι η κοινή γνώμη στο Ισραήλ έχει μετακινηθεί πολύ σημαντικά προς τα δεξιά. Είναι μια πιο εθνικιστική, πιο θρησκευόμενη χώρα. Φυσικά, ο μισός πληθυσμός της χώρας τον απεχθάνεται. Είναι η πιο μισητή μορφή στην Ιστορία του Ισραήλ. Τον συγκρίνω με τον Βίκτορ Ορμπαν. Η διαφορά είναι ότι η Ουγγαρία δεν αντιμετωπίζει υπαρξιακό κίνδυνο· δεν θα εισβάλει κανείς στην Ουγγαρία. Μπορεί, συνεπώς, να επιβιώσει διχασμένη. Το Ισραήλ δεν μπορεί. Αντιμετωπίζει πραγματικό υπαρξιακό κίνδυνο και για να επιβιώσει πρέπει να είναι ενωμένο. Ακόμη κι αν λατρεύει κάποιος τον Νετανιάχου, είναι αδύνατο να ισχυριστεί ότι μπορεί να ενώσει το Ισραήλ. Συνεπώς, παραμένοντας γαντζωμένος στην εξουσία, θέτει ξανά τα δικά του συμφέροντα πάνω από αυτά του έθνους· είναι διατεθειμένος να δει τη χώρα του να καταστρέφεται, αρκεί να διατηρήσει τη θέση ισχύος του. Επιβεβαιώνοντας, δε, με τις πολιτικές του και με τους ανοιχτά ρατσιστές που έχει στο υπουργικό του συμβούλιο τις κατηγορίες των εχθρών του Σιωνισμού, ότι πρόκειται για μια ρατσιστική ιδεολογία, ουσιαστικά δείχνει ότι δεν είναι απλώς μη πατριώτης – είναι και αντισιωνιστής.
Φωτ. «Πρέπει να ρυθμίσουμε πολύ πιο προσεκτικά την τεχνητή νοημοσύνη και να επιβραδύνουμε τον ρυθμό με τον οποίο της δίνουμε τόσο μεγάλη εξουσία επί της ζωής μας», λέει ο Γιουβάλ Νόα Χαράρι. [AP Photo/Oded Balilty]
