Καθώς η επανάσταση της τεχνητής νοημοσύνης (ΑΙ) επιταχύνεται, βομβαρδιζόμαστε τόσο από ουτοπικά οράματα όσο και από δυσοίωνες προφητείες. Είναι δύσκολο να υπολογίσουμε την έκταση της απειλής, γιατί έχουμε μάθει να φοβόμαστε το λάθος σενάριο. Η επιστημονική φαντασία μάς έχει επανειλημμένα προειδοποιήσει για τη Μεγάλη Εξέγερση των Ρομπότ. Σε πλήθος μυθιστορημάτων και ταινιών επιστημονικής φαντασίας –όπως «Ο εξολοθρευτής» και το «Matrix»– η ΑΙ και τα ρομπότ αποφασίζουν να καταλάβουν τον κόσμο, να επαναστατήσουν κατά των ανθρώπινων αφεντικών τους και να υποδουλώσουν ή να αφανίσουν την ανθρωπότητα. Κάτι τέτοιο είναι εξαιρετικά απίθανο να συμβεί στο κοντινό μέλλον. Δεν υπάρχει η απαιτούμενη τεχνολογία. Προς το παρόν, τα εργαλεία ΑΙ είναι ηλίθιοι ειδήμονες. Μπορεί να έχουν κατακτήσει κάποιους περιορισμένους τομείς όπως το σκάκι, η αναδίπλωση πρωτεϊνών ή η σύνθεση κειμένων, αλλά τους λείπει η γενική νοημοσύνη που απαιτείται για ιδιαίτερα πολύπλοκες δραστηριότητες όπως η δημιουργία ενός ρομποτικού στρατού και η κατάληψη μιας χώρας. Δυστυχώς, το γεγονός ότι η Μεγάλη Εξέγερση των Ρομπότ φαίνεται απίθανη δεν σημαίνει ότι δεν έχουμε τίποτα να φοβηθούμε. Γιατί αυτό που πρέπει να μας ανησυχεί δεν είναι τα φονικά ρομπότ αλλά οι ψηφιακοί γραφειοκράτες. Η «Δίκη» του Κάφκα αποτελεί καλύτερο οδηγό για τη δυστοπία της ΑΙ από τον «Εξολοθρευτή».
Οι άνθρωποι είναι μαθημένοι, μέσα από εκατομμύρια χρόνια εξέλιξης, να τρέμουν τα βίαια αρπακτικά, όπως αυτό που παρουσιάζεται στον «Εξολοθρευτή». Μας είναι πολύ πιο δύσκολο να κατανοήσουμε τις γραφειοκρατικές απειλές, γιατί η γραφειοκρατία είναι ένα πολύ καινούργιο φαινόμενο στην εξέλιξη των θηλαστικών και του ανθρώπου. Το μυαλό μας είναι προετοιμασμένο να φοβάται τον θάνατο από μια τίγρη, αλλά όχι τον θάνατο από ένα έγγραφο.
Η γραφειοκρατία άρχισε να αναπτύσσεται μόλις πριν από περίπου 5.000 χρόνια, μετά την εφεύρεση της γραφής στην αρχαία Μεσοποταμία. Αλλά η γραφειοκρατία άλλαξε γρήγορα τις ανθρώπινες κοινωνίες με τρόπο ριζικό και απροσδόκητο. Σκεφτείτε, για παράδειγμα, τον αντίκτυπο που είχαν τα έγγραφα και οι γραφειοκράτες που τα χειρίζονταν στην έννοια της ιδιοκτησίας. Πριν από την εφεύρεση των εγγράφων, η ιδιοκτησία βασιζόταν στη συναίνεση της κοινότητας. Αν σας «ανήκε» ένα χωράφι, αυτό σήμαινε ότι οι γείτονές σας συμφωνούσαν πως ήταν δικό σας, τόσο με τα λόγια όσο και με τις πράξεις τους. Δεν έχτιζαν σπίτι σε αυτό το χωράφι και δεν καρπώνονταν τα προϊόντα του, εκτός αν τους το επιτρέπατε.
Ο κοινοτικός χαρακτήρας της κτήσης περιόριζε το ατομικό δικαίωμα της ιδιοκτησίας. Για παράδειγμα, οι γείτονές σας μπορεί να συμφωνούσαν ότι είχατε το αποκλειστικό δικαίωμα να καλλιεργείτε ένα συγκεκριμένο χωράφι, αλλά δεν αναγνώριζαν το δικαίωμά σας να το πουλήσετε σε ξένους. Ταυτόχρονα, όσο η ιδιοκτησία ήταν ζήτημα κοινοτικής συναίνεσης, αυτό εμπόδιζε τις απόμακρες κεντρικές αρχές να ασκούν έλεγχο στη γη. Ελλείψει γραπτών αρχείων και περίπλοκων γραφειοκρατιών, κανένας βασιλιάς δεν μπορούσε να θυμάται σε ποιον ανήκε ποιο χωράφι σε εκατοντάδες απομακρυσμένα χωριά. Οι βασιλείς δυσκολεύονταν επομένως να αυξήσουν τους φόρους, πράγμα που με τη σειρά του τους εμπόδιζε να διατηρούν στρατούς και αστυνομικές δυνάμεις.
Επειτα εφευρέθηκε η γραφή και ακολούθησε η δημιουργία αρχείων και γραφειοκρατιών. Η τεχνολογία ήταν αρχικά πολύ απλή. Οι αρχαίοι γραφειοκράτες της Μεσοποταμίας χρησιμοποιούσαν μικρά ραβδάκια για να αποτυπώνουν σημάδια σε πήλινα πλακίδια – που στην ουσία δεν ήταν παρά κομμάτια λάσπης. Αλλά στο πλαίσιο των νέων γραφειοκρατικών συστημάτων, αυτά τα κομμάτια λάσπης έφεραν επανάσταση στην έννοια της ιδιοκτησίας. Αίφνης, το να κατέχεις ένα χωράφι σήμαινε πως ήταν καταγεγραμμένο σε κάποιο πλακίδιο ότι αυτό το χωράφι σου ανήκε. Αν οι γείτονές σου μάζευαν φρούτα από κει για χρόνια και κανένας τους δεν είχε πει ποτέ ότι αυτό το κομμάτι γης ήταν δικό σου, αλλά εσύ κατάφερνες παρ’ όλα αυτά να προσκομίσεις ένα επίσημο κομμάτι λάσπης που έλεγε ότι σου ανήκε, μπορούσες να επιβάλεις την αξίωσή σου στο δικαστήριο. Αντίθετα, αν η τοπική κοινότητα αναγνώριζε ότι σου ανήκε ένα χωράφι, αλλά κανένα έγγραφο δεν επισφράγιζε επίσημα αυτό το γεγονός, τότε το χωράφι δεν σου ανήκε. Το ίδιο ισχύει και σήμερα, με τη διαφορά ότι τα κρίσιμα έγγραφά μας είναι γραμμένα σε κομμάτια χαρτιού ή σε τσιπ πυριτίου αντί για πηλό.
Από τη στιγμή που η ιδιοκτησία έγινε ζήτημα εγγράφων και όχι κοινοτικής συναίνεσης, οι άνθρωποι μπορούσαν ν’ αρχίσουν να πουλάνε τα χωράφια τους χωρίς να ζητούν άδεια από τους γείτονες. Για να πουλήσεις ένα χωράφι, απλά μεταβίβαζες το πολύτιμο πήλινο πλακίδιο σε κάποιον άλλο. Αλλά αυτό σήμαινε επίσης ότι η ιδιοκτησία μπορούσε πλέον να καθορίζεται από τη μακρινή γραφειοκρατία που παρήγαγε τα σχετικά έγγραφα και ενδεχομένως τα διατηρούσε σε ένα κεντρικό αρχείο. Είχε ανοίξει ο δρόμος για την επιβολή φόρων, την πληρωμή στρατών και τη δημιουργία μεγάλων συγκεντρωτικών κρατών. Τα έγγραφα άλλαξαν τη ροή της εξουσίας στον κόσμο και παρείχαν τεράστια επιρροή σε γραφειοκράτες όπως ήταν οι φοροεισπράκτορες, οι υπεύθυνοι πληρωμών, οι λογιστές, οι αρχειοφύλακες και οι δικηγόροι. Ολοι αυτοί έχουν γίνει οι υδραυλικοί του δικτύου πληροφοριών, οι οποίοι, για καλό ή για κακό, ελέγχουν την κίνηση των φόρων, των πληρωμών, ακόμη και των στρατιωτών, χειριζόμενοι έγγραφα, αιτήσεις, καταστατικά και άλλους γραφειοκρατικούς μοχλούς.
Αυτή είναι η δύναμη που η ΑΙ είναι τώρα έτοιμη να αδράξει. Η γραφειοκρατία είναι ένα τεχνητό περιβάλλον όπου η γνώση ενός περιορισμένου πεδίου είναι αρκετή για να ασκήσει τεράστια επιρροή στον ευρύτερο κόσμο, χειραγωγώντας τη ροή των πληροφοριών. Αν ρίξετε μια σημερινή ΑΙ στον χαοτικό και αδόμητο κόσμο μας, μάλλον δεν θα καταφέρει πολλά πράγματα – και σίγουρα δεν θα καταφέρει να συγκροτήσει ένα στρατό από ρομπότ. Αλλά αυτό είναι σαν να ρίχνετε έναν εταιρικό δικηγόρο στη χαοτική και αδόμητη σαβάνα. Εκεί, οι ικανότητες του δικηγόρου δεν σημαίνουν τίποτα και δεν τα βγάζουν πέρα μ’ έναν ελέφαντα ή ένα λιοντάρι. Αν όμως δημιουργήσετε πρώτα ένα γραφειοκρατικό σύστημα και το επιβάλετε στη σαβάνα, ο δικηγόρος γίνεται πολύ πιο ισχυρός απ’ όλα τα λιοντάρια του κόσμου μαζί. Σήμερα, η ίδια η επιβίωση των λιονταριών εξαρτάται από δικηγόρους που συντάσσουν και διακινούν έγγραφα μέσα σε δαιδαλώδεις γραφειοκρατίες. Και μέσα σε αυτόν τον λαβύρινθο, η ΑΙ είναι πιθανό να γίνει πολύ πιο ισχυρή από οποιονδήποτε ανθρώπινο δικηγόρο.
Τα επόμενα χρόνια, εκατομμύρια γραφειοκράτες ΑΙ θα λαμβάνουν ολοένα και περισσότερες αποφάσεις για τις ζωές όχι μόνο των λιονταριών, αλλά και των ανθρώπων. Τραπεζίτες ΑΙ θα αποφασίζουν αν θα σας δοθεί δάνειο. Η ΑΙ στο εκπαιδευτικό σύστημα θα αποφασίζει αν θα γίνετε δεκτοί στο πανεπιστήμιο. Η ΑΙ στις εταιρείες θα αποφασίζει αν θα προσληφθείτε. Η ΑΙ στο δικαστικό σύστημα θα αποφασίζει αν θα μπείτε φυλακή. Η στρατιωτική ΑΙ θα αποφασίζει αν θα βομβαρδιστεί το σπίτι σας. Οι τεχνολογίες ΑΙ δεν είναι κατ’ ανάγκην κακές. Μπορεί κάλλιστα να κάνουν τα συστήματα πολύ πιο αποτελεσματικά ή ακόμη και πιο δίκαια. Θα μπορούσαν να μας παρέχουν ανώτερη υγειονομική περίθαλψη, εκπαίδευση, δικαιοσύνη και ασφάλεια. Αλλά αν τα πράγματα στραβώσουν, τα αποτελέσματα μπορεί να είναι καταστροφικά. Και σε κάποιους τομείς τα πράγματα έχουν ήδη στραβώσει.
Ισως το πιο εύγλωττο παράδειγμα είναι η ιστορία των αλγορίθμων στα μέσα κοινωνικής δικτύωσης. Αυτές οι πρωτόγονες τεχνολογίες ΑΙ έχουν ήδη αναδιαμορφώσει τον κόσμο, ασκώντας τεράστια επιρροή στην ανθρώπινη κοινωνία. Οι αλγόριθμοι εταιρειών όπως το Facebook, το X, το YouTube και το TikTok έχουν επιφορτιστεί με έναν πολύ περιορισμένο στόχο, ιδανικό για ηλίθιους ειδήμονες: να αυξάνουν τη δέσμευση των χρηστών. Οσο περισσότερο χρόνο περνούν οι χρήστες στα μέσα κοινωνικής δικτύωσης, τόσο περισσότερα χρήματα βγάζουν οι εταιρείες. Επιδιώκοντας τη δέσμευση των χρηστών, οι αλγόριθμοι έκαναν μια επικίνδυνη ανακάλυψη. Πειραματιζόμενοι με εκατομμύρια ανθρώπινα ινδικά χοιρίδια, οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης διαπίστωσαν ότι η απληστία, το μίσος και ο φόβος αυξάνουν τη δέσμευση των χρηστών. Αν ενεργοποιήσετε το κουμπί της απληστίας, του μίσους ή του φόβου στο μυαλό ενός ανθρώπου, τραβάτε την προσοχή του και τον κρατάτε κολλημένο στην οθόνη. Επομένως, οι αλγόριθμοι άρχισαν να διαδίδουν σκόπιμα μίσος, φόβο και απληστία. Αυτός είναι ένας καθοριστικός παράγοντας για την τρέχουσα επιδημία θεωριών συνωμοσίας, ψευδών ειδήσεων και κοινωνικών αναταραχών που υπονομεύουν τις κοινωνίες σε ολόκληρο τον κόσμο.
Οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης είναι εξαιρετικά περιορισμένες τεχνολογίες ΑΙ που δεν μπορούν κατά κανένα τρόπο να επιβιώσουν στη σαβάνα ή να ενορχηστρώσουν τη Μεγάλη Εξέγερση των Ρομπότ. Ομως μέσα στη γραφειοκρατική δομή που έχουν οι πλατφόρμες των μέσων κοινωνικής δικτύωσης, αυτοί οι ηλίθιοι ειδήμονες ασκούν τεράστια δύναμη, η οποία ήταν κάποτε προνόμιο των ανθρώπων. Επί αιώνες, ανθρώπινοι συντάκτες αποφάσιζαν τι θα περιλάμβαναν οι εκπομπές ειδήσεων στο ραδιόφωνο και την τηλεόραση και τι θα έβγαινε στα πρωτοσέλιδα των εφημερίδων, διαμορφώνοντας έτσι τη δημόσια συζήτηση. Αυτό έκανε τους συντάκτες ισχυρές φυσιογνωμίες. Ο Ζαν-Πολ Μαρά διαμόρφωσε την πορεία της Γαλλικής Επανάστασης εκδίδοντας την επιδραστική εφημερίδα L’Ami du Peuple (Ο Φίλος του Λαού). Ο Εντουαρντ Μπέρνσταϊν διαμόρφωσε τη σύγχρονη σοσιαλδημοκρατική σκέψη εκδίδοντας την εφημερίδα Der Sozialdemokrat. Η πιο σημαντική θέση που κατείχε ο Βλαδίμηρος Λένιν πριν γίνει σοβιετικός δικτάτορας ήταν αυτή του εκδότη της Iskra. Ο Μπενίτο Μουσολίνι απέκτησε φήμη και επιρροή ως εκδότης του πύρινου δεξιού φύλλου Il Popolo d’Italia. Είναι ενδιαφέρον ότι ένα από τα πρώτα επαγγέλματα στον κόσμο που αυτοματοποιήθηκαν από την ΑΙ δεν ήταν ο οδηγός ταξί ή ο εργάτης κλωστοϋφαντουργίας, αλλά ο συντάκτης ειδήσεων. Η δουλειά που κάποτε έκαναν ο Λένιν και ο Μουσολίνι μπορεί τώρα να εκτελεστεί από την ΑΙ.
Το χάος που σπέρνουν οι αλγοριθμικοί συντάκτες στις ανθρώπινες κοινωνίες είναι ένα προειδοποιητικό σήμα. Ο ανθρώπινος κόσμος είναι ένα πλέγμα πολλαπλών γραφειοκρατιών, στο οποίο οι ΑΙ μπορούν να συγκεντρώσουν τεράστια δύναμη, ακόμη και αν είναι εντελώς ανίκανες να οργανώσουν τη Μεγάλη Εξέγερση των Ρομπότ. Γιατί να εξεγερθεί κανείς ενάντια σε ένα σύστημα, αν μπορεί να το αλώσει από τα μέσα;
* Ο κ. Γιουβάλ Νόα Χαράρι είναι ιστορικός, φιλόσοφος και συγγραφέας.
Copyright Yuval Noah Harari 2024
