Ο Τζος Ομπερ είναι ένας πολυσχιδής κοινωνικός επιστήμονας. Με σπουδές ιστορικού, κατέχει σήμερα την έδρα Κωνσταντίνου Μητσοτάκη στη Σχολή Ανθρωπιστικών Σπουδών και Επιστημών του Πανεπιστημίου του Στάνφορντ και ειδικεύεται στην αρχαία και τη σύγχρονη πολιτική θεωρία. Διδάσκει πρωταρχικά Πολιτικές Επιστήμες, αλλά έχει διοριστεί δευτερευόντως στο τμήμα Κλασικών Σπουδών του Πανεπιστημίου και ανήκει επίσης (by courtesy) στο τμήμα Φιλοσοφίας και στο Ινστιτούτο Χούβερ.
Συνομιλήσαμε μαζί του με αφορμή το συνέδριο που θα λάβει χώρα την ερχόμενη εβδομάδα στην Αθήνα στο πλαίσιο του νεότευκτου Lyceum Project, το οποίο θα εστιάζει στην τεχνητή νοημοσύνη (ΑΙ) και το πώς η φιλοσοφία του Αριστοτέλη μπορεί να συμβάλει στην κατανόησή της. Τo Lyceum Project είναι ένα εγχείρημα που «τρέχουν» από κοινού το Oxford Institute for Ethics in AI, ο «Δημόκριτος», το World Human Forum και το πρόγραμμα «Ανθρωποκεντρική ΑΙ» του Πανεπιστημίου του Στάνφορντ. Οπως εξηγεί ο Ομπερ, σκοπός είναι η αναβίωση του Λυκείου του Αριστοτέλη ως ενός φόρουμ πνευματικής ζύμωσης με τη συμμετοχή μελετητών από όλον τον κόσμο.
«Το Λύκειο ήταν ένα κέντρο ευρείας αναζήτησης για θέματα όπως το νόημα της ανθρώπινης ζωής, πώς σχετίζεται ο άνθρωπος με τον φυσικό κόσμο, τι είναι ο ορθός λόγος, ποια είναι η φύση της επικοινωνίας… Αυτή την ιδέα θέλουμε να αναβιώσουμε», λέει ο καθηγητής.
Τα ερωτήματα αυτά έχουν αποκτήσει νέα σημασία με την εισβολή της Παραγωγικής τεχνητής νοημοσύνης (Generative AI) στη ζωή μας. Καθώς μάλιστα οι πρωτοπόροι του κλάδου έχουν επιδοθεί σε έναν αδυσώπητο ανταγωνισμό για να φτάσουν στο Αγιο Δισκοπότηρο της Γενικής τεχνητής νοημοσύνης, δεν αποκλείεται στο προσεχές μέλλον να βρεθούμε, ως ανθρωπότητα, αντιμέτωποι με τα διλήμματα και τις συγκρούσεις που βιώνουν οι χαρακτήρες κορυφαίων έργων επιστημονικής φαντασίας, όπως το «Blade Runner» και το «Westworld».
Το λιοντάρι του Βίτγκενσταϊν
Πώς θα είναι ένας τέτοιος κόσμος όμως; Θα μπορούμε να συνομιλήσουμε με αυτές τις μηχανές, ακόμη κι αν είναι υπερευφυείς, για το νόημα της ζωής; Ή θα είναι σαν το λιοντάρι του Βίτγκενσταϊν, το οποίο, σύμφωνα με τον σπουδαίο Αυστριακό φιλόσοφο, αν μιλούσε δεν θα το καταλαβαίναμε;
«Νομίζω ότι ο Βίτγκενσταϊν είχε δίκιο. Δεν έχουμε πραγματικά τρόπο να εκτιμήσουμε ποια θα ήταν η φύση της συνείδησης ενός τέτοιου όντος, τι είδους σκοπούς θα συλλάμβανε ως καλούς. Εμείς είμαστε μέρος του φυσικού κόσμου, με έναν τρόπο που η μηχανή δεν θα μπορούσε ποτέ να είναι. Δεν έχουμε λόγο να θεωρήσουμε ότι θα μπορούσαμε να την καταλάβουμε – ή ότι θα συνεχίζαμε να την καταλαβαίνουμε, καθώς θα εξελισσόταν και θα μεταλλασσόταν. Αρα πρέπει να σκεφτούμε πολύ σοβαρά σε τι θα εξυπηρετούσε –αν θα ήταν καλό– να δημιουργήσουμε τέτοιες μηχανές, όταν δεν έχουμε ιδέα πώς θα είναι ούτε αν θα ήταν καλό γι’ αυτές τις ίδιες να υπάρχουν. Μπορεί η ύπαρξή τους να είναι επώδυνη γι’ αυτές. Δεν μπορούμε απλά να υποθέσουμε ότι θα έχει κάποια αυταξία η συνείδηση μιας τέτοιας μηχανής, όπως θεωρούμε ότι έχει αυταξία η ανθρώπινη συνείδηση».
Ο Αμερικανός ιστορικός και πολιτικός επιστήμονας προσθέτει και κάτι άλλο, μια πιο προσωπική ανησυχία. «Δεν είμαι θρησκευόμενος», λέει, «αλλά νιώθω ότι υπάρχει κάτι βλάσφημο στην προσπάθεια δημιουργίας νέων όντων με συνείδηση. Υπάρχει στον χώρο της τεχνολογίας μια τάση υπέρβασης της ανθρώπινης κατάστασης, μια τάση να μιμηθούμε τον Θεό. Και πρέπει να το σκεφτούμε πολύ καλά όλο αυτό».
Σε διάλεξή του προ διετίας ο Ομπερ εμβάθυνε στον παραλληλισμό μεταξύ της δουλοκτησίας στην Αρχαία Αθήνα και ενός πιθανού κόσμου όπου θα ζουν ανάμεσά μας μηχανές ευφυΐας αντίστοιχης με την ανθρώπινη, που θα χρησιμοποιούνται ως έξυπνα εργαλεία. Στη διάλεξη εκείνη αναδείκνυε γλαφυρά τα διανοητικά αδιέξοδα στα οποία κατέληγε ο Αριστοτέλης στο διαβόητο επιχείρημά του περί «φύσει δούλων».
«Αν αυτές οι μηχανές (με Γενική τεχνητή νοημοσύνη) έχουν συνείδηση, αν είναι ηθικά εφάμιλλες με εμάς, τότε, για όλους τους λόγους που δεν μπορούμε να χρησιμοποιήσουμε άλλους ανθρώπους απλώς ως εργαλεία, δεν θα μπορούμε να χρησιμοποιούμε κι αυτές τις μηχανές με αυτόν τον τρόπο», σημειώνει στην «Κ». «Ο Αριστοτέλης προσπάθησε να φανταστεί μια κατηγορία ανθρώπων που είναι διανοητικά ελαττωματικοί και άρα ανήκουν σ’ αυτήν την κατηγορία (των δούλων). Το επιχείρημά του καταρρέει υπό το βάρος των εσωτερικών του αντιφάσεων, ενώ στην πράξη ο ίδιος, πριν πεθάνει, απελευθέρωσε τους σκλάβους του – κάτι το οποίο, βάσει της θεωρίας του, θα τους έκανε κακό. Θα αντιμετωπίσουμε ακριβώς τα ίδια προβλήματα αν επιχειρήσουμε να δημιουργήσουμε μηχανές με Γενική τεχνητή νοημοσύνη».
Το Στάνφορντ, όπου διδάσκει ο Ομπερ, βρίσκεται στη Σίλικον Βάλεϊ στη Βόρεια Καλιφόρνια, τη Μέκκα της ψηφιακής επανάστασης. Ρώτησα τον καθηγητή πώς βλέπει γενικότερα τον τρόπο με τον οποίο οι τεχνολογικοί κολοσσοί αναπτύσσουν την ΑΙ και την ενσωματώνουν στην καθημερινότητά μας. Είναι συμβατός με την ευδαιμονία των μαζών;
«Νιώθω ότι υπάρχει κάτι βλάσφημο στην προσπάθεια δημιουργίας νέων όντων με συνείδηση. Υπάρχει στον χώρο της τεχνολογίας μια τάση υπέρβασης της ανθρώπινης κατάστασης, μια τάση να μιμηθούμε τον Θεό».
«Θα μπορούσε να είναι. Αυτό που με ανησυχεί είναι ότι η λογική που καθοδηγεί την καινοτομία είναι αυτή της εισηγμένης επιχείρησης, που έχει στόχο τη μεγιστοποίηση της αξίας για τους μετόχους. Αυτές οι εταιρείες ανταγωνίζονται πολύ σκληρά και τα κίνητρά τους δεν ευθυγραμμίζονται αναγκαστικά με τις ανάγκες της ανθρωπότητας».
Ενας αλγόριθμος για τη δημοκρατία
Ο Ομπερ είναι από τους κορυφαίους θεωρητικούς της δημοκρατίας διεθνώς, η οποία περνάει (ξανά) μια φάση ευρείας αμφισβήτησης. Πόσο αισιόδοξος είναι για τις προοπτικές της;
Ο καθηγητής παραπέμπει στο άκρως επίκαιρο βιβλίο που δημοσίευσε προ μηνών με τον Μπρουκ Μάνβιλ, με τίτλο «The Civic Bargain: How Democracy Survives». «Η δημοκρατία αντιμετωπίζει πολύ σοβαρές προκλήσεις επί των ημερών μας», λέει. «Ωστόσο θεωρούμε ότι είναι πιθανό να φανταστούμε ένα μέλλον στο οποίο ευδοκιμεί. Αυτό απαιτεί μια επαναδέσμευση σε ορισμένες συνθήκες, που είναι αναγκαίες για την ύπαρξή της: την εκ νέου διαπαιδαγώγηση για το νόημα και τις υποχρεώσεις που συνεπάγεται η συμμετοχή σε μια δημοκρατική πολιτεία, την ανάδειξη της αξίας της δημοκρατίας καθ’ αυτής και των κακών που αποτρέπει, κ.ο.κ. Ανησυχώ πολύ για την κατάσταση του κόσμου, για να είμαι ειλικρινής, αλλά δεν πρέπει να δίνουμε υπερβολική έμφαση στους κινδύνους, γιατί αυτό γεννάει απελπισία και την αίσθηση ότι η κατάσταση δεν σώζεται, ότι δεν μπορεί να γίνει τίποτα. Εμείς πιστεύουμε ότι μπορούν οι πολίτες να επηρεάσουν την κατάσταση – να διαπαιδαγωγούν ο ένας τον άλλον, να μάθουν να ακούν συμπολίτες τους με τους οποίους διαφωνούν, να προσπαθούν να καταλάβουν τις οπτικές που είναι διαφορετικές από τις δικές τους».
Μπορεί η ΑΙ να συμβάλει σ’ αυτό – να βοηθήσει τους πολίτες να νιώσουν ότι συμμετέχουν πιο ενεργά στα κοινά; «Θα μπορούσε, ναι. Θα μπορούσαμε να διευρύνουμε σημαντικά το πεδίο του διαπροσωπικού διαλόγου με τη χρήση της ή να παρέχουμε πληροφόρηση σε κάθε άτομο με τον τρόπο που το διευκολύνει περισσότερο να την απορροφήσει». Αυτό φυσικά, σημειώνει, θα χρειαστεί σωστό σχεδιασμό των εργαλείων και το κατάλληλο ρυθμιστικό πλαίσιο (οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης, όπως αναγνωρίζει, δεν έχουν συμβάλει στον εποικοδομητικό πολιτικό διάλογο, αλλά μάλλον τον έχουν υπονομεύσει).
Η νέα τεχνολογία, ωστόσο, ειδικά στο πλαίσιο ενός καθεστώτος που δεν σέβεται την ιδιωτικότητα των πολιτών, μπορεί να είναι και ένα πανίσχυρο εργαλείο χειραγώγησης και ελέγχου του πληθυσμού. Σε μία ακραία εκδοχή, ένα τέτοιο καθεστώς μπορεί να ισχυριστεί ότι οι δημοκρατικές διαδικασίες είναι παρωχημένες, καθώς οι αλγόριθμοι γνωρίζουν τα πάντα για τις επιθυμίες και τις ανάγκες των πολιτών.
«Ναι, τις επιθυμίες και τις ανάγκες που, σε ένα τέτοιο πλαίσιο, θα είναι ολοένα και περισσότερο αυτές που βολεύουν το καθεστώς», παρατηρεί ο Ομπερ. «Δεν θα ανταποκρίνεται στις επιθυμίες στις οποίες θα έχουν καταλήξει αυτόνομα οι πολίτες. Οι αυταρχικές κυβερνήσεις πάντα επιδιώκουν να κατασκευάσουν τις σωστές επιθυμίες στον πληθυσμό». Ακόμη όμως κι αν ανταποκρίνονται π.χ. στην επιθυμία για υλική ευημερία, αν εξασφαλίζουν το ζην, προσθέτει, «εξ ορισμού οι αυταρχικές κυβερνήσεις δεν επιτρέπουν στους υπηκόους τους να δρουν ως πραγματικά πολιτικά ζώα, να χρησιμοποιήσουν τις διανοητικές τους ικανότητες ως πολίτες μιας κοινότητας για να διαμορφώσουν το πώς θα λειτουργήσει αυτή η κοινότητα. Με τον τρόπο αυτό στερούν από τους υπηκόους μια θεμελιώδη πτυχή της ανθρώπινης ύπαρξης στην πληρότητά της».
«Αυτά θα δουλεύουν, εμείς θα φιλοσοφούμε»
Η έκρηξη της Generative AI ενέτεινε την ήδη αγωνιώδη συζήτηση για το μέλλον της εργασίας και της παιδείας, για τις δεξιότητες που θα εξακολουθήσουν να απολαμβάνουν ισχυρή ζήτηση στην εποχή των ολοένα και πιο έξυπνων μηχανών. Μια θεωρία που κερδίζει έδαφος προβλέπει ότι οι πιο ωφελημένοι θα είναι οι απόφοιτοι των ανθρωπιστικών σπουδών και όσοι εστιάζουν στην ανάπτυξη δεξιοτήτων που οι μηχανές δείχνουν (ακόμα;) ανίκανες να αναπαράγουν – οι οποίες συνδέονται με την αναπόσπαστα ανθρώπινή μας φύση.
«Η νέα τεχνολογία στο πλαίσιο ενός καθεστώτος που δεν σέβεται την ιδιωτικότητα μπορεί να είναι και πανίσχυρο εργαλείο χειραγώγησης του πληθυσμού. Ενα τέτοιο καθεστώς μπορεί να ισχυριστεί ότι οι δημοκρατικές διαδικασίες είναι παρωχημένες».
«Αυτό ελπίζω», σχολιάζει ο Ομπερ. «Οτι οι μηχανές θα αναλάβουν τα τεχνικά ζητήματα και θα αφήσουν σε εμάς τα μεγάλα ανθρωπιστικά ερωτήματα: τι είναι ομορφιά, τι είναι νόημα, τι είναι να ζει κανείς μια ανθρώπινη ζωή… Σε έναν αυξανόμενα τεχνολογικό κόσμο, οι ανθρωπιστικές σπουδές δεν καθίστανται παρωχημένες· αντιθέτως, θα αποκτήσουν μεγαλύτερη βαρύτητα».
