«Ημουν νευρικός και ανήσυχος για την ανάπτυξη της τεχνητής νοημοσύνης στην OpenAI»

«Ημουν νευρικός και ανήσυχος για την ανάπτυξη της τεχνητής νοημοσύνης στην OpenAI ακόμα και όταν δεν ήταν οι συνθήκες όπως οι σημερινές, με το ράλι για την εξέλιξη του πεδίου».

Ο πρώην εργαζόμενος της εταιρείας της οποίας ηγείται ο Σαμ Αλτμαν, Ντάνιελ Ζίγκλερ, περιγράφει, μιλώντας στην «Κ», όσα τον απασχολούσαν κατά τη διάρκεια των ετών που εργαζόταν εκεί. Ο ίδιος, μαζί με άλλα δέκα άτομα, πρώην και νυν στελέχη της OpenAI αλλά και άλλων κολοσσών, υπέγραψαν και δημοσίευσαν πριν από λίγες ημέρες μία επιστολή, με τον τίτλο «Right to Warn» (Δικαίωμα Προειδοποίησης).

Στην επιστολή αυτή, καταγγέλλουν την έλλειψη λογοδοσίας στις εταιρείες τεχνητής νοημοσύνης και απαιτούν ισχυρότερη προστασία για όσους προβαίνουν σε αποκαλύψεις όσων διαμείβονται στο εσωτερικό τους. «Στοχεύουμε στην επιβολή ενός συνόλου αρχών για την ανάπτυξη της ΑΙ· θέλουμε να βρούμε από κοινού με την κοινωνία των πολιτών και τις ρυθμιστικές αρχές τρόπους να ελέγχονται οι εταιρείες αυτού του τομέα», μας λέει ο 29χρονος Ντάνιελ Ζίγκλερ, ο οποίος εργάστηκε επί τρία και πλέον χρόνια στην OpenAI ως μηχανικός μηχανικής μάθησης.

Ημουν νευρικός και ανήσυχος για την ανάπτυξη της τεχνητής νοημοσύνης στην OpenAI ακόμα και όταν δεν ήταν οι συνθήκες όπως οι σημερινές, με το ράλι για την εξέλιξη του πεδίου. Ενιωθα ότι έπρεπε να λάβω δύσκολες αποφάσεις όσο εργαζόμουν πάνω σε αυτό το πεδίο.

Ο ίδιος λέει στην «Κ» ότι ακόμα και την περίοδο λίγο μετά το 2018 –κατά την οποία η τεχνητή νοημοσύνη δεν μας απασχολούσε ιδιαιτέρως ως πρόβλημα αλλά ως η νέα εποχή που επέκειτο– είχε να διαχειριστεί ηθικά την ευθύνη που αναλάμβανε ως μηχανικός στην OpenAI και στην ανάπτυξη του GPT 3, στο πλαίσιο της AGI (της γενικής τεχνητής νοημοσύνης), τότε που αυτή η τεχνολογία ήταν ακόμη στα σπάργανά της. Βέβαια, την ίδια περίοδο, η εταιρεία της οποίας ηγείται ο Σαμ Αλτμαν ήταν μη κερδοσκοπική, η οποία μετασχηματίστηκε σε περιορισμένα κερδοσκοπική το 2019.

«Ενιωθα ότι έπρεπε να λάβω δύσκολες αποφάσεις όσο εργαζόμουν πάνω σε αυτό το πεδίο. Είχαμε, από τη μία, την επένδυση στην οποία οφείλαμε να προβούμε για την έρευνα σχετικά με την ασφάλεια των εργαλείων της ΑΙ, σε αντίθεση, από την άλλη, με το πόσο γρήγορα θα έπρεπε να προχωρήσουμε για να παραχθεί το τελικό προϊόν», θυμάται ο Ντάνιελ Ζίγκλερ.

Η έρευνα για την ασφάλεια των εργαλείων τεχνητής νοημοσύνης μοιάζει να μειώνει ταχύτητα – όπως πάντα, προέχει η παραγωγή.

Ο πρώην εργαζόμενος της εταιρείας συμπληρώνει ότι δεν πρέπει να εμπιστευόμαστε με κλειστά τα μάτια τις εταιρείες που επενδύουν στην ανάπτυξη της τεχνητής νοημοσύνης. «Πολίτες και κυβερνήσεις πρέπει να έχουν πλήρη εποπτεία για το πώς λειτουργούν οι αντίστοιχες εταιρείες. Ακόμα κι αν είναι ιδιωτικές, ακόμα κι αν ανταγωνίζονται μεταξύ τους για την παραγωγή και την ασφάλεια, έχουν τεράστια δύναμη και επιρροή στον μετασχηματισμό της κοινωνίας. Αυτού του είδους η έρευνα, όμως, μοιάζει να μειώνει ταχύτητα – όπως πάντα, προέχει η παραγωγή», τονίζει ο Ντάνιελ Ζίγκλερ στη συνομιλία μας.

Ταχύτητα, όμως, δεν προλαβαίνουν να αναπτύξουν ούτε οι κυβερνήσεις και τα κοινοβούλια ανά τον κόσμο, διότι η τεχνητή νοημοσύνη τρέχει με ιλιγγιώδεις ρυθμούς και αποτυγχάνει να συντονιστεί με τη διαφάνεια, αφενός, και τις ηθικές αρχές, αφετέρου, που μοιάζουν αναγκαίες σήμερα. «Οι κυβερνήσεις έχουν μείνει πίσω και γι’ αυτό είναι απαραίτητο να ξεκινήσει η δημόσια συζήτηση. Οφείλουμε να ελέγχουμε αν η τεχνητή νοημοσύνη είναι συμβατή με τις αξίες των κοινωνιών. Λένε ότι η ΑΙ αναπτύσσεται για να έχει τις ίδιες δυνατότητες με τον άνθρωπο. Εμείς λέμε ότι οφείλει να είναι καλύτερη από αυτόν», μας λέει ο Ντάνιελ Ζίγκλερ.

Λένε ότι η ΑΙ αναπτύσσεται για να έχει τις ίδιες δυνατότητες με τον άνθρωπο. Εμείς λέμε ότι οφείλει να είναι καλύτερη από αυτόν.

Αυτή η διατύπωση δεν μπορούσε να πέσει στο κενό. Τι σημαίνει να είναι καλύτερη από τον άνθρωπο; «Να μη διαιωνίζει στερεότυπα και διάφορους τύπους ρατσισμών, για παράδειγμα», περιγράφει στην «Κ» ο Ντάνιελ Ζίγκλερ. «Υπήρχαν, από τα χρόνια όπου ήμουν και εγώ στην OpenAI, τα πρώτα σημάδια ότι κάτι τέτοιο δεν θα μπορούσε να συμβεί εύκολα. Κι αυτό, διότι τα μεγάλα γλωσσικά μοντέλα (σ.σ. η υπολογιστική τεχνολογία που έχει τη δυνατότητα να ανταποκρίνεται σε φυσική γλώσσα) είναι πανεύκολο να τα “σπάσεις”. Εμείς αυτό που θέλαμε σε εκείνη τη δουλειά ήταν, ας πούμε, να μπορούμε να αποτρέπουμε τους ανθρώπους από το να κατασκευάζουν “βόμβες”. Να μην προσδίδουμε επικίνδυνες δυνατότητες σε αυτά τα εργαλεία».

Ο Ντάνιελ Ζίγκλερ επισημαίνει πως, παρότι πολλά ζητήματα γύρω από την ανάπτυξη της τεχνητής νοημοσύνης φαίνονται ακίνδυνα, «εντούτοις, δεν είναι. Γίνονται πολλά πράγματα πίσω από κλειστές πόρτες. Οι προγραμματιστές και οι μηχανικοί είναι αναγκαίο να αναπτύσσουν αξιολογικά τεστ για τα εργαλεία που δημιουργούν, για τις επισφαλείς τους ικανότητες».

Οι αποκαλύψεις εκ των έσω

Αυτές ακριβώς τις επικίνδυνες δυνατότητες τονίζουν με κάθε δυνατό τρόπο και σε όλους τους τόνους οι πρώην εργαζόμενοι της εταιρείας. Το τελευταίο διάστημα, μάλιστα, δεν ήταν ιδιαιτέρως… ευχάριστο για την OpenAI, διότι ολοένας και περισσότεροι άνθρωποι δημοσίως δηλώνουν όσα έχουν βιώσει και φοβηθεί όσο γίνονταν μάρτυρες της ανάπτυξης αυτών των προϊόντων της ΑΙ.

Ο Σαμ Αλτμαν, παρότι δεν ήταν ορατός στην καθημερινότητα της δουλειάς, είχε όλον απολύτως τον έλεγχο της εταιρείας.

Μόνο τον τελευταίο μήνα, σημειώθηκαν επτά περιστατικά αποκαλύψεων και έντονων, δημόσιων διαφωνιών από ανθρώπους που γνωρίζουν πρόσωπα και πράγματα από μέσα. Ολα αυτά έρχονται έπειτα από συμβάντα όπως η… τετραήμερη εκπαραθύρωση του Σαμ Αλτμαν, λόγω απόφασης του διοικητικού της συμβουλίου. Ταυτόχρονα, μεγάλη αίσθηση είχε προκαλέσει δημοσίευμα δύο πρώην εργαζομένων της OpenAI στον Economist. Μέχρι και η Σκάρλετ Γιοχάνσον διαμαρτύρηθηκε προ εβδομάδων επειδή η OpenAI αντέγραψε τη φωνή της στο πιο πρόσφατο εργαλείο της εταιρείας, το GPT 4, το οποίο απαντά με ανθρώπινη φωνή.

Οι άνθρωποι, όμως, που εργάζονται σε εταιρείες όπως η OpenAI και θέλουν να εκφράσουν δημοσίως τις αντιρρήσεις και τις ανησυχίες τους, πέραν του ότι δεσμεύονται από δρακόντειες συμβάσεις εμπιστευτικότητας, φοβούνται ότι θα έρθουν αντιμέτωποι με πολυπλόκαμες, πολυδάπανες και συναισθηματικά επιβαρυντικές δίκες. Γι’ αυτόν τον λόγο, εξάλλου, οι νυν εργαζόμενοι της OpenAI που υπέγραψαν την επιστολή «Right to Warn» το έκαναν με την προϋπόθεση της ανωνυμίας, διότι δεν προβλέπονται μέτρα προστασίας.

Από τις πληροφορίες που έχουμε συγκεντρώσει, πάντως, ο Σαμ Αλτμαν φαίνεται πως «παρότι δεν ήταν ορατός στην καθημερινότητα της δουλειάς, είχε όλον απολύτως τον έλεγχο της εταιρείας. Παράλληλα, όμως, επένδυε πολύ χρόνο στην κατ’ ιδίαν συνομιλία με τους εργαζομένους του. Ηταν περισσότερο οραματιστής παρά εκείνος που θα ασχολείτο με τη μικρο-διαχείριση των ζητημάτων που ανέκυπταν».

Κατά την πρόσληψη μας έβαζαν να υπογράφουμε ένα τρομερά αναλυτικό συμφωνητικό, το οποίο περιελάμβανε ρήτρα μη συκοφαντίας προκειμένου να διατηρηθούν οι μετοχές, που σου προσφέρουν στο οικονομικό πακέτο όταν σε καλωσορίζουν στην εταιρεία, και μετά την αποχώρησή σου.

Εν γένει, εξ όσων συνάγεται, το εργασιακό περιβάλλον ήταν μάλλον ευχάριστο και, κατά κανόνα, ουδείς προσπαθούσε να μεταπείσει οποιονδήποτε επιθυμούσε να αποχωρήσει. Ωστόσο, με ορισμένους εργαζομένους τα πράγματα ήταν λιγάκι πιο περίπλοκα, με τη διοίκηση να καταβάλλει προσπάθειες να τους αλλάξει γνώμη.

«Είναι πολύ σύνηθες στις ΗΠΑ να υπογράφουμε σύμβαση “εκούσιας απασχόλησης”. Με αυτή, δεν έχουν το δικαίωμα να αποτρέψουν την αποχώρησή σου από την OpenAI. Παρά ταύτα, κατά την πρόσληψη μας έβαζαν να υπογράφουμε ένα τρομερά αναλυτικό συμφωνητικό, το οποίο περιελάμβανε ρήτρα μη συκοφαντίας προκειμένου να διατηρηθούν οι μετοχές, που σου προσφέρουν στο οικονομικό πακέτο όταν σε καλωσορίζουν στην εταιρεία, και μετά την αποχώρησή σου. Ευτυχώς, όμως, αυτό έχει αλλάξει», όπως μας μεταφέρεται.

Η απάντηση της OpenAI

Θέτοντας τα παραπάνω ζητήματα υπ’ όψιν της OpenAI, εκπρόσωπος της εταιρείας δήλωσε στην «Κ» ότι προτίθενται, στο ζήτημα της διαφάνειας, να «συνεχίσουμε να συνεργαζόμαστε με τις κυβερνήσεις, την κοινωνία των πολιτών και άλλες κοινότητες σε όλο τον κόσμο», σημειώνοντας ότι η συζήτηση που έχει ανοίξει είναι ζωτικής σημασίας, δεδομένης της ιδιαιτερότητας αυτής της τεχνολογίας.

Ο «ζωτικής σημασίας» διάλογος δεν πρέπει καμία περίπτωση να θέσει –για λόγους διαφάνειας– σε κίνδυνο την ασφάλεια της τεχνολογίας, λέει η εταιρεία, επικαλούμενη λόγους εθνικής ασφαλείας.

Οσον αφορά το πλαίσιο του διαλόγου, εντούτοις, η ίδια πηγή μάς τόνισε ότι αυτός δεν πρέπει σε καμία περίπτωση να θέσει –για λόγους διαφάνειας– σε κίνδυνο την ασφάλεια και την εμπιστευτικότητα της τεχνολογίας που κατασκευάζει η εταιρεία, επικαλούμενη λόγους εθνικής ασφαλείας, χωρίς να σχολιάσει περαιτέρω.

Αναφορικά, πάντως, με την ασφάλεια των προϊόντων, έχει συσταθεί εντός της OpenAI, όπως μας ενημέρωσαν, Επιτροπή Ασφάλειας ως συμβουλευτικό όργανο του διοικητικού συμβουλίου, ενώ προσφέρεται, όπως μας λένε, ανώνυμη γραμμή επικοινωνίας των υπαλλήλων σχετικά με ζητήματα που τους απασχολούν στην εταιρεία.

«ΑΙ: Ο νέος ορυκτός πλούτος του 21ου αιώνα»

Χρειάζεται νομικό πλαίσιο· είναι ανάγκη να τεστάρονται από ειδικούς· είναι καλοδεχούμενος έλεγχος των μονοπωλίων· να μην έχουμε τυφλή εμπιστοσύνη στις μηχανές· πρόκειται για στρατηγικό υπερόπλο. Αυτές είναι οι απαντήσεις των ειδικών της τεχνητής νοημοσύνης με τους οποίους συνομίλησε η «Κ», θέτοντάς τους τα ζητήματα που εθίγησαν νωρίτερα.

Ο Ιωάννης Ιγγλεζάκης, καθηγητής του Δικαίου της Πληροφορίας στο ΑΠΘ, υποστηρίζει ότι «μπορεί αυτά τα εργαλεία να μας πείθουν ότι μιλούν με τη φυσική τους γλώσσα –καθώς περνούν, κι αυτό είναι τρομερό επίτευγμα, το Test Turing, δηλαδή απαντούν προσομοιάζοντας την ανθρώπινη έκφραση–, ωστόσο η μεγάλη μου ανησυχία είναι όταν νομίζουμε ότι οι πληροφορίες που λαμβάνουμε εξαντλούνται σε αυτό που θα μας πει ένα εργαλείο».

Μπορεί αυτά τα εργαλεία να μας πείθουν ότι μιλούν με τη φυσική τους γλώσσα, ωστόσο η μεγάλη μου ανησυχία είναι όταν νομίζουμε ότι οι πληροφορίες που λαμβάνουμε εξαντλούνται σε αυτό που θα μας πει ένα εργαλείο. (Ι. Ιγγλεζάκης)

Ο ίδιος θεωρεί ότι αυτό συμβαίνει επειδή μέχρι ώρας οι πληροφορίες που δίνει ένα σύστημα όπως το ChatGPT είναι πολύ γενικές, αφού ορισμένα ζητήματα τα γνωρίζουν μόνον οι ειδικοί και τέτοια εργαλεία δεν μπορούν να συλλέξουν όλα τα στοιχεία μέσα από τον ψηφιακό κόσμο. Αυτού του τύπου η πληροφόρηση έχει όρια, όπως επισημαίνει ο Ιωάννης Ιγγλεζάκης, παρότι «είναι δημιουργικός ο τρόπος που συνθέτει την πληροφορία ένα σύστημα τεχνητής νοημοσύνης. Δεν είναι, όμως, δημιουργικό το περιεχόμενο».

Πάντως, ο καθηγητής Νομικής του ΑΠΘ δηλώνει ότι στην Ελλάδα διαθέτουμε ατελές νομικό πλαίσιο για το πού μπορεί να χρησιμοποιηθεί η τεχνητή νοημοσύνη πέραν της προσωπικής μας χρήσης.

Οι ΗΠΑ, όπως και ο υπόλοιπος δυτικός κόσμος, έχουν ένα κρίσιμο δίλημμα ανάμεσα στον περιορισμό της ανάπτυξης της τεχνητής νοημοσύνης, ώστε να προστατεύσουν τις αρχές και τις αξίες τους, και στο αν θα μείνουν πίσω σε σχέση με την Κίνα. (Ν. Παναγιώτου)

Σε αυτό το πλαίσιο, ο Νίκος Παναγιώτου, αναπληρωτής καθηγητής Διεθνούς και Διαδικτυακής Δημοσιογραφίας στο ΑΠΘ, συμπληρώνει ότι δεν πρέπει σε καμία περίπτωση να έχουμε τυφλή εμπιστοσύνη σε αντίστοιχα εργαλεία. «Με ανησυχεί που οι αρχές δεν μπορούν να παρακολουθήσουν την ταχύτατη εξέλιξη της τεχνητής νοημοσύνης. Κι αυτό, διότι το ράλι για την ανάπτυξη της ΑΙ έχει μετατραπεί σε γεωπολιτικό ανταγωνισμό μεταξύ Δύσης και Κίνας. Οι ΗΠΑ, όπως και ο υπόλοιπος δυτικός κόσμος, έχουν ένα κρίσιμο δίλημμα ανάμεσα στον περιορισμό της ανάπτυξης της τεχνητής νοημοσύνης, ώστε να προστατεύσουν τις αρχές και τις αξίες τους, και στο αν θα μείνουν πίσω σε σχέση με την Κίνα. Οι ΗΠΑ έχουν χάσει την απόλυτη κυριαρχία που είχαν στις αρχές του 2000 με την Google και τα μέσα κοινωνικής δικτύωσης. Τώρα προπορεύεται το Πεκίνο στον κρίσιμο τομέα της ΑΙ, που αποτελεί υπερόπλο: και για τον… κανονικό πόλεμο αλλά και για τον κυβερνοπόλεμο ή τον πόλεμο της πληροφορίας και της παραπληροφόρησης».

«Η ΑΙ είναι ο νέος ορυκτός πλούτος του 21ου αιώνα», καταλήγει ο Νίκος Παναγιώτου.