Όσοι γνωρίζουν έστω και ελάχιστα πράγματα γύρω από την ανατροφή παιδιών συμφωνούν ότι η μέθοδος «μαστίγιο-καρότο» είναι πολύ αποτελεσματική. Το μεγάλο μειονέκτημα, βέβαια, είναι ότι με τον τρόπο αυτόν, μαθαίνοντας να εστιάζει στην προσμονή των εξωτερικών ανταμοιβών και στον φόβο των επαπειλούμενων ποινών, ο εκπαιδευόμενος γίνεται εύκολα υποχείριο όσων γνωρίζουν τις κατάλληλες μεθόδους χειραγώγησης. Είναι γνωστό ότι η εκπαίδευση σκύλων οφείλει πολλά σ’ αυτό το σχήμα. Λέμε συχνά ότι, αν θες να μεγαλώσεις ένα ρομπότ, δίνε αφειδώς βραβεία και τιμωρίες. Αν θες όμως να γαλουχήσεις έναν αυτόνομο άνθρωπο, με δική του βούληση κι ανεξάρτητη σκέψη, τότε θα πρέπει να καλλιεργήσεις με υπομονή τα εσωτερικά του κίνητρα.
Τώρα, με τις εξελίξεις στην τεχνητή νοημοσύνη, η συζήτηση για τις θεωρίες των κινήτρων γίνεται και πάλι επίκαιρη, καθώς ένα μεγάλο μέρος των σύγχρονων μοντέλων της ΑΙ εκπαιδεύονται με γνωστές ανθρώπινες μεθόδους. Όταν τα αποτελέσματα της μηχανής είναι αυτά που θέλουμε, τη φιλοδωρούμε με ένα καλό σκορ, κι όταν αστοχεί, την τιμωρούμε με αρνητική βαθμολογία. Σταδιακά, με αυτόν τον τρόπο οι μηχανές μαθαίνουν τι απαντήσεις επιθυμούμε, ώστε να μας κάνουν όλο και πιο ευχαριστημένους. Η αλήθεια είναι ότι με την ΑΙ δεν υπάρχει άλλος τρόπος, γιατί τα στατιστικά μοντέλα στερούνται –προς το παρόν– συνείδησης κι αυτοσυνείδησης. Είναι πιθανό όμως ότι, αν κάποια μέρα κάνουν αυτό το βήμα και μέσα από τον κώδικα του 0 και του 1 προκύψει ένα νέο είδος συνείδησης, οι μηχανές θα μπορούν να αναπτύσσουν εσωτερικό κίνητρο. Και τότε θα τις δούμε να ασχολούνται από μόνες τους, ανεξάρτητα, με ακατανόητα σ’ εμάς σπορ, να μιλούν σε δικές τους γλώσσες κοροϊδεύοντάς μας και ν’ αναπτύσσουν νέα αντικείμενα της επιστήμης που θα ωφελούν ίσως μόνο αυτές, κάτι που είναι αρκετά ριψοκίνδυνο για να το επιθυμούμε.
Ίσως η μέρα της μηχανής με συνείδηση να αργήσει ή και να μην έρθει ποτέ. Τώρα έχουμε ένα πιο βραχυπρόθεσμο πρόβλημα να μας απασχολεί. Αν υποθέσουμε ότι αυτή τη στιγμή βρισκόμαστε στο νηπιακό στάδιο της ΑΙ, τι θα συμβεί σε μερικά χρόνια, όταν θα περάσει την εφηβεία της; Όλοι ξέρουν πόσο απρόβλεπτη κι ανεξέλεγκτη μπορεί να γίνει αυτή η ηλικιακή φάση. Ο πρώην υπάλληλος της Google Μο Γκόνταντ τρέμει στην ιδέα αυτή και προτείνει να αρχίσουμε από τώρα να αντιμετωπίζουμε τις ΑΙ σαν οντότητες που μια μέρα θα ενηλικιωθούν και θα έχουν δικές τους προσωπικότητες. Ο ανθρωπομορφισμός απωθεί πολλούς, αλλά η επισήμανση του Γκόνταντ έχει κάποια βάση. Εκπαιδεύουμε τόσο τα ζώα όσο και τα ρομπότ, έτσι ώστε να είναι υπάκουα. Με τους ανθρώπους τα πράγματα δεν πάνε πάντα ακριβώς όπως θέλουμε, γιατί οι άνθρωποι έχουν πιο περίπλοκο ψυχισμό. Τι θα συμβεί αν τα στατιστικά μοντέλα εξελιχθούν σε κάτι που μόνο οι συγγραφείς επιστημονικής φαντασίας μπορούν σήμερα να σκεφτούν;
Εφόσον είναι σαφές ότι δεν θέλουμε ρομπότ με ελεύθερη βούληση, θα πρέπει να κινητοποιηθούμε, πριν να είναι αργά. Αν χρειαστεί να αναγνωρίσουμε στα ρομπότ δικαιώματα, θα πρέπει να είναι τα στοιχειωδώς απαραίτητα. Την οριοθέτηση θα την κάνουν άνθρωποι με ελεύθερη βούληση, οι οποίοι θα μπορούν να αντιμετωπίζουν τις κολοσσιαίες διεπιστημονικές προκλήσεις και τα διλήμματα που θα ενσκήπτουν παρακάτω στον δρόμο. Φαίνεται ότι εφεξής θα χρειάζεται όλο και περισσότερο μαστίγιο και καρότο για τις μηχανές, κι όλο και περισσότερο καλλιέργεια εσωτερικού κινήτρου για τους ανθρώπους. Γιατί, αν ποτέ ξεφύγουν οι μηχανές, θα πρέπει να έχουμε εξασφαλίσει, όπως είχε πει κι ο Στίβεν Χόκινγκ, ότι θα υπάρχει κάπου πρόχειρο ένα κουμπί OFF.
