Είναι γνωστό εδώ και αρκετά χρόνια ότι πολλές επιχειρήσεις χρησιμοποιούν ποικίλες μεθόδους με τις οποίες διαχωρίζουν τους πελάτες τους και έμμεσα τους χρεώνουν διαφορετικές τιμές. Μια έμμεση χρέωση διαφορετικών τιμών γνώριμη σε όλους εδώ και πολλά χρόνια είναι, για παράδειγμα, τα κουπόνια που μοιράζουν τα σούπερ μάρκετ ή οι κάρτες μέλους που προσφέρουν πολλές επιχειρήσεις σε τακτικούς πελάτες τους και συνοδεύονται από εκπτώσεις.
Ολες αυτές οι μέθοδοι αφήνουν στον καταναλωτή την επιλογή να ανήκει ή να μην ανήκει σε μια συγκεκριμένη κατηγορία πελάτη. Η σύγχρονη τεχνολογία όμως, και προπαντός η τεχνητή νοημοσύνη, δίνει τη δυνατότητα στις επιχειρήσεις να καταγράφουν παραγγελίες που γίνονται μέσω Διαδικτύου από το κινητό του καταναλωτή και να γνωρίζουν πάρα πολλά για τον χρήστη και πελάτη τους. Και τον κατατάσσουν σε διαφορετικές κατηγορίες, του χρεώνουν διαφορετικές τιμές, αλλά αυτό γίνεται χωρίς τη συναίνεση του καταναλωτή και εν αγνοία του. Από τις κλήσεις στην Uber ή σε οποιαδήποτε εφαρμογή των κινητών για την κλήση ταξί μέχρι κάθε παραγγελία στην Amazon, οι επιχειρήσεις μπορούν να συμπεραίνουν πόσα είναι διατεθειμένος ο καθένας να πληρώσει για την κάλυψη μιας συγκεκριμένης ανάγκης.
Σχετικό ρεπορτάζ του Business Insider αναφέρει, για παράδειγμα, πρακτική που εφαρμόζει η Uber, αν και το αρνείται επίμονα: υπολογίζει τα επίπεδα της μπαταρίας του κινητού κάθε χρήστη και χρεώνει διαφορετικές τιμές. Χρεώνει δηλαδή περισσότερα σε όσους διαπιστώνει πως η μπαταρία τους βρίσκεται στο τέλος της, καθώς αυτοί δεν έχουν την πολυτέλεια να ψάξουν εναλλακτικές λύσεις και προσπαθούν αγωνιωδώς να βρουν ταξί προτού κλείσει το κινητό τους. Σύμφωνα πάντα με το εν λόγω ρεπορτάζ του Business Insider, η Amazon συγκεντρώνει πάρα πολλά στοιχεία για όσους χρησιμοποιούν την πλατφόρμα της και διαφοροποιεί τις τιμές. Το 2018 η Amazon γνώρισε μάλλον αρνητική δημοσιότητα όταν διέρρευσε πως άλλαζε τις τιμές της 2,5 εκατ. φορές μέσα σε μία ημέρα. Τον Φεβρουάριο ο όμιλος λιανικής Walmart εξαγόρασε την τεχνολογική εταιρεία «έξυπνης τηλεόρασης» Vizio έναντι άνω των 2 δισ. δολ., καθώς μέσω της εξαγοράς αποκτά τεχνολογική πρόσβαση σε ιδιαίτερα δεδομένα των πελατών. Οπως τονίζει το Business Insider, οι «έξυπνες τηλεοράσεις» καταγράφουν ποια προγράμματα προτιμάμε με τέτοια ακρίβεια ώστε να θυμίζουν το «1984» του Οργουελ: με τη χρήση της τεχνητής νοημοσύνης και των υπερήχων καταγράφουν τις γειτονικές συσκευές και, θεωρητικά τουλάχιστον, μπορούν και να παρακολουθούν όσα λέμε μέσα στο σπίτι μας. Γι’ αυτόν ακριβώς τον λόγο οι αμερικανικές αρχές έχουν επιβάλει στη Vizio πρόστιμα ύψους πολλών εκατ. δολαρίων, καθώς κατηγορήθηκε ότι παρακολουθεί παρανόμως τους πελάτες της.
Τίποτα δεν είναι προσωπικό. Συχνά γνωρίζουν τι κάνουν οι πελάτες τους στη διάρκεια της ημέρας ή ακόμη και τι διάθεση έχουν.
Εν ολίγοις, με τη χρήση της τεχνητής νοημοσύνης οι επιχειρήσεις λιανικής όχι μόνο γνωρίζουν λεπτομερώς τι αγοράζουν οι πελάτες τους και πόσα χρήματα διαθέτουν, αλλά συχνά γνωρίζουν ακόμη και πού βρίσκονται, τι κάνουν στη διάρκεια της ημέρας ή ακόμη και πώς είναι η διάθεσή τους. Και δεν υπάρχει τίποτε τόσο πολύ προσωπικό ώστε να μένει έξω από τους υπολογισμούς τους. Παίρνουν στοιχεία από τις εφαρμογές για γνωριμίες και γνωρίζουν όχι απλώς την ηλικία και το φύλο, αλλά και τις σεξουαλικές προτιμήσεις των πελατών.
Με λίγα λόγια, η τεχνητή νοημοσύνη χρησιμοποιείται ήδη με τρόπους επιζήμιους για πολλούς ανθρώπους. Αν δεν υπάρξει ρύθμιση αυτής της τακτικής της προσωποποιημένης τιμολόγησης, θα υπάρξουν κοινωνικές επιπτώσεις. Μιλώντας στο Business Insider ο Νίκολας Γκουγκενμπέργκερ, καθηγητής στη Νομική Σχολή του Πανεπιστημίου του Χιούστον, τονίζει πως «η τακτική της μεροληψίας στις χρεώσεις θα κλονίσει την εμπιστοσύνη της κοινής γνώμης και θα υπονομεύσει την αγορά».
Ανάμεσα στις επιπτώσεις που εύκολα μπορεί να φανταστεί κανείς είναι ότι οι πλέον απελπισμένοι και πλέον ευάλωτοι θα πληρώνουν τα περισσότερα από όλους. Και το χειρότερο όλων είναι πως οι άνθρωποι ενδέχεται να καταλήξουν να τιμωρούνται για την ηλικία τους, την κοινωνική τους τάξη ή τη φυλή στην οποία ανήκουν. Στην περίπτωση των εφαρμογών για την ανεύρεση ταξί και των κατηγοριών κατά της Uber πως χρεώνει περισσότερα σε όσους την καλούν ενώ έχουν λίγη μπαταρία, οι ηλικιωμένοι μπορεί να είναι τα θύματα. Οι ηλικιωμένοι έχουν συνήθως παλαιότερα κινητά από τους νεότερους, αλλά οι μπαταρίες των παλαιότερων κινητών διαρκούν λιγότερο.
Επομένως, θα καταλήγουν να πληρώνουν περισσότερα για την ίδια υπηρεσία από την Uber ή από εφαρμογές ταξί. Και το χειρότερο είναι το πόσο δύσκολα μπορεί να αντιδράσει κανείς. Αν, για παράδειγμα, ένα κατάστημα μιας αλυσίδας λιανικών πωλήσεων χρεώνει στις γειτονιές των μειονοτήτων περισσότερα από όσα στις γειτονιές των γηγενών, μπορεί κανείς να κάνει καταγγελία. Πώς μπορεί, όμως, να αποδείξει πως κάνει διακρίσεις εναντίον του ένας αλγόριθμος μιας εφαρμογής; Δεν υπάρχουν ούτε καταστήματα ούτε ετικέτες με τιμές, παρά μόνον εκατομμύρια οθόνες κινητών.
