Τα γαλλικά σχέδια για τη χρήση τεχνητής νοημοσύνης (AI) για τη «σάρωση» των χιλιάδων αθλητών, προπονητών και θεατών που καταφθάνουν στο Παρίσι για τους Ολυμπιακούς Αγώνες είναι μια μορφή παρακολούθησης, δηλώνουν ομάδες ακτιβιστών υπέρ των ανθρωπίνων δικαιωμάτων.
Οι γαλλικές αρχές έχουν δοκιμάσει συστήματα παρακολούθησης με τεχνητή νοημοσύνη σε σιδηροδρομικούς σταθμούς, συναυλίες και ποδοσφαιρικούς αγώνες τους τελευταίους μήνες.
Οταν αρχίσουν οι αγώνες στα τέλη Ιουλίου, τα συστήματα αυτά θα «σαρώνουν» τα πλήθη, θα ελέγχουν για εγκαταλελειμμένα πακέτα, θα ανιχνεύουν όπλα και πολλά άλλα.
Οι Γάλλοι αξιωματούχοι υποστηρίζουν ότι τα εργαλεία αυτά δεν θα είναι πλήρως λειτουργικά πριν από τους αγώνες, αλλά η αστυνομία, οι πυροσβεστικές υπηρεσίες και οι υπηρεσίες διάσωσης και ορισμένοι Γάλλοι πράκτορες ασφαλείας των μεταφορών θα τα χρησιμοποιούν μέχρι τις 31 Μαρτίου 2025.
Οι ακτιβιστές ανησυχούν ότι η επιτήρηση με τεχνητή νοημοσύνη θα μπορούσε να γίνει η νέα κανονικότητα.
«Οι Ολυμπιακοί Αγώνες αποτελούν μια τεράστια ευκαιρία για να δοκιμαστεί αυτό το είδος παρακολούθησης υπό το πρόσχημα ζητημάτων ασφαλείας και ανοίγουν τον δρόμο για ακόμη πιο παρεμβατικά συστήματα, όπως η αναγνώριση προσώπου», δήλωσε στο Thomson Reuters Foundation η Κάτια Ρου, επικεφαλής υπεράσπισης της Διεθνούς Αμνηστίας στη Γαλλία.
Σιδηροδρομικοί σταθμοί και Τέιλορ Σουίφτ
Η γαλλική κυβέρνηση έχει επιστρατεύσει τέσσερις εταιρείες στην προσπάθεια αυτή: Videtics, Orange Business, ChapsVision και Wintics.
Οι πλατφόρμες ασφαλείας αυτών των εταιρειών προχωρούν σε οκτώ βασικές μετρήσεις: κίνηση αντίθετα με τη ροή, παρουσία ατόμων σε απαγορευμένες ζώνες, κίνηση πλήθους, εγκαταλελειμμένα πακέτα, παρουσία ή χρήση όπλων, υπερπληθυσμός, πτώμα στο έδαφος και φωτιά.
Οι συναυλίες των Depeche Mode και των Black-Eyed Peas, καθώς και ένας ποδοσφαιρικός αγώνας μεταξύ της Παρί Σεν Ζερμέν και της Λυών, αποτέλεσαν τόπους δοκιμών για το λογισμικό.
Περισσότερες δοκιμές πραγματοποιήθηκαν σε πλήθη που ταξίδευαν μέσω των σταθμών του μετρό Nanterre Préfecture και La Defense Grande Arche για να δουν την Τέιλορ Σουίφτ, καθώς και στους 40.000 συμμετέχοντες στο Φεστιβάλ Κινηματογράφου των Καννών.
Ο δήμαρχος των Καννών, Νταβίντ Λισνάρντ, δήλωσε ότι η πόλη διαθέτει ήδη το «πυκνότερο δίκτυο βιντεοπροστασίας στη Γαλλία», με 884 κάμερες – μία για κάθε 84 κατοίκους.
Σε ολόκληρη τη Γαλλία υπάρχουν περίπου 90.000 κάμερες βιντεοεπιτήρησης, οι οποίες παρακολουθούνται από την αστυνομία και τη χωροφυλακή, σύμφωνα με έκθεση του 2020.
«Μια γενικότερη ανησυχία είναι ότι, ενώ η πλειονότητα αυτών των περιπτώσεων χρήσης μπορεί να φαίνεται ότι δεν περιλαμβάνει την αποκάλυψη της ταυτότητας ή τη δημιουργία προφίλ μεμονωμένων ατόμων, εξακολουθούν να απαιτούν την ανάπτυξη μιας υποδομής παρακολούθησης που απέχει μόλις μια ενημέρωση του λογισμικού (update) από το να είναι σε θέση να κάνει τα πιο επεμβατικά είδη μαζικής παρακολούθησης», δήλωσε ο Ντανιέλ Λοϊφέρ, ανώτερος αναλυτής πολιτικής στην ομάδα ψηφιακών δικαιωμάτων AccessNow.
«Το κοινό θα έχει ελάχιστη έως καθόλου εποπτεία σχετικά με το τι είδους πράγματα παρακολουθούν αυτά τα συστήματα, τι ενημερώσεις γίνονται κ.λπ. και έτσι θα έχουμε το αναπόφευκτο ανατριχιαστικό αποτέλεσμα που προκύπτει από αυτό το είδος δημόσιας παρακολούθησης», δήλωσε.
Οι Ολυμπιακοί Αγώνες γίνονται η «παιδική χαρά» της ΑΙ
Γάλλοι βουλευτές προσπάθησαν να κατευνάσουν τις επικρίσεις προχωρώντας σε απαγόρευση αναγνώρισης προσώπου. Πρόκειται για μια κόκκινη γραμμή που δεν πρέπει να ξεπεραστεί, υποστηρίζουν.
Ο Ματιάς Χουγιέ, συνιδρυτής της Wintics, δήλωσε ότι το πείραμα ήταν «αυστηρά περιορισμένο» στις οκτώ περιπτώσεις χρήσης που περιγράφονται στον νόμο. Τόνισε ακόμα ότι χαρακτηριστικά όπως η ανίχνευση κίνησης πλήθους δεν μπορούν να χρησιμοποιηθούν για άλλες διαδικασίες όπως η ανίχνευση βάδισης, σύμφωνα με την οποία το μοναδικό βάδισμα ενός ατόμου μπορεί να αναγνωριστεί.
Ο ίδιος δήλωσε ότι ήταν «απολύτως αδύνατο» να χρησιμοποιηθεί το μοντέλο της Wintics για την αναγνώριση προσώπου λόγω του σχεδιασμού του.
Εκπρόσωποι της Videtics, της Orange Business και της ChapsVision δεν απάντησαν σε αιτήματα σχολιασμού.
Οι ειδικοί ανησυχούν ότι ο τρόπος με τον οποίο η κυβέρνηση μετρά την επιτυχία αυτών των δοκιμών και ο ακριβής τρόπος λειτουργίας αυτής της τεχνολογίας δεν έχουν γίνει γνωστοί στο κοινό.
«Δεν υπάρχει ούτε κατά διάνοια η απαραίτητη διαφάνεια σχετικά με αυτές τις τεχνολογίες. Υπάρχει μια πολύ ατυχής αφήγηση ότι δεν μπορούμε να επιτρέψουμε τη διαφάνεια σχετικά με τέτοια συστήματα, ιδίως σε ένα πλαίσιο επιβολής του νόμου ή δημόσιας ασφάλειας, αλλά αυτό είναι ανοησία», δήλωσε ο Λοϊφέρ.
Και πρόσθεσε: «Η χρήση τεχνολογιών επιτήρησης όπως αυτές, ιδίως σε πλαίσιο επιβολής του νόμου και δημόσιας ασφάλειας, ενέχει ίσως τη μεγαλύτερη πιθανότητα βλάβης και, ως εκ τούτου, απαιτεί το υψηλότερο επίπεδο δημόσιας λογοδοσίας».
Οι υποστηρικτές της προστασίας της ιδιωτικής ζωής λένε ότι οι εξαιρέσεις στη νομοθεσία θα επιτρέψουν την ανάπτυξη της αναγνώρισης προσώπου από «αρμόδιες αρχές», για σκοπούς όπως η εθνική ασφάλεια και η μετανάστευση.
«Δεν πρόκειται για απαγόρευση. Πρόκειται στην πραγματικότητα για μια εξουσιοδότηση για τις υπηρεσίες επιβολής του νόμου. Οι άνθρωποι έχουν αυτή την ψευδαίσθηση, πως επειδή ο νόμος λέει ότι απαγορεύουμε την τεχνολογία –εκτός από αυτήν, αυτήν και αυτήν την περίπτωση– είναι εντάξει, αλλά αυτές οι περιπτώσεις είναι οι πιο προβληματικές», δήλωσε η Ρου.
Η χρήση της παρακολούθησης από τη Γαλλία έχει επίσης προκαλέσει ανησυχίες. Τον περασμένο Νοέμβριο, η ΜΚΟ Disclose διαπίστωσε ότι οι υπηρεσίες επιβολής του νόμου χρησιμοποιούσαν κρυφά λογισμικό αναγνώρισης προσώπου της ισραηλινής εταιρείας Briefcam από το 2015.
Γάλλοι πολιτικοί εκτιμούν ότι υπάρχει χάσμα μεταξύ των υποσχέσεων που δίνει η ΑΙ-παρακολούθηση και των δυνατοτήτων της.
«Η βιντεοεπιτήρηση με βάση την τεχνητή νοημοσύνη δεν θα είναι η βέλτιστη κατά την περίοδο των Ολυμπιακών Αγώνων. Αλλά οι Ολυμπιακοί Αγώνες θα είναι μια μεγάλη παιδική χαρά για να πειραματιστούμε με αυτήν», δήλωσε η γερουσιαστής Αγκνές Καναγιέ. «Θα χρειαστούν περισσότερες εσωτερικές ή ιδιωτικές δυνάμεις ασφαλείας για να αντισταθμίσουν τις ελλείψεις της τεχνολογίας», συμπλήρωσε.
Το υπουργείο Εσωτερικών, το οποίο εποπτεύει τις γαλλικές αρχές επιβολής του νόμου, δεν απάντησε σε αίτημα για σχολιασμό.
Σε έναν κατάλογο προτάσεων σχετικά με το μέλλον της παρακολούθησης με τεχνητή νοημοσύνη, η Νομική Επιτροπή της κυβέρνησης συνέστησε να συνεχιστεί η «πειραματική βάση» της τεχνολογίας και να επεκταθεί επίσης η περίοδος διατήρησης των εικόνων που καταγράφονται από τα συστήματα, ώστε να «δοκιμαστεί ο εξοπλισμός σε όλες τις εποχές» και κατά τη διάρκεια μικρότερων γεγονότων.
«Αυτός είναι ο λόγος για τον οποίο αποφασίσαμε να κάνουμε εκστρατεία και να ευαισθητοποιήσουμε την κοινή γνώμη αυτή τη στιγμή σχετικά με την αναγνώριση προσώπου, ακόμη και αν δεν πρόκειται να χρησιμοποιηθεί κατά τη διάρκεια των Ολυμπιακών Αγώνων», δήλωσε η Ρου. «Αν περιμένουμε μέχρι να χρησιμοποιηθεί, τότε θα είναι πολύ αργά».
Reuters
