Σύμφωνα με πρόσφατη έρευνα του Ευρωκοινοβουλίου, υπολογίστηκε πως το 2021 διαμοιράστηκαν παγκοσμίως περίπου 85 εκατομμύρια φωτογραφίες και βίντεο που αφορούσαν παιδική σεξουαλική κακοποίηση. Νούμερο τρομακτικό, που συνεχώς αυξάνεται. Μια μάχη που μοιάζει χαμένη. Τα τελευταία χρόνια, η Ε.Ε. επιδιώκει να υποχρεώσει –μέσω σχετικού νόμου– τους παρόχους υπηρεσιών επικοινωνιών να εντοπίζουν αυτό το παράνομο υλικό. Η τελευταία σχετική πρόταση ήρθε από το βελγικό προεδρείο του Συμβουλίου της Ε.Ε. και προβλέπει μεταξύ άλλων τη χρήση τεχνολογίας ΑΙ, για τον εντοπισμό του. Πληθώρα ακαδημαϊκών όμως αντιτίθεται στην πρόταση, θεωρώντας ότι εφόσον υλοποιηθεί, μπορεί να οδηγήσει σε μαζική παρακολούθηση των πολιτών.
32 εκατομμύρια αναφορές
Σύμφωνα με όσα αναφέρει το Ευρωκοινοβούλιο, τα τελευταία χρόνια, το διαδικτυακό υλικό με παιδιά που επιδίδονται ή φαίνονται να επιδίδονται σε σεξουαλική πράξη έχει αυξηθεί ραγδαία. Είναι ενδεικτικό ότι βάσει έρευνας του Ευρωκοινοβουλίου, το 2022 υπήρξαν παγκοσμίως περισσότερες από 32 εκατομμύρια αναφορές για υποψίες διαδικτυακής παιδικής σεξουαλικής κακοποίησης, «που αποτελεί ιστορικό υψηλό». Οι περισσότερες από αυτές τις δραστηριότητες που εντοπίστηκαν, «φιλοξενήθηκαν στην Ευρώπη».
Το 2022 υπήρξαν παγκοσμίως περισσότερες από 32 εκατομμύρια αναφορές για υποψίες διαδικτυακής παιδικής σεξουαλικής κακοποίησης «που αποτελεί ιστορικό υψηλό».
Προκειμένου να απαντήσει σε αυτό το απάνθρωπο φαινόμενο, η Ευρωπαϊκή Επιτροπή τον Σεπτέμβριο του 2020 υπέβαλε νομοθετική πρόταση που περιείχε έναν προσωρινό κανονισμό. Αυτός ο κανονισμός επέτρεπε στους παρόχους υπηρεσιών διαπροσωπικών επικοινωνιών, όπως το webmail, οι υπηρεσίες ανταλλαγής μηνυμάτων και η διαδικτυακή τηλεφωνία, να εντοπίζουν και να αναφέρουν στις αρχές υλικό σεξουαλικής κακοποίησης παιδιών «σε εθελοντική βάση». Αυτός ο προσωρινός κανονισμός ισχύει μέχρι τον Αύγουστο του 2024, ενώ πρόσφατα παρατάθηκε έως τον Απρίλιο του 2026.
Λίγο καιρό αργότερα, τον Μάιο του 2022, η Ευρωπαϊκή Επιτροπή δημοσίευσε μια σχετική πρόταση, που αφορούσε μόνιμους κανόνες. Η κύρια διαφορά αυτής της πρότασης ήταν ότι οι πάροχοι έπρεπε υποχρεωτικά να αναφέρουν και να αφαιρούν υλικό σεξουαλικής κακοποίησης παιδιών από τις πλατφόρμες τους. Η πρόταση της Ευρωπαϊκής Επιτροπής δεν έχει υιοθετηθεί από το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο της Ε.Ε., εξαιτίας αντιδράσεων για παραβίαση προσωπικών δεδομένων.
Η νέα πρόταση
Η τελευταία εξέλιξη αφορά νέα πρόταση, που συντάχθηκε από το βελγικό προεδρείο του Συμβουλίου της Ε.Ε. και φιλοδοξεί να αποτελέσει τη ραχοκοκαλιά ενός σχεδίου νόμου αναφορικά με τη διαδικτυακή σεξουαλική κακοποίηση. Η πρόταση στάλθηκε στα τέλη του περασμένου Μαρτίου στην ομάδα εργασίας του Συμβουλίου για την επιβολή του νόμου (LEWP).
Στην πρόταση υιοθετούνται σύμφωνα με ορισμένους αναλυτές περισσότερο στοχευμένες εντολές ανίχνευσης. Παρ’ όλα αυτά, προτείνεται η ανίχνευση και στις υπηρεσίες που χρησιμοποιούν κρυπτογράφηση «από άκρο σε άκρο», μέσω τεχνητής νοημοσύνης, γεγονός που έχει προκαλέσει εκ νέου αντιδράσεις. Αυτού του είδους η κρυπτογράφηση είναι μια μέθοδος ασφαλούς επικοινωνίας, που χρησιμοποιείται από την πλειονότητα των παρόχων διαδικτυακής επικοινωνίας και εμποδίζει τρίτους να έχουν πρόσβαση σε δεδομένα που αποστέλλονται από έναν χρήστη σε έναν άλλο.
Σύμφωνα με την πρόταση, από τον κανονισμό θα εξαιρούνται διαβαθμισμένες πληροφορίες, δεδομένα που καλύπτονται από το επαγγελματικό απόρρητο και τα εμπορικά μυστικά, καθώς και ηλεκτρονικές υπηρεσίες που δεν είναι διαθέσιμες στο κοινό, όπως όσες χρησιμοποιούνται για λόγους εθνικής ασφαλείας.
«Οι μόνοι που μπορούν να αποτρέψουν τέτοια κακοποίηση»
Βάσει της πρότασης, οι πάροχοι υπηρεσιών επικοινωνίας «είναι συχνά οι μόνοι που είναι σε θέση να αποτρέψουν και να καταπολεμήσουν μια τέτοια κακοποίηση». Οι πάροχοι καλούνται επομένως, βάσει της πρότασης, να λάβουν μέτρα ανίχνευσης που θα είναι «στοχευμένα, προσεκτικά ισορροπημένα και αναλογικά, ώστε να αποφεύγονται αδικαιολόγητες αρνητικές συνέπειες για όσους χρησιμοποιούν τις υπηρεσίες για νόμιμους σκοπούς».
Ο κανονισμός αφήνει στους παρόχους την επιλογή των τεχνολογιών που θα χρησιμοποιήσουν για να συμμορφώνονται αποτελεσματικά με τις εντολές ανίχνευσης.
Οι πάροχοι καλούνται να λάβουν μεταξύ άλλων, μέτρα εστιασμού των κινδύνων. Προκειμένου αυτά τα μέτρα να γίνουν περισσότερο «στοχευμένα», οι υπηρεσίες των παρόχων θα κατηγοριοποιηθούν σε τρία επίπεδα κινδύνου: χαμηλό, μεσαίο και υψηλό, αναλόγως μεταξύ άλλων με τη φύση της υπηρεσίας, τα χαρακτηριστικά ασφαλείας και τις συμπεριφορές των χρηστών. Οι κρυπτογραφημένες συνομιλίες προτείνεται να μπουν στην κατηγορία υψηλού κινδύνου.
Ο κανονισμός αφήνει στους παρόχους την επιλογή των τεχνολογιών που θα χρησιμοποιήσουν για να συμμορφώνονται αποτελεσματικά με τις εντολές ανίχνευσης.
Οταν ο πάροχος καταλήξει στο συμπέρασμα ότι είναι πιθανό να υπάρχει επικείμενη απειλή για τη ζωή ή την ασφάλεια ενός παιδιού, θα πρέπει σύμφωνα με την πρόταση, να υπάρχει διαδικασία ταχείας αναφοράς και να δοθούν οι απαραίτητες πληροφορίες.
«Χρήστης ενδιαφέροντος»
Στην πρόταση αναφέρεται και ο όρος «χρήστης ενδιαφέροντος», δηλαδή δυνητικός αποστολέας ή λήπτης υλικού παιδικής σεξουαλικής κακοποίησης. Στην περίπτωση αυτή, η ανίχνευση γίνεται αυτόματα, μέσω τεχνολογιών ΑΙ, χωρίς κανείς –συμπεριλαμβανομένου του παρόχου– να το γνωρίζει. Ενας ενήλικας θα επισημανθεί ως «χρήστης ενδιαφέροντος», αφότου εντοπιστεί ένας ορισμένος αριθμός αυτόματων ανιχνευόμενων μηνυμάτων από την τεχνητή νοημοσύνη.
Οι πάροχοι θα λάβουν γνώση πιθανής κακοποίησης μόνο όταν κάποιος αναγνωριστεί ως «χρήστης ενδιαφέροντος». Επειτα, αυτοί οι χρήστες θα αναφέρονται στο Κέντρο της Ε.Ε., έναν νέο κόμβο εμπειρογνωμοσύνης για την καταπολέμηση της παιδικής διαδικτυακής κακοποίησης.
«Οι πληροφορίες θα εξεταστούν πριν κρυπτογραφηθούν»
Πριν από περίπου δύο εβδομάδες, μερικές εκατοντάδες καθηγητές από όλη την Ευρώπη υπέγραψαν ανοιχτή επιστολή, μέσω της οποίας εκφράζουν τις διαφωνίες τους με την επίμαχη πρόταση. Ενας εξ αυτών ήταν και ο Μπαρτ Πρένελ, Βέλγος κρυπτογράφος και κρυπταναλυτής, καθηγητής στην ερευνητική ομάδα COSIC του τμήματος Ηλεκτρολόγων Μηχανικών του Καθολικού Παενεπιστημίου Λέουβεν του Βελγίου.
Στις επικοινωνίες που είναι κρυπτογραφημένες από άκρο σε άκρο, θα πρέπει να μπει υλικό ανίχνευσης τεχνητής νοημοσύνης στη συσκευή και οι πληροφορίες να εξεταστούν πριν κρυπτογραφηθούν.
Σύμφωνα με όσα δήλωσε ο ίδιος στην «Κ», «η ευρωπαϊκή οδηγία για την προστασία των προσωπικών δεδομένων λέει ότι οι επικοινωνίες που είναι ιδιωτικές δεν μπορούν να εξεταστούν. Σε αυτή την πρόταση, υπάρχει παρέκκλιση από αυτή την οδηγία». Κι αυτό επειδή σύμφωνα με τον ίδιο, «οι πάροχοι θα επιτρέπεται να εξετάζουν το περιεχόμενο στους διακομιστές τους, ή το περιεχόμενο που αποστέλλεται μεταξύ δύο χρηστών και να εντοπίζουν αν αυτό το υλικό αφορά παιδική σεξουαλική κακοποίηση».
Το τεχνικό ζήτημα που υπάρχει, σύμφωνα με τον κ. Πρένελ, είναι ότι ολοένα και περισσότερες υπηρεσίες είναι πλέον κρυπτογραφημένες «από άκρο σε άκρο», επομένως «δεν είναι δυνατόν να ανιχνευθεί υλικό παιδικής διαδικτυακής κακοποίησης από τον διακομιστή». Βάσει της πρότασης όμως σύμφωνα με τον ίδιο, «οι πάροχοι θα είναι πλέον υποχρεωμένοι να ανιχνεύσουν αν υπάρχει τέτοιο υλικό στις επικοινωνίες τους. Ο κανονισμός δεν λέει πώς θα γίνει αυτό, αλλά στις επικοινωνίες που είναι κρυπτογραφημένες από άκρο σε άκρο, θα πρέπει να τοποθετηθεί υλικό ανίχνευσης τεχνητής νοημοσύνης στη συσκευή και οι πληροφορίες να εξεταστούν πριν κρυπτογραφηθούν».
«Κίνδυνος κατάχρησης»
Οι ακαδημαΐκοί αντιδρούν επειδή, σύμφωνα με τον ίδιο, «θα ανιχνεύεται όλο το περιεχόμενο των συσκευών μας. Είναι πολύ δύσκολο για την τεχνητή νοημοσύνη να αποφασίσει αν ένα υλικό αφορά παιδική σεξουαλική κακοποίηση. Οι κρυπτογραφημένες συνομιλίες που χρησιμοποιούν δισεκατομμύρια άνθρωποι, θα χαρακτηριστούν ως υψηλού κινδύνου. Μόνο μέσω του WhatsApp, στέλνονται 140 εκατομμύρια μηνύματα ημερησίως. Ενα στα χίλια μηνύματα να εμπίπτει στον κανονισμό, τότε κάθε ημέρα, το υλικό 140.000 ανθρώπων θα στέλνεται στην αστυνομία».
Επομένως, «εφόσον αυτή η πρόταση προχωρήσει, μπορούμε να μιλάμε για μαζική παρακολούθηση. Αν υποθέσουμε ότι αυτή η τεχνολογία λειτουργήσει, θα πρόκειται για ένα πολύ επικίνδυνο εργαλείο. Ενα εργαλείο που θα μπορούσε να ενέχει και μεγάλο κίνδυνο κατάχρησης για πολιτικούς σκοπούς».
Μόνο μέσω του WhatsApp, στέλνονται 140 εκατομμύρια μηνύματα ημερησίως. Ενα στα χίλια μηνύματα να εμπίπτει στον κανονισμό, τότε κάθε ημέρα, το υλικό 140.000 ανθρώπων θα στέλνεται στην αστυνομία.
Αναφορικά με το αν η πρόταση μπορεί να οδηγήσει σε μείωση των περιστατικών διαδικτυακής παιδικής κακοποίησης, ο ίδιος σχολίασε ότι «αυτοί οι άνθρωποι θα χρησιμοποιήσουν διαφορετικά εργαλεία. Θα κρυπτογραφήσουν τα δεδομένα τους και θα τα τοποθετήσουν σε διακομιστή εκτός της Ε.Ε.»
Στην πρόταση επίσης αναφέρεται ότι δεν θα υπάρχει αναφορά στην αστυνομία, εκτός αν αναγνωριστούν τουλάχιστον δύο εικόνες ή περιστατικά. Σύμφωνα με τον κ. Πρένελ ούτε αυτό το μέτρο εγγυάται τη μείωση των ψευδών θετικών αποτελεσμάτων, καθώς «ένας μπαμπάς μπορεί να στείλει δύο φωτογραφίες των παιδιών του που να θεωρηθούν από την τεχνητή νοημοσύνη ως κακόβουλο υλικό».
