Το υπουργείο Δικαιοσύνης των ΗΠΑ ανακοίνωσε ότι διέκοψε μία ρωσική επιχείρηση που χρησιμοποιούσε ψεύτικους λογαριασμούς σε μέσα κοινωνικής δικτύωσης ενισχυμένους με τεχνητή νοημοσύνη για τη διάδοση μηνυμάτων υπέρ του Κρεμλίνου στις Ηνωμένες Πολιτείες και στο εξωτερικό.
Σύμφωνα με τη σχετική ανακοίνωση, κατασχέθηκαν δύο domain και έπεσαν 968 λογαριασμοί σε social media, που χρησιμοποιήθηκαν από Ρώσους για τη δημιουργία φάρμας bot στα μέσα κοινωνικής δικτύωσης.
«Η φάρμα bot χρησιμοποιούσε στοιχεία της τεχνητής νοημοσύνης για τη δημιουργία πλασματικών προφίλ στα μέσα κοινωνικής δικτύωσης –που υποτίθεται ότι ανήκουν σε άτομα στις Ηνωμένες Πολιτείες– τα οποία οι χειριστές χρησιμοποιούσαν στη συνέχεια για την προώθηση μηνυμάτων υπέρ των στόχων της ρωσικής κυβέρνησης, σύμφωνα με τις ένορκες καταθέσεις που αποσφραγίστηκαν σήμερα», σημειώνει η ανακοίνωση του αμερικανικού υπουργείου Δικαιοσύνης.
«Σε συνδυασμό με τις κατασχέσεις domain και το ένταλμα έρευνας που εκδόθηκε σήμερα, το FBI και η CNMF, σε συνεργασία με το Καναδικό Κέντρο για την Ασφάλεια στον Κυβερνοχώρο (CCCS), την Ολλανδική Γενική Υπηρεσία Πληροφοριών και Ασφάλειας (AIVD), την Ολλανδική Στρατιωτική Υπηρεσία Πληροφοριών και Ασφάλειας (MIVD) και την Ολλανδική Αστυνομία, δημοσίευσαν μια κοινή ανακοίνωση για την ασφάλεια στον κυβερνοχώρο, στην οποία περιγράφεται λεπτομερώς η τεχνολογία πίσω από τη φάρμα bot στα μέσα κοινωνικής δικτύωσης, συμπεριλαμβανομένων λεπτομερειών σχετικά με τον τρόπο με τον οποίο οι δημιουργοί της φάρμας αξιοποίησαν το προσαρμοσμένο σύστημα τεχνητής νοημοσύνης τους για την προώθηση του σχεδίου», προσθέτει η ανακοίνωση.
Με βάση την κοινή ανακοίνωση και τις κατευθυντήριες γραμμές που θέτει, γίνεται πιο εύκολος ο εντοπισμός παρόμοιων επιθέσεων προπαγάνδας που διεξάγονται από τη ρωσική κυβέρνηση με τη χρήση της τεχνολογίας ΑΙ.
Η ανακοίνωση προσθέτει ότι η X Corp. (πρώην Twitter) ανέστειλε οικειοθελώς τους υπόλοιπους λογαριασμούς bot που εντοπίστηκαν στα δικαστικά έγγραφα για παραβιάσεις των όρων υπηρεσίας.
«Με αυτές τις ενέργειες, το υπουργείο Δικαιοσύνης διέκοψε μια υποστηριζόμενη από τη ρωσική κυβέρνηση προπαγανδιστική εκστρατεία με τεχνητή νοημοσύνη που χρησιμοποιούσε μια φάρμα bot για τη διάδοση παραπληροφόρησης στις Ηνωμένες Πολιτείες και στο εξωτερικό», δήλωσε ο γενικός εισαγγελέας, Μέρικ Γκάρλαντ. «Καθώς η ρωσική κυβέρνηση συνεχίζει να διεξάγει τον πόλεμο στην Ουκρανία και απειλεί τις δημοκρατίες σε όλο τον κόσμο, το υπουργείο Δικαιοσύνης θα συνεχίσει να αναπτύσσει όλες τις νομικές μας εξουσίες για την αντιμετώπιση της ρωσικής επιθετικότητας και την προστασία του αμερικανικού λαού», πρόσθεσε.
Αυτοί είναι οι 968 λογαριασμοί πίσω από τα ρωσικά bots
«Η σημερινή ενέργεια αποδεικνύει ότι το υπουργείο Δικαιοσύνης και οι εταίροι μας δεν θα ανεχτούν τους ρωσικούς κυβερνητικούς παράγοντες και τους πράκτορές τους να αναπτύσσουν τεχνητή νοημοσύνη για να σπέρνουν παραπληροφόρηση και να τροφοδοτούν τη διαίρεση μεταξύ των Αμερικανών», δήλωσε η αναπληρώτρια γενική εισαγγελέας, Λίζα Μονάκο.
«Οι σημερινές ενέργειες συνιστούν μια πρωτιά στη διακοπή της λειτουργίας φάρμας bot στα μέσα κοινωνικής δικτύωσης που υποστηρίζεται από τη Ρωσία με τη βοήθεια της Παραγωγικής Τεχνητής Νοημοσύνης», δήλωσε ο διευθυντής του FBI, Κρίστοφερ Ρέι. «Η Ρωσία σκόπευε να χρησιμοποιήσει αυτή τη φάρμα bot για τη διάδοση παραπληροφόρησης που δημιουργείται με ΑΙ, για να υπονομεύσει τους εταίρους μας στην Ουκρανία και να επηρεάσει γεωπολιτικά αφηγήματα που ευνοούν τη ρωσική κυβέρνηση. Το FBI έχει δεσμευτεί να συνεργαστεί με τους εταίρους μας και να αναπτύξει κοινές, διαδοχικές επιχειρήσεις για να διαταράξει στρατηγικά τους πιο επικίνδυνους αντιπάλους μας και τη χρήση τεχνολογίας αιχμής από αυτούς για κακόβουλους σκοπούς».
Η ρωσική φάρμα bot με ΑΙ
Σύμφωνα με τα δικαστικά έγγραφα, η συγκεκριμένη φάρμα bot είναι ένα βελτιωμένο πακέτο λογισμικού που επιτρέπει τη δημιουργία ψευδών προφίλ στις πλατφόρμες κοινωνικής δικτύωσης.
Η ανακοίνωση του υπ. Δικαιοσύνης συνεχίζει:
«Οι φάρμες των bot ενισχύονται με την ενσωμάτωση στοιχείων που προέρχονται από την τεχνητή νοημοσύνη, όπως η παραγωγή εικόνων ή η παραγωγή κειμένου.
Οπως περιγράφεται στις ένορκες καταθέσεις που κατατέθηκαν προς υποστήριξη των ενταλμάτων, η ανάπτυξη της φάρμας bot στα μέσα κοινωνικής δικτύωσης οργανώθηκε από ένα άτομο που εντοπίστηκε στη Ρωσία (άτομο Α).
Στις αρχές του 2022, το άτομο Α εργαζόταν ως αναπληρωτής αρχισυντάκτης στο RT, έναν κρατικό ρωσικό ειδησεογραφικό οργανισμό με έδρα τη Μόσχα.
Τουλάχιστον από το 2022, η ηγεσία του RT επεδίωκε την ανάπτυξη εναλλακτικών μέσων για τη διανομή πληροφοριών πέραν των τυπικών τηλεοπτικών ειδησεογραφικών εκπομπών του RT.
Το άτομο Α ηγήθηκε της ανάπτυξης λογισμικού που ήταν σε θέση να δημιουργήσει και να λειτουργήσει μια φάρμα bot στα μέσα κοινωνικής δικτύωσης.
Σύμφωνα με τον σχεδιασμό, η φάρμα bot στα μέσα κοινωνικής δικτύωσης θα δημιουργούσε πλασματικές διαδικτυακές προσωπικότητες για λογαριασμούς στα μέσα κοινωνικής δικτύωσης, μέσω των οποίων το RT ή οποιοσδήποτε χειριστής της φάρμας bot θα μπορούσε να διανέμει πληροφορίες σε ευρεία κλίμακα.
Η ανάπτυξη εκτελέστηκε από το άτομο Β και άλλους, οι οποίοι απέκρυψαν την ταυτότητά τους και την τοποθεσία τους (Ρωσία), ενώ άρχισαν να αγοράζουν υποδομές για τη φάρμα bot στα μέσα κοινωνικής δικτύωσης τον Απρίλιο του 2022.
Στις αρχές του 2023, με την έγκριση και την οικονομική υποστήριξη της Προεδρικής Διοίκησης της Ρωσίας (Κρεμλίνο), ένας Ρώσος αξιωματικός της FSB (FSB αξιωματικός 1) δημιούργησε και ηγήθηκε μιας ιδιωτικής οργάνωσης πληροφοριών (PIO), όπως εξηγείται στις ένορκες καταθέσεις.
Τα μέλη της PIO αποτελούνταν, μεταξύ άλλων, από υπαλλήλους του RT, συμπεριλαμβανομένου του ατόμου Α.
Ο πραγματικός σκοπός της PIO ήταν να προωθήσει την αποστολή της FSB και της ρωσικής κυβέρνησης, μεταξύ άλλων με τη διάδοση της παραπληροφόρησης μέσω των λογαριασμών στα μέσα κοινωνικής δικτύωσης που δημιουργήθηκαν από τη φάρμα bot.
Σύμφωνα με τις ένορκες καταθέσεις, ο αξιωματικός 1 της FSB, το άτομο Α και άλλα μέλη της PIO είχαν πρόσβαση στη φάρμα bot στα μέσα κοινωνικής δικτύωσης».
Ακολουθούν παραδείγματα ρωσικών-κυβερνητικών αφηγήσεων που η φάρμα bot δημοσίευσε στο X τον Οκτώβριο και τον Νοέμβριο του 2023:
- Ενας υποτιθέμενος ψηφοφόρος των ΗΠΑ απάντησε στις αναρτήσεις ενός υποψηφίου για ομοσπονδιακό αξίωμα στα μέσα κοινωνικής δικτύωσης σχετικά με τη σύγκρουση στην Ουκρανία με ένα βίντεο με τον πρόεδρο Πούτιν να δικαιολογεί τις ενέργειες της Ρωσίας στην Ουκρανία.
- Ενας υποτιθέμενος κάτοικος της Μινεάπολης της Μινεσότα δημοσίευσε ένα βίντεο με τον πρόεδρο Πούτιν να συζητά την πεποίθησή του ότι ορισμένες γεωγραφικές περιοχές της Πολωνίας, της Ουκρανίας και της Λιθουανίας ήταν «δώρα» στις χώρες αυτές από τις ρωσικές δυνάμεις που τις απελευθέρωσαν από τον ναζιστικό έλεγχο κατά τη διάρκεια του Β’ Παγκοσμίου Πολέμου.
- Ενας υποτιθέμενος κάτοικος των ΗΠΑ από μια πόλη που προσδιορίζεται μόνο ως “Gresham”, δημοσίευσε ένα βίντεο στο οποίο ισχυρίζεται ότι ο αριθμός των ξένων μαχητών που είναι ενσωματωμένοι στις ουκρανικές δυνάμεις είναι σημαντικά χαμηλότερος από τις δημόσιες εκτιμήσεις.
- Το ίδιο άτομο δημοσίευσε ένα βίντεο με τον πρόεδρο Πούτιν να ισχυρίζεται ότι ο πόλεμος στην Ουκρανία δεν είναι μια εδαφική σύγκρουση ή ένα ζήτημα γεωπολιτικής ισορροπίας, αλλά μάλλον οι «αρχές στις οποίες θα βασιστεί η Νέα Παγκόσμια Τάξη».
Πώς «έχτιζαν» τα ψεύτικα προφίλ
Σύμφωνα με την ανακοίνωση του υπουργείου Δικαιοσύνης των ΗΠΑ, για την καταχώριση των πλασματικών λογαριασμών στα μέσα κοινωνικής δικτύωσης, η φάρμα bot βασίστηκε σε ιδιωτικούς διακομιστές ηλεκτρονικού ταχυδρομείου, οι οποίοι με τη σειρά τους βασίζονταν στα δύο ονόματα τομέα που κατασχέθηκαν από το FBI.
Ενα άτομο που ελέγχει ένα διαδικτυακό domain μπορεί να δημιουργήσει λογαριασμούς ηλεκτρονικού ταχυδρομείου χρησιμοποιώντας το domain.
Για παράδειγμα, ένα άτομο που ελέγχει το www.example.com μπορεί να δημιουργήσει λογαριασμούς ηλεκτρονικού ταχυδρομείου χρησιμοποιώντας το @example.com (π.χ. [email protected]).
Εδώ, οι δράστες απέκτησαν και ήλεγχαν τα ονόματα “mlrtr.com” και “otanmail.com” από έναν πάροχο με έδρα τις ΗΠΑ.
Στη συνέχεια χρησιμοποίησαν αυτά τα domains για να δημιουργήσουν τους διακομιστές ηλεκτρονικού ταχυδρομείου που τους επέτρεψαν τελικά να δημιουργήσουν πλασματικούς λογαριασμούς στα μέσα κοινωνικής δικτύωσης.
Οπως επισημαίνεται, η χρήση από την FSB των ονομάτων τομέα με έδρα τις ΗΠΑ, τα οποία το λογισμικό χρησιμοποίησε για την καταχώριση των bots, παραβιάζει τον νόμο περί διεθνών οικονομικών δυνάμεων έκτακτης ανάγκης.
Επιπλέον, οι συνοδευτικές πληρωμές για την εν λόγω υποδομή παραβιάζουν τους ομοσπονδιακούς νόμους περί νομιμοποίησης εσόδων από παράνομες δραστηριότητες, προσθέτει η ανακοίνωση του υπουργείου Δικαιοσύνης των ΗΠΑ.
