Τα deepfakes απειλούν τα σχολεία – Τεχνητή Νοημοσύνη, εκδικητικό πορνό και οι κίνδυνοι για τους ανηλίκους

Σήμερα η καθημερινότητά μας εξαρτάται εξ ολοκλήρου από τις κινητές συσκευές και το διαδίκτυο. Χρησιμοποιούμε μια ποικιλία εφαρμογών, συμπεριλαμβανομένων των Χαρτών Google, Alexa, Siri, Cortana στα Windows, OK Google, λήψη selfie, πραγματοποίηση κλήσεων, απάντηση σε email κ.λπ. Αυτές οι εφαρμογές με τη χρήση διαφόρων τεχνικών βασίζονται σε Τεχνητή Νοημοσύνη (ΑΙ), αλλά αυτά είναι μόνο μια σταγόνα μπροστά σε έναν ωκεανό πραγμάτων που μπορεί να μας προσφέρει η νέα αυτή δυνατότητα.

Ένα άλλο τεράστιο όφελος της AI είναι η μείωση του ανθρώπινου λάθους, η εξάλειψη των κινδύνων σε στρατιωτικές ή διαστημικές αποστολές για παράδειγμα, η 24ωρη διαθεσιμότητα των ΑΙ προγραμμάτων που μπορούν να πραγματοποιήσουν αδιαμαρτύρητα επαναλαμβανόμενες εργασίες, να συγκεντρώνουν στοιχεία και να παίρνουν αμερόληπτες αποφάσεις και φυσικά η δημιουργία του μέλλοντος σε επιστημονικές και ιατρικές ανακαλύψεις. Τι γίνεται όμως στην πλευρά «πέρα από τον ήλιο»;

Τους τελευταίους μήνες ακούμε συνεχώς για διάσημους που έχουν πέσει θύματα της ΑΙ, όπως είναι για παράδειγμα η Τέιλορ Σουίφτ, η οποία εμφανίζεται να διαφημίζει προϊόντα ή σε ερωτικές περιπτύξεις, ο Ομπάμα που αποκαλεί τον Ντόναλντ Τραμπ «εντελώς ηλίθιο» ή ο Μαρκ Ζάκερμπεργκ που καυχιέται ότι έχει «τον απόλυτο έλεγχο των κλεμμένων δεδομένων δισεκατομμυρίων ανθρώπων»… Αυτά τα βίντεο γίνονται όλο και πιο πειστικά και συνηθισμένα. Τα εργαλεία της AI, τα ονομαζόμενα deepfakes, αντιγράφουν το ηχόχρωμα και τις εκφραστικές κινήσεις των προσώπων με πολύ μεγάλη ευκολία, δημιουργώντας τελικά μια σύγχυση για το τι είναι αληθινό και τι όχι.

Οι δυνατότητές τους μοιάζουν άπειρες, από πειστικές τηλεφωνικές απάτες με στόχο να αποσπαστούν χρηματικά ποσά μέχρι και τη δημιουργία πορνογραφικού υλικού. Πέραν των διασήμων που είδαν τους εαυτούς τους σε πορνογραφικά βίντεο, κάποιοι δεν δίστασαν να δημιουργήσουν revenge porn απλά και μόνο για να βλάψουν άλλους ανθρώπους. Κυβερνήσεις, παγκόσμιοι και εθνικοί οργανισμοί και παράγοντες έχουν προσπαθήσει να οχυρώσουν το κοινό απέναντι σε αυτή τη νέα απειλή που αμφισβητεί την πραγματικότητα και μπορεί να γίνει τρομερά επώδυνη και επικίνδυνη.

Το deepfake δίνει τη δυνατότητα σε κάποιον – οποιονδήποτε! – να παραποιήσει ένα βίντεο, βάζοντας το πρόσωπο ενός ατόμου στο σώμα ενός άλλου (ή και αντίστροφα) και να προσαρμόσει τη φωνή, τις εκφράσεις και την κίνηση. Με αυτόν τον τρόπο, δημιουργεί ένα ψευδές εικονιζόμενο πρόσωπο, το οποίο όμως μοιάζει εκπληκτικά με αληθινό. Υπάρχουν πλέον πολλές εφαρμογές (και εμφανίζονται συνεχώς καινούργιες), επί πληρωμή και μη, με τις οποίες οποιοσδήποτε μπορεί να δημιουργήσει ένα deepfake βίντεο.

Φυσικά, άλλο είναι να δημιουργήσει κάποιος ένα χιουμοριστικό βίντεο όπου η Αριάνα Γκράντε τραγουδάει Γωγώ Τσαμπά ή ο Κυριάκος Μητσοτάκης ραπάρει ΛΕΞ κι άλλο είναι να χρησιμοποιεί κάποιος τη φωνή και το πρόσωπο ενός τρίτου για να δημιουργήσει βίντεο και εικόνες που μπορούν να βλάψουν αυτό το άτομο.

Σήμερα, η πλειονότητα του deepfake υλικού που κυκλοφορεί στο διαδίκτυο αφορά τη μη συναινετική πορνογραφία. Δηλαδή εμφανίζονται βίντεο πορνογραφικού υλικού όπου έχει αντικατασταθεί το πρόσωπο της γυναίκας ή των γυναικών που πρωταγωνιστούν με το πρόσωπο κάποιας άλλης ή άλλων. Συνήθως τα θύματα είναι διάσημα πρόσωπα, όμως δεν αποκλείεται να είναι ο οποιοσδήποτε, άντρας, γυναίκα, ακόμα και ανήλικα παιδάκια.

Το ζήτημα αυτό γεννά έντονο προβληματισμό και ανησυχία όσον αφορά την προστασία της ιδιωτικότητας στο διαδίκτυο και δυστυχώς μπορεί να καταστήσει δυνητικό θύμα κάθε φυσικό πρόσωπο ανεξαρτήτως φύλου. Χαρακτηριστικό παράδειγμα η πρόσφατη αποκάλυψη κυκλώματος διακίνησης γυμνών φωτογραφιών χιλιάδων ανυποψίαστων γυναικών μέσω Telegram και Discord.

Το στενάχωρο σε αυτές τις υποθέσεις είναι ότι, εάν κάποιος πέσει θύμα και αποτελέσει στόχο του deepfake revenge porn, έχει περιορισμένες δυνατότητες νομικής προσφυγής. Δεν υπάρχει κάποια ευρωπαϊκή ή εθνική νομοθεσία που να ρυθμίζει και να αντιμετωπίζει την επικίνδυνη χρήση αυτής της λειτουργικής δυνατότητας. Μόνο ο Κώδικας Πρακτικής της Παραπληροφόρησης, που παρουσιάστηκε αρχικά τον Απρίλιο του 2018 και ανανεώθηκε τον Ιούνιο του 2022, θέτει ένα ευρύ φάσμα δεσμεύσεων για το κλείσιμο ψεύτικων λογαριασμών και την απονομιμοποίηση των προμηθευτών παραπληροφόρησης.

Βάσει του άρθρου 346 του Ελληνικού Ποινικού Κώδικα, η εκδικητική πορνογραφία (revenge porn) θεωρείται αξιόποινη πράξη και αντιμετωπίζει τον μη συναινετικό διαμοιρασμό υλικού που αφορά τη γενετήσια ζωή του εικονιζόμενου. Επιπροσθέτως η παραποίηση / αλλοίωση της εικόνας κάποιου φυσικού προσώπου ενδέχεται να θεωρηθεί ως παραβίαση των προσωπικών δεδομένων του συγκεκριμένου φυσικού προσώπου με βάση τον Ν. 4624/2019.

Εάν κάποιοι έχουν μεγαλύτερη εξοικείωση στις νέες τεχνολογίες, αυτά είναι τα παιδιά. Φυσικά δεν χρειάζεται να έχει κάποιος τρομερή κατάρτιση για να πατήσει απλές εντολές στο πρόγραμμα και να δημιουργήσει ένα βίντεο.

Παιδιά με επιφανειακή ψηφιακή παιδεία, ελάχιστη ή και μηδενική γονική επίβλεψη, βασικές τεχνικές γνώσεις και τις περισσότερες φορές χωρίς καμία απολύτως επίγνωση των συνεπειών των πράξεών τους, «ανεβάζουν» επεξεργασμένες φωτογραφίες συνομηλίκων τους με τη βοήθεια εύκολων στη χρήση τους εφαρμογών (που πολύ συχνά διατίθενται στους χρήστες εντελώς δωρεάν) που διαφημίζονται για τη δυνατότητά τους ακόμα και να «ξεγυμνώνουν» τα άτομα μέσω της αυτοματοποιημένης επεξεργασίας εικόνων, για εκδίκηση ή επειδή πολύ απλά «θα έχει πλάκα». Αυτές οι πρακτικές έχουν εξαπλωθεί ραγδαία διεθνώς αλλά και στην Ελλάδα.

Τα ποσοστά είναι σοκαριστικά, καθώς το 96% του deepfake υλικού που κυκλοφορεί παγκοσμίως εξακολουθεί να αφορά βίντεο και εικόνες μη συναινετικής πορνογραφίας, ενώ ένα τεράστιο ποσοστό αφορά μαθητές. Η εικόνα των παιδιών έχει συντεθεί με τη βοήθεια της Τεχνητής Νοημοσύνης και αντικαθιστά την εικόνα των προσώπων που είχαν αρχικά μαγνητοσκοπηθεί για το βίντεο. Είναι χαρακτηριστικό ότι, σύμφωνα με πρόσφατα στοιχεία, η μεγάλη πλειονότητα των μαθητών Γυμνασίου των ΗΠΑ δήλωσαν ότι είχαν δεχτεί εκφοβισμό μέσω μηνυμάτων κειμένου ή πλατφορμών κοινωνικών μέσων ενώ βρίσκονταν στο σχολείο.

Ανησυχητικές έρευνες λένε ότι μέχρι το τέλος του 2024 τα deepfake βίντεο πορνογραφικού περιεχομένου θα έχουν ξεπεράσει σε σύνολο – μόνο το 2024! – τα βίντεο που έχουν παραχθεί όλα τα προηγούμενα χρόνια συνολικά!

Αυτή η τεράστια αύξηση οφείλεται αφενός στο γεγονός ότι οι βάσεις δεδομένων εμπλουτίζονται συνεχώς με καινούργιες φωτογραφίες, οι οποίες κατά συντριπτική πλειονότητα προέρχονται από τα social media, και αφετέρου στο ότι όλο και περισσότερος κόσμος – μεταξύ τους και παιδιά – εξοικειώνεται με τη δημιουργία βίντεο Τεχνητής Νοημοσύνης. Οι ιστοσελίδες οι οποίες παρέχουν αυτές τις δυνατότητες συνεχίζουν να αυξάνονται με φρενήρεις ρυθμούς.

Στη χώρα μας υπάρχουν ήδη πολλές περιπτώσεις μαθητών που διακινούσαν «πειραγμένο» πορνογραφικό υλικό συμμαθητριών ή συμμαθητών τους με στόχο την εκδίκηση. Για παράδειγμα, τον Ιανουάριο στην Κρήτη, και πιο συγκεκριμένα στο Ηράκλειο, συνελήφθησαν δύο μαθητές Γυμνασίου. Τα δύο παιδιά είχαν καταστρώσει σχέδιο με στόχο να διασύρουν συμμαθητές τους με τους οποίους είχαν διαφορές. Η υπόθεση αποκαλύφθηκε και ο φάκελος που σχημάτισε η αστυνομία οδήγησε τους ανηλίκους στον εισαγγελέα.

Οι δύο ανήλικοι κατηγορούνται ότι διακινούσαν, μέσω κινητών τηλεφώνων και διαδικτυακών εφαρμογών, κυρίως μέσω Instagram, στο σχολείο τους παραποιημένες πορνογραφικές φωτογραφίες δύο συμμαθητριών τους με σκοπό την εκδίκηση. Μάλιστα ο 13χρονος φέρεται να εξαναγκάστηκε από την επίσης συλληφθείσα συμμαθήτριά του να παραποιήσει τις φωτογραφίες, διότι τον απείλησε με ξυλοδαρμό.

Την υπόθεση ανέλαβε η Υποδιεύθυνση Ασφάλειας Ηρακλείου ύστερα από καταγγελία γονιών των θυμάτων, μαθητριών του ίδιου Γυμνασίου. Σύμφωνα με τη δικογραφία που έχει σχηματιστεί, οι δύο ανήλικοι φέρονται να χρησιμοποίησαν αναρτημένες στο Instagram φωτογραφίες των συμμαθητριών τους, με τις οποίες εμφανίζονται να έχουν διαφορές, για να τις εκδικηθούν. Έπειτα, το υλικό διακινήθηκε πάλι μέσω social media στα υπόλοιπα παιδιά του σχολείου.

Το πρώτο περιστατικό στην Ελλάδα που αφορά βίντεο πορνογραφικού περιεχομένου που δημιουργήθηκαν με Τεχνητή Νοημοσύνη καταγράφηκε το 2021 με θύμα μιαν ανήλικη μαθήτρια και δράστη έναν συμμαθητή της. Όπως περιέγραψε η CEO του CyberX Κέλλυ Ιωάννου, ο δράστης είχε αποσπάσει φωτογραφίες από το προφίλ της κοπέλας στα social media και τις είχε επεξεργαστεί με τέτοιο τρόπο, ώστε να φαίνεται πως η ανήλικη συμμετείχε σε βίντεο ερωτικού περιεχομένου. Μόλις άνοιξε η έρευνα, αποκαλύφθηκε ότι ο συμμαθητής της το είχε κάνει για να τη δυσφημήσει και να γίνει ο ίδιος σημαιοφόρος!

Η ψυχολογική ζημιά και το τίμημα που πληρώνουν τα θύματα για όλη τους τη μετέπειτα ζωή είναι τεράστιο και δεν γνωρίζουμε ακόμα την πλήρη έκταση του προβλήματος. Μιλάμε για σοβαρές επιπτώσεις στην κοινωνική ζωή, αλλά και στην ψυχική υγεία των θυμάτων, τα οποία είναι απροστάτευτα απέναντι στη νέα ψηφιακή απειλή του revenge porn.

Επιπλέον δημιουργείται ένα τοξικό σχολικό περιβάλλον στο οποίο επικρατεί ο φόβος και το αίσθημα της διαρκούς απειλής της ταπείνωσης και της σεξουαλικοποίησης. Πολλοί νέοι άνθρωποι διεθνώς δεν άντεξαν το «στίγμα» και έδωσαν τέλος στη ζωή τους. Να σημειώσουμε πως θεωρείται ιδιαίτερα πολύπλοκο το να διακριβωθεί η αυθεντικότητα αυτών των βίντεο και να αφαιρεθούν εντελώς από τον κυβερνοχώρο, όπως συμβαίνει με όλα τα βίντεο εκδικητικού πορνό είτε είναι δημιουργήματα Τεχνητής Νοημοσύνης είτε όχι.

Ζούμε μια νέα εποχή ως προς το πώς μπορεί να εκφραστεί το bullying στις σχολικές μονάδες, οι οποίες δυστυχώς δεν είναι απόλυτα ικανές να αποτρέψουν ή έστω να αντιμετωπίσουν αυτά τα ακραία φαινόμενα. Καθηγητές, γονείς και μαθητές έρχονται αντιμέτωποι με μια νέα ψηφιακή πραγματικότητα και τα σχολεία αντιδρούν επιφανειακά τις περισσότερες φορές, αναγκάζοντας τους γονείς να προσφύγουν στη Δικαιοσύνη.

Μιλάμε πλέον για μια νέα πραγματικότητα στις εκφοβιστικές πρακτικές. Αυτά τα περιστατικά υπογραμμίζουν με κόκκινο την αναγκαιότητα να διαμορφωθεί ένα νέο και ισχυρό νομικό πλαίσιο που στόχο θα έχει την προστασία του θύματος πριν διαπραχθεί το έγκλημα. Επίσης σημαντικό είναι να δημιουργηθούν τα αναγκαία τεχνολογικά αντανακλαστικά ώστε να προλαμβάνονται παρόμοια περιστατικά. Είναι τουλάχιστον ειρωνικό το Instagram να έχει την τεχνολογική επάρκεια να «κατεβάζει» οποιαδήποτε δημοσίευση έχει την υποψία γυναικείας θηλής και να μην υπάρχει κάποιος αμυντικός μηχανισμός απέναντι σε ολόκληρα πορνογραφικά βίντεο…

Εκτός από το νομοθετικό πλαίσιο, όμως, χρειάζεται να γίνουν γενναίες τομές και στην Εκπαίδευση. Οι ψηφιακές πλατφόρμες πρέπει άμεσα να αναπτύξουν ολιστικές τεχνολογίες ανίχνευσης και διαγραφής προϊόντων deepfake για να αποτρέψουν τη διάδοση παραποιημένου περιεχομένου και εικόνων χωρίς τη συγκατάθεση των εμπλεκόμενων ατόμων. Αυτές οι τεχνικές είναι ακόμα σε πρώιμο στάδιο και το μόνο το οποίο έχουν καταφέρει για την ώρα είναι να εντοπίζουν και να διαγράφουν fake news.

Διαβάστε επίσης:

Σε ΗΠΑ και Καναδά ο Δημήτρης Κουτσούμπας

Στο Καλλιμάρμαρο η τελετή παράδοσης της Ολυμπιακής Φλόγας στους Γάλλους

Δολοφονία Λυγγερίδη: «Δέρνουν όσους δεν υπακούουν στις εντολές» – Καταθέσεις «φωτιά» των προστατευόμενων μαρτύρων για τα ηγετικά στελέχη