Η παραγωγική τεχνητή νοημοσύνη και η τεχνολογία των deepfakes έχουν ήδη προκαλέσει σημαντικές αλλαγές σε τομείς όπως οι γραφικές τέχνες, ο κινηματογράφος, η διαφήμιση, αλλά και στη βιομηχανία του σεξ.
Η δυνατότητα της τεχνητής νοημοσύνης να δημιουργεί οπτικό και ηχητικό υλικό κατά παραγγελία και να του δίνει οποιαδήποτε μορφή επιθυμεί, αποτελεί απειλή για την ιδιωτικότητα των ανυποψίαστων γυναικών. Χωρίς τη συγκατάθεσή τους, μπορεί να εμφανίζονται σε πορνογραφικό περιεχόμενο, όπως βίντεο και φωτογραφίες, αναφέρει το Sky News.
Η διάδοση της τεχνητής νοημοσύνης προκαλεί επίσης ανησυχία στα σχολεία, καθώς μπορεί να χρησιμοποιηθεί ως εργαλείο για παρενόχληση και εκβιασμό. Μια πρόσφατη έρευνα από το Internet Matters έδειξε ότι το 13% των εφήβων έχουν βιώσει εμπειρίες με γυμνά deepfakes.
Οι αρμόδιοι οργανισμοί και οι ΜΚΟ προειδοποιούν ότι η χρήση της τεχνητής νοημοσύνης για τη δημιουργία ρεαλιστικών αλλά ψεύτικων γυμνών εικόνων πραγματικών γυναικών γίνεται όλο και πιο συνηθισμένη.
ΑΙ και πορνό: Στην «γκρίζα» ζώνη του νόμου
Τον Νοέμβριο, η Υπαξιωματικός Σαμάνθα Μίλερ από το Εθνικό Συμβούλιο Αστυνομικών Διευθυντών μίλησε σε επιτροπή βουλευτών για το θέμα και κατέληξε ότι «το σύστημα αποτυγχάνει» να προστατεύσει τα δικαιώματα των θυμάτων.
Η βρετανική κυβέρνηση αναφέρει ότι σχεδιάζεται νέα νομοθεσία που απαγορεύει τη δημιουργία γυμνών εικόνων μέσω τεχνητής νοημοσύνης για το 2025, αν και ήδη είναι παράνομο να δημιουργούνται ψεύτικα γυμνά ανηλίκων.
Η κατάσταση επιδεινώνεται με την εμφάνιση πολλών εφαρμογών που μπορούν να ενσωματώσουν χαρακτηριστικά τρίτων σε εικόνες και βίντεο. Οποιοσδήποτε μπορεί να γίνει θύμα, αν και κυρίως πλήττονται οι γυναίκες.
Η καθηγήτρια Clare McGlynn, ειδικός στη διαδικτυακή παρενόχληση, δήλωσε: «Έχουμε παρατηρήσει μια εκθετική αύξηση στη χρήση deepfakes σεξουαλικού περιεχομένου. Ένας από τους μεγαλύτερους και πιο διαβόητους ιστότοπους που ασχολούνται με αυτήν την κακοποίηση δέχεται περίπου 14 εκατομμύρια επισκέψεις το μήνα».
Παράλληλα, οι κυβερνήσεις και τα νομικά συστήματα πολλών χωρών καθυστερούν στην υιοθέτηση μέτρων τιμωρίας για όσους εκμεταλλεύονται τέτοιες τεχνολογίες.
Σε πολλές περιπτώσεις, οι δράστες που χρησιμοποιούν deepfakes για εκβιασμό και παρενόχληση τρίτων, αντιμετωπίζουν μόνο πλημμελήματα, καθώς η πράξη της παραγγελίας μιας εικόνας ή βίντεο δεν θεωρείται αξιόποινη.
