Μπορεί άραγε οι αλγόριθμοι των social media να προωθούν βίαιες συμπεριφορές και μισογυνιστικές ιδέες; Πλατφόρμες όπως η TikTok και η Meta (Instagram) έχουν δεχθεί σοβαρές κατηγορίες για την αρνητική επιρροή που ασκούν στους εφήβους. Αυτό περιλαμβάνει την έκθεση τους σε τοξικό περιεχόμενο, την ενίσχυση εθιστικών συμπεριφορών, διαταραχές ύπνου και επιδείνωση της ψυχικής υγείας.
Συχνά οι κατηγορίες αυτές προέρχονται από πρώην εργαζόμενους των πλατφορμών, οι οποίοι καταγγέλλουν στους μίντια, ως whistleblowers, τις αθέμιτες πρακτικές και την αδιαφορία που παρατηρείται όσον αφορά την ασφάλεια των ανήλικων χρηστών στο διαδίκτυο.
Πλέον, οι διάφορες πλατφόρμες αντιμετωπίζουν όλο και μεγαλύτερη πίεση από τις ρυθμιστικές αρχές να ελέγχουν το περιεχόμενό τους. Έτσι, δεσμεύονται να εφαρμόζουν αυστηρούς κανόνες για τον εντοπισμό και την αφαίρεση βλαβερών περιεχομένων, χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης και χιλιάδες υπαλλήλους που ονομάζονται «συντονιστές».
Ωστόσο, σύμφωνα με πρώην εργαζόμενο της TikTok που μίλησε στο BBC, οι αλγόριθμοι ενδέχεται να μην κάνουν καλή δουλειά, ή ακόμα χειρότερα, ουσιαστικά να προγραμματίζονται για να μεγιστοποιούν την εμπλοκή των ανήλικων χρηστών, χωρίς να περιορίζονται στη φύση του προωθούμενου περιεχομένου.
Από χαριτωμένα σκυλάκια… σε βία και μισογυνισμό
Το 2022, ο 16χρονος Κάι άρχισε να «σκρολάρει» στο τηλέφωνό του και είδε ένα γλυκό βίντεο με ένα σκυλί. Όμως, σύντομα οι προτάσεις άλλαξαν ριζικά.
«Ξαφνικά», λέει ο Κάι, άρχισε να προτείνεται περιεχόμενο που περιλάμβανε ανθρώπους να χτυπιούνται από αυτοκίνητα, μισογυνιστικά σχόλια από influencers και σκηνές βίας. Ανησύχησε: γιατί εγώ;
Οι αλγόριθμοι των μεγάλων εταιρειών κοινωνικής δικτύωσης τείνουν να προτείνουν επιβλαβές περιεχόμενο στα παιδιά, ακόμα και αν αυτό γίνεται κατά λάθος.
Στην ίδια περίοδο στο Δουβλίνο, ο Άντριου Κάουνγκ εργαζόταν ως αναλυτής ασφάλειας χρηστών στην TikTok. Μαζί με έναν συνεργάτη, αποφάσισαν να ελέγξουν τι περιεχόμενο προτείνονταν στους χρήστες στην Αγγλία, συμπεριλαμβανομένων και 16χρονων. Ο Άντριου είχε προηγουμένως εργαστεί στη Meta, εταιρεία που κατέχει το Instagram, έναν άλλο δημοφιλή προορισμό και για τον Κάι.
Ανησυχίες για επιβλαβές περιεχόμενο
Όταν ο Άντριου ανέλυσε το περιεχόμενο της TikTok, σοκαρίστηκε από το γεγονός ότι σε πολλά αγόρια έβλεπε βίντεο που προωθούσαν βία και πορνογραφία, ενώ τα κορίτσια λάμβαναν πολύ διαφορετικό περιεχόμενο, ανάλογα με τα ενδιαφέροντά τους.
Η TikTok και άλλες πλατφόρμες χρησιμοποιούν τεχνολογία AI για να αφαιρούν το 99% των βλαβερών περιεχομένων πριν αυτά διαδοθούν σε ευρύ κοινό. Όμως, τα αυτοματοποιημένα εργαλεία δεν είναι πάντα αποτελεσματικά στο να εντοπίσουν απαγορευμένο περιεχόμενο.
Ο Κάουνγκ μας εξηγεί ότι όλα τα βίντεο που δεν είχαν αφαιρεθεί ή επισημανθεί από την AI επανεξετάζονταν μόνο αν ξεπερνούσαν τις 10.000 προβολές. Αυτό τον ανησυχεί, γιατί κάποιες φορές οι νεότεροι χρήστες εκτίθενται σε βλάσφημο περιεχόμενο.
Πώς λειτουργούν οι αλγόριθμοι
Η TikTok υποστηρίζει ότι το 99% των περιεχομένων που παραβιάζουν τους κανόνες αφαιρείται πριν φτάσουν τις 10.000 προβολές. Αποκαλύπτει ότι проводит προληπτικούς ελέγχους και σε βίντεο με λιγότερες προβολές.
Κατά την εργασία του στη Meta, ο Κάουνγκ παρατήρησε ότι οι εταιρείες βασίζονταν στο να αναφέρουν οι χρήστες ορισμένα περιεχόμενα αφού τα είχαν δει, αντί να τα εμποδίζουν εκ των προτέρων.
«Οι εταιρείες αγνοούν και αντιμετωπίζουν τους ανηλίκους όπως τους ενήλικες»
Ο ίδιος εξέφρασε τις ανησυχίες του, αλλά συχνά αυτές ακυρώνονταν λόγω κόστους ή φόβων για τον φόρτο εργασίας.
Πολλοί πρώην εργαζόμενοι συμφωνούν ότι οι αλγόριθμοι προτείνουν απολύτως επιβλαβές περιεχόμενο ακόμα και κατά λάθος στους ανήλικους χρήστες, σύμφωνα με την Ofcom, τη βρετανική ρυθμιστική αρχή.
«Κολλάνε στο μυαλό»
Η TikTok επαναλαμβάνει πως διαθέτει προηγμένα μέτρα ασφαλείας για τους εφήβους και προσλαμβάνει περισσότερους από 40.000 υπαλλήλους που εργάζονται για την ασφάλεια. Αναφέρει ότι θα επενδύσει πάνω από 2 δισ. δολάρια φέτος για την ασφάλεια και 98% του επιβλαβούς περιεχομένου βρίσκει προληπτικά.
Η Meta λέει ότι προσφέρει περισσότερους από 50 διαφορετικούς πόρους και εργαλεία για να παρέχει στους εφήβους ασφαλέστερες εμπειρίες στην πλατφόρμα.
Ο Κάι δήλωσε ότι προσπάθησε να χρησιμοποιήσει τα εργαλεία που παρέχουν το Instagram και το TikTok για να δυσανασχετήσει σχετικά με το βίαιο ή μισογυνιστικό περιεχόμενο, αλλά εξακολουθούσε να του προτείνεται.
«Αυτό το περιεχόμενο κολλάει στο μυαλό σου και το σκέφτεσαι όλη την ημέρα», εξηγεί.
Πώς δουλεύουν οι αλγόριθμοι της TikTok
Ο Άντριου εξηγεί ότι οι αλγόριθμοι βασίζονται στην εμπλοκή των χρηστών, ξεχνώντας αν αυτή είναι θετική ή αρνητική. Αυτό ενδεχομένως εξηγεί γιατί οι προσπάθειες του Κάι να επηρεάσει τους αλγορίθμους δεν είχαν αποτέλεσμα.
Κατά την εγγραφή τους, οι χρήστες δηλώνουν τα ενδιαφέροντά τους, και αυτό έχει ως αποτέλεσμα να προτείνονται βίντεο που ανταγωνίζονται στους αλγόριθμους. Αν και η TikTok υποστηρίζει ότι οι αλγόριθμοι δεν γνωρίζουν το φύλο των χρηστών, οι επιλογές που γίνονται κατά την εγγραφή συνήθως κατηγοριοποιούν τους χρήστες κατά φύλο.
Χάρη στους αλγόριθμους, συγκεκριμένα αγόρια 16 ετών μπορούν να εκτεθούν σε βίαιο περιεχόμενο άμεσα, εάν άλλοι χρήστες στη συγκεκριμένη ηλικία δείχνουν προτίμηση σε αυτό.
Αδυναμία των αλγορίθμων
Ο αλγόριθμος του TikTok που προτείνει περιεχόμενο στη ροή του “For You Page” συχνά δεν διαχωρίζει ανάμεσα σε βλαβερό και μη βλαβερό περιεχόμενο.
Ο Άντριου ανακαλύπτει ότι οι ομάδες που σχεδιάζουν και εκπαιδεύουν αυτόν τον αλγόριθμο δεν ξέρουν πάντα την ακριβή φύση των βίντεο που προτείνουν.
«Ζητάμε από μια ιδιωτική εταιρεία να αυτορυθμιστεί όταν το συμφέρον της είναι να προμοτάρει τα προϊόντα της. Είναι σαν να ζητάς από μια τίγρη να μη σε φάει»
Γι’ αυτό, το 2022, ο Άντριου και ο συνεργάτης του αποφάσισαν να διερευνήσουν τι περιεχόμενο προτάθηκε σε διάφορους χρήστες, συμπεριλαμβανομένων 16χρονων, και πρότειναν στο TikTok να επικαιροποιήσει το σύστημα ελέγχου.
Επιθυμούσαν η TikTok να επισημαίνει τα βίντεο, να αναγνωρίζονται οι λόγοι για τους οποίους είναι επιβλαβή, όπως η βία και η πορνογραφία, και να προσλάβει εξειδικευμένους συντονιστές σε αυτούς τους τομείς. Ωστόσο, οι προτάσεις τους απορρίφθηκαν.
Αναζητώντας πραγματική αλλαγή
Ο Άντριου Κάουνγκ βίωσε ότι ήταν πολύ δύσκολο να πραγματοποιήσει τις αλλαγές που θεωρούσε αναγκαίες ενώ εργαζόταν και στις δύο εταιρείες.
«Ζητάμε από μια ιδιωτική εταιρεία, η οποία έχει συμφέρον να προωθεί τα προϊόντα της, να αυτορυθμιστεί. Είναι σαν να ζητάς από μια τίγρη να μη σε φάει», παρατηρεί.
Πιστεύει ότι η ζωή των παιδιών θα ήταν καλύτερη αν εγκατέλειπαν τα smartphones τους. Όμως, για τον Κάι, η απαγόρευση των κινητών ή των social media δεν είναι η λύση, καθώς είναι σημαντικά για την καθημερινότητά του: είναι το μέσο επικοινωνίας με τους φίλους του, απαραίτητο για πλοήγηση και αγορές.
Αντ’ αυτού, θέλει οι πλατφόρμες κοινωνικής δικτύωσης να ακούσουν τις προτιμήσεις των εφήβων και να κάνουν πιο αποτελεσματικά τα εργαλεία που τους επιτρέπουν να εκφράσουν τις επιθυμίες τους.
«Αισθάνομαι ότι οι εταιρείες δεν σέβονται τη γνώμη μας, αρκεί να κερδίζουν χρήματα», καταλήγει ο Κάι.
