Η Χάιντι Σουάν, μια 62χρονη εργαζόμενη στον τομέα της υγείας, είδε μια διαφήμιση για μια μοναδική επενδυτική ευκαιρία πρώτα στο Facebook και αργότερα στο TikTok. Το βίντεο παρουσίαζε τον Έλον Μασκ να προτείνει την επένδυση.
«Φαινόταν σαν τον Έλον Μασκ, ακουγόταν σαν τον Έλον Μασκ και πίστευα ότι ήταν ο ίδιος», δήλωσε η Σουάν στο CBS News.
Ενθουσιασμένη από την προοπτική μεγάλων αποδόσεων, κλίκαρε στη διαφήμιση και δημιούργησε έναν λογαριασμό, καταθέτοντας 62.000 δολάρια. Όμως, γρήγορα ανακάλυψε ότι είχε πέσει θύμα ενός καλά οργανωμένου κυκλώματος απατεώνων που χρησιμοποιούν τεχνολογία τεχνητής νοημοσύνης για την παραγωγή deepfake βίντεο και εικόνων.
Η αύξηση των εργαλείων τεχνητής νοημοσύνης έχει οδηγήσει σε αύξηση των απατών που βασίζονται σε deepfake, όπως προειδοποιεί η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ. Σύμφωνα με στοιχεία της εταιρείας Deloitte, οι απάτες που προκύπτουν από παραπλανητικό περιεχόμενο που παράγεται με AI κοστίζουν συνολικά 12 δισεκατομμύρια δολάρια ετησίως, με εκτιμήσεις ότι αυτό το ποσό μπορεί να φτάσει τα 40 δισεκατομμύρια μέχρι το 2027.
Μια πρόσφατη έκθεση της Sensity, μιας εταιρείας που ειδικεύεται στην τεχνητή νοημοσύνη, διαπίστωσε ότι ο Έλον Μασκ είναι η πιο συχνά εμφανιζόμενη προσωπικότητα σε απάτες με deepfake. Αυτό οφείλεται στο υψηλό του προφίλ ως επιτυχημένου επιχειρηματία και στη μεγάλη ποσότητα συνεντεύξεων που έχει παραχωρήσει, γεγονός που διευκολύνει την εκπαίδευση των εργαλείων AI να μιμούνται την εμφάνιση και τη φωνή του.
Σήμερα, ακόμα και μια απλή φωτογραφία μπορεί να χρησιμοποιηθεί για να αντικατασταθεί ένα πρόσωπο σε βίντεο. Αν και τα αποτελέσματα δεν είναι πάντα τέλεια, η τεχνολογία εξελίσσεται συνεχώς, καθιστώντας όλο και πιο δύσκολη την αναγνώριση των ψεύτικων εικόνων, σύμφωνα με ειδικούς.
Το CBS News επικοινώνησε με πέντε εταιρείες που αναπτύσσουν λογισμικό ανίχνευσης deepfake – Deepware, Attestiv, DeepFake-O-Meter, Sensity και Deepfake Detector. Μόνο η Sensity κατάφερε να ανιχνεύσει και τα έξι ψεύτικα βίντεο που της έστειλε το δίκτυο.
