Πλέον με την χρήση τεχνολογίας τεχνητής νοημοσύνης είναι πολύ εύκολο να χειραγώγηθούν βίντεο και εικόνες και να δείχνουν εξαιρετικά ρεαλιστικά. Τέτοιο ψεύτικο περιεχόμενο μπορούν συχνά να αξιοποιήσουν κακόβουλοι φορείς και να το χρησιμοποιήσουν για δόλιους σκοπούς. Η αυξανόμενη αυτή επικράτηση των ψεύτικων υλικών είναι το φαινόμενο deepfake και θέτει σημαντικές προκλήσεις για τις eCommerce επιχειρήσεις. Επομένως, είναι πολύ σημαντικό να κατανοήσετε το πιθανό κίνδυνο που ενέχεται αλλά και πως θα μπορέσετε να τους εντοπίσετε.
eCommerce Expert
Τι είναι το deepfake;
Deepfake ονομάζουμε μια εικόνα ή ηχογράφηση που έχει πειστικά αλλοιωθεί και επεξεργαστεί για να παραποιηθεί ώστε να φαίνεται ότι κάποιος κάνει ή λέει κάτι που στην πραγματικότητα δεν έκανε ή δεν είπε. Είναι θα λέγαμε "μια σύγχρονη μορφή Photoshop". Χρησιμοποιείται μια μορφή AI που ονομάζεται deep learning για να δημιουργηθούν ψεύτικες εικόνες.
Ο ίδιος ο όρος είναι ένα συνδυασμός λέξεων από το το "deep learning" που αναφέραμε και το "fake" που σημαίνει ψεύτικος και αναφέρεται στο παραποιημένο κομμάτι του περιεχομένου. Παρακάτω μπορείτε να δείτε τρομακτικά πειστικό ένα παράδειγμα με πρωταγωνιστή ένα deepfake Morgan Freeman. Κι όμως είναι δημιούργημα και όχι ο πραγματικός!
Ποιος τα δημιουργεί και με τι σκοπό;
Πλέον καθώς ολοένα και περισσότερες τεχνολογίες και τεχνικές επιτρέπουν ακόμη και σε ανειδίκευτους χρήστες να δημιουργούν ψεύτικο περιεχόμενο, είναι πολύ εύκολο να διαδωθεί και να κυριαρχήσει σε διάφορους κλάδους. Από ακαδημαϊκούς και βιομηχανικούς ερευνητές, μέχρι ερασιτέχνες λάτρεις, στούντιο οπτικών εφέ μέχρι και παραγωγούς πορνό, όλοι μπορούν να φτιάξουν οτιδήποτε μπορεί να θέλουν να χειραχωγήσουν.
Καθώς προς το παρόν τα νομικά πλαίσια γύρω από το AI και τις χρήσεις του είναι θολά και δεν έχουν θεσμοθετηθεί κυρώσεις, ο κάθε χρήστης μπορεί να χρησιμοποιήσει deepfake υλικό για δόλιους σκοπούς όπως εξαπάτηση, πλαστοπροσωπία, συκοφαντία αλλά και παραπληροφόρηση.
Φυσικά, όπως κάθε τι, η χρήση του δεν γίνεται εξ ολοκλήρου με κακόβουλους σκοπούς καθώς κάποια κομμάτια δημιουργούνται για να είναι διασκεδαστικά ή χρήσιμα. Μερικά τέτοια παραδείγματα που θα είχαν ωφέλιμη χρησιμότητα είναι:
👉 Φωνητική κλωνοποίηση για αποκατάσταση σε ανθρώπους που τη χάνουν από ασθένεια.
👉 Βελτίωση της μεταγλώττισης σε ξενόγλωσσες ταινίες.
👉 Αναβίωση καλιτεχνών και ηθοποιών για μια πιο ρεαλιστική εμπειρία σε μουσεία και ταινίες, όπως το παρακάτω βίντεο που δημιουργήθηκε για το Dali museum στη Φλόριδα με τον AI αναβιωμένο ζωγράφο να αποκρίνεται στις διάφορες απαντήσεις των επισκεπτών.
To Deepfake στο eCommerce
Ακόμη και το ηλεκτρονικό εμπόριο έχει πληγεί από τις προκλήσεις που επιφέρει η χρήση τεχνολογίας για δημιουργία ψευδούς περιεχομένου. Απατεώνες αξιοποιούν τα χαρακτηριστικά του για να υποδυθούν νόμιμους πελάτες ή υπαλλήλους, μια πρακτική που μπορεί να οδηγήσει σε οικονομικές απώλειες και να ζημιώσει τη φήμη και εμπιστοσύνη προς το πρόσωπο ενός brand.
Μπορούν επίσης να χρησιμοποιήσουν περιεχόμενο για να δημιουργήσουν ψευδείς κριτικές προϊόντων και να χειραγωγήσουν το συναίσθημα των πελατών, γεγονός που μπορεί επίσης να έχει αντίκτυπο στις πωλήσεις και το engagement με το brand σας. Αναλογιζόμενοι λοιπόν αυτές τις πιθανές αρνητικές επιπτώσεις, είναι σημαντικό οι επιχειρήσεις να ενημερώνονται γύρω από απειλές που σχετίζονται με τα deepfake στο eCommerce και να δομούν τις απαραίτητες σταρτηγικές για μετριασμό των κινδύνων.
eCommerce Expert
Ποιοι είναι οι τύποι περιεχομένου που μπορούν να παραποιηθούν;
Μέσα από αυτήν την AI τεχνολογία μπορούν να παραποιηθούν βίντεο και να έχουν μια αρκετά μεγάλη πειστικότητα. Σε πολλές περιπτώσεις πειράζουν το πρόσωπο σε ένα βίντεο ώστε να φαίνεται ρεαλιστικό και συνήθως γίνεται με την εμφάνιση κάποιου διάσημου ή celebrity.
Εκτός όμως από βίντεο, μπορούν να δημιουργηθούν και εντελώς φανταστικές φωτογραφίες από το μηδέν. Έχουν ξεπηδήσει πολλά προφιλ σε social media πλατφόρμες που πολλές φορές δεν είναι εντελώς ξεκάθαρο εάν πρόκειται για υπαρκτό άτομο ή όχι.
Ενώ και ο ήχος μπορεί να υποστεί επεξεργασία για να δημιουργηθούν φωνητικοί κλώνοι από δημόσια πρόσωπα και να προχωρήσουν μέχρι και σε οικονομικές απάτες μιμούμενοι ρεαλιστικά κάποιο πελάτη ή στέλεχος. Τέτοια ηχογραφημένα φωνητικά μηνύματα έχουν επίσης χρησιμοποιηθεί για απάτες μέσω του WhatsApp.
Τέτοια deepfake στο eCommerce μπορούν επίσης να εμφανιστούν και να σας δημιουργήσουν πρόβλημα καθώς μπορεί να παρουσιαστούν ως αληθοφανείς πελάτες και να ανεβάσουν ψεύτικες κριτικές ή να προσπαθήσουν να κάνουν υποκλοπή ή να προσπαθήσουν να αποσπάσουν προσωπικά και άλλα στοιχεία από κάποιο πελάτη για απάτες.
Τι τεχνολογία χρησιμοποιείται;
Δεν είναι πολύ απλό να δημιουργήσεις πειστικό ψεύτικο περιεχόμενο που να δείχνει αληθοφανές, δεν είναι όμως και ακατόρθωτο. Τα περισσότερα βίντεο και φωτογραφίες που είναι δύσκολο να τα διακρίνεις χρειάζονται προδιαγραφές με ισχυρές κάρτες γραφικών και με υπολογιστική ισχύ σε κάποιο cloud καθώς αυτό μειώνει τον χρόνο επεξεργασίας από ημέρες και εβδομάδες, σε ώρες.
Απαιτείται βέβαια και τεχνογνωσία στην επεξεργασία (editing) και στο design ώστε να μπορούν να διορθωθούν σημεία που μαρτυρούν τον ψεύτικο χαρακτήρα, όπως το να μειωθεί το τρεμόπαιγμα και άλλα οπτικά "καρφώματα" σαν τα watermarks. Έχουν αναπτυχθεί βέβαια και εφαργομές μέχρι και για κινητές συσκευές που επιτρέπουν στους χρήστες να ανακατασκευάζουν ό,τι θέλουν.
Χρειάζεται μερικά βήματα για να φτιάξεις ένα πειστικό deepfake βίντεο ανταλλαγής προσώπων καθώς χρειάζεται να περαστούν χιλιάδες φωτογραφίες προσώπων των δύο ανθρώπων από έναν αλγόριθμο τεχνητής νοημοσύνης ο οποίος μαθαίνει τις ομοιότητες μεταξύ των δύο προσώπων και τις μειώνει στα κοινά χαρακτηριστικά τους, συμπιέζοντας τις εικόνες κατά τη διαδικασία. Στη συνέχεια, ένας δεύτερος AI αλγόριθμος διδάσκεται στο πώς να ανακτά τα πρόσωπα από τις συμπιεσμένες εικόνες και στη συνέχεια, απλώς τροφοδοτείτε τις κωδικοποιημένες εικόνες στον "λάθος" βίντεο. Για παράδειγμα, μια συμπιεσμένη εικόνα του προσώπου του ανθρώπου Α τροφοδοτείται στον αποκωδικοποιητή που εκπαιδεύτηκε στον ανθρώπο Β. Ο αποκωδικοποιητής στη συνέχεια ανακατασκευάζει το πρόσωπο του ανθρώπου Β με τις εκφράσεις και τον προσανατολισμό του ανθρώπου Α. Για ένα πειστικό βίντεο, αυτό πρέπει να γίνεται σε κάθε καρέ ξεχωριστά.
Πώς μπορείτε να τα εντοπίσετε;
Ως απάντηση σε αυξανόμενες ανησυχίες, αρκετές εταιρείες τεχνολογίας και εμπειρογνώμονες σε θέματα ασφάλειας στον κυβερνοχώρο έχουν αρχίσει να αναπτύσσουν εξειδικευμένα εργαλεία και τεχνικές για τον εντοπισμό και την πρόληψη της απάτης που σχετίζεται με το deepfake στο eCommerce. Παρακάτω θα δούμε μερικές στρατηγικές που μπορούν να βοηθήσουν τις επιχειρήσεις στον τομέα eCommerce και του λιανικού εμπορίου να προστατεύσουν τις δραστηριότητές τους από τους κινδύνους που εγκυμονεί η τεχνολογία αυτή. Οι λύσεις αυτές διασφαλίζουν ότι οι επιχειρήσεις είναι εξοπλισμένες με τις πιο προηγμένες και αποτελεσματικές άμυνες απέναντι σε αυτές τις αναδυόμενες απειλές.
#1 Advanced Captcha και Βιομετρικά AI bot
Το Advanced Captcha είναι ένα μέτρο ασφαλείας που έχει σχεδιαστεί για να διακρίνει μεταξύ της ανθρώπινης και της αυτοματοποιημένης πρόσβασης σε διαδικτυακές υπηρεσίες, εμποδίζοντας έτσι τα bots να κάνουν κατάχρηση των υπηρεσιών. Αυτά τα Captcha είναι πιο εξελιγμένα από τα παραδοσιακά, χρησιμοποιώντας μια ποικιλία μεθόδων όπως η αναγνώριση εικόνας, ο κρυφός θόρυβος εισόδου και οι αλγόριθμοι μηχανικής μάθησης για την αναγνώριση των deepfake χρηστών.
Τα Βιομετρικά AI bot, από την άλλη πλευρά, είναι μια τεχνική για την ανάλυση μοτίβων συμπεριφοράς του χρήστη ώστε να προσδιοριστεί αν οι ενέργειες εκτελούνται από άνθρωπο ή αυτοματοποιημένο bot. Αυτή η τεχνολογία χρησιμοποιεί τεχνητή νοημοσύνη και machine learning για την ανάλυση των αλληλεπιδράσεων του χρήστη και τον εντοπισμό αποκλίσεων στη συμπεριφορά του, οι οποίες μπορούν στη συνέχεια να χρησιμοποιηθούν για τον αποκλεισμό δόλιων δραστηριοτήτων.
Πώς λειτουργούν αυτά τα μέτρα;
Τα Advanced Captcha λειτουργούν παρουσιάζοντας στους χρήστες εργασίες που απαιτούν αλληλεπίδραση η οποία μοιάζει ανθρώπινη, όπως η επίλυση γρίφων, ο εντοπισμός αντικειμένων μέσα σε εικόνες ή η αποκρυπτογράφηση παραμορφωμένου κειμένου. Αυτές οι εργασίες είναι σχεδιασμένες έτσι ώστε να είναι εύκολες για τους ανθρώπους να τις ολοκληρώσουν αλλά δύσκολες για τα bots.
Τα Βιομετρικά AI bot αναλύουν διάφορες αλληλεπιδράσεις του χρήστη, όπως κινήσεις του ποντικιού, πληκτρολογήσεις ή μοτίβα πλοήγησης, για να δημιουργήσουν ένα βιομετρικό προφίλ. Οι αλγόριθμοι machine learning χρησιμοποιούνται στη συνέχεια για να συγκρίνουν την παρακολουθούμενη συμπεριφορά με προκαθορισμένα μοτίβα ή ιστορικά δεδομένα χρηστών και τυχόν ανωμαλίες μπορούν να προκαλέσουν μια ειδοποίηση ή να αποκλείσουν πιθανές δόλιες δραστηριότητες.
#2 Διαδικασίες Know Your Customer
Οι διαδικασίες Know Your Customer (KYC) είναι ενέργειες που χρησιμοποιούν οι επιχειρήσεις για να επαληθεύουν την ταυτότητα των πελατών τους για την πρόληψη της απάτης, της νομιμοποίησης εσόδων από παράνομες δραστηριότητες και άλλων παράνομων δραστηριοτήτων. Κατανοώντας και επικυρώνοντας την ταυτότητα και το προφίλ κινδύνου των πελατών τους, οι επιχειρήσεις ηλεκτρονικού εμπορίου και λιανικής πώλησης μπορούν να ελαχιστοποιήσουν τον κίνδυνο deepfake στο eCommerce και να διατηρήσουν τη συμμόρφωση με τις κανονιστικές διατάξεις.
Πώς λειτουργούν αυτά τα μέτρα;
Οι διαδικασίες KYC περιλαμβάνουν συνήθως τη συλλογή πληροφοριών ταυτοποίησης πελατών, όπως όνομα, ταυτότητα που έχει εκδοθεί από την κυβέρνηση και διεύθυνση, από τους πελάτες κατά την είσοδο ή κατά τη διάρκεια ορισμένων συναλλαγών. Περιλαμβάνει επικύρωση εγγράφων, επιβεβαίωση διεύθυνσης και επαλήθευση ταυτότητας. Αφού συλλεχθούν οι πληροφορίες, στη συνέχεια συγκρίνονται με αξιόπιστες πηγές δεδομένων ή βάσεις δεδομένων για την επαλήθευση της γνησιότητας και της συνέπειας των πληροφοριών του πελάτη.
#3 Δακτυλικό αποτύπωμα συσκευής και authentication
Το δακτυλικό αποτύπωμα συσκευής και οι επιπλέον ενέργειες authentication είναι τεχνικές που χρησιμοποιούνται για τον εντοπισμό και την παρακολούθηση χρηστών με βάση τα μοναδικά χαρακτηριστικά των συσκευών ή των προγραμμάτων περιήγησης που χρησιμοποιούν. Με την ανάλυση διαφόρων σημείων δεδομένων καθώς και την ζήτηση έγκρισης για διάφορες ενέργειες με εισαγωγή κωδικού ή αποτυπώματος είναι δυνατή η δημιουργία ενός διακριτικού αναγνωριστικού για κάθε χρήστη ώστε να αποφεύγονται τα deepfake στο eCommerce.
Πώς λειτουργούν αυτά τα μέτρα;
Μέσα από τη συλλογή διάφορων σημείων δεδομένων και μέσα από κατάλληλες ρυθμίσεις παραμέτρων, οι συσκευές γίνονται πιο ευαίσθητες και αντιδρούν σε ενέργειες ζητώντας επαλύθευση ή κατανοώντας ότι πρόκειται για "ξένο" χρήστη.
Τρόποι για να παραμένετε alert
Καθώς όμως το φαινόμενο αυτό είναι ένα σχετικά πρόσφατο θέμα που συνεχίζει να αναπτύσσεται μαζί με την AI τεχνολογία μπορείτε να αναλογιστείτε τα εξής και να παραμένετε ενήμεροι γύρω από θέματα deepfake στο eCommerce:
- Αναγνωρίστε τη σημασία της απάτης: Καθώς η τεχνολογία εξελίσσεται, αυξάνεται και η πιθανότητα κακής χρήσης της σε eCommerce επιχειρήσεις. Οι ιδιοκτήτες επιχειρήσεων, οι διευθυντές πληροφορικής, οι ψηφιακοί έμποροι και οι υπεύθυνοι χάραξης πολιτικής πρέπει να γνωρίζουν τις πιθανές απειλές που υπάρχουν και να λαμβάνουν τα κατάλληλα μέτρα για την πρόληψη τους.
eCommerce Expert
- Υιοθετήστε μια προληπτική προσέγγιση: Εφαρμόστε ισχυρά μέτρα κυβερνοασφάλειας που θα εστιάζουν στην έγκαιρη ανίχνευση και πρόληψη.
- Αξιολογήστε και επιλέξτε τις κατάλληλες στρατηγικές: Ανάλογα με τον τύπο, το μέγεθος και τις ειδικές ανάγκες της επιχείρησης, ορισμένες στρατηγικές μπορεί να είναι πιο κατάλληλες και αποτελεσματικές από άλλες. Εντοπίστε τις δικές σας ανάγκες.
- Παραμείνετε ενημερωμένοι: Η τεχνολογία deepfake εξελίσσεται συνεχώς και το ίδιο και οι τεχνικές και τα εργαλεία για τον εντοπισμό και την πρόληψη της σχετικής απάτης. Μείνετε ενημερωμένοι για τις τελευταίες τάσεις στην τεχνολογία, καθώς και για τις εξελίξεις στις πρακτικές κυβερνοασφάλειας για να διασφαλίσετε ότι η επιχείρησή σας παραμένει προστατευμένη.
- Διασφαλίστε το απόρρητο χρήστη και ελαχιστοποίησης τριβών: Είναι σημαντικό να επιδιώξετε μια ισορροπία μεταξύ της διασφάλισης της επιχείρησης και του σεβασμού της ιδιωτικής ζωής των πελατών. Όσο λιγότερες τριβές έχουν οι πελάτες κατά τη διάρκεια της εμπειρίας τους, ενώ ταυτόχρονα νιώθουν ασφαλείς τόσο πιθανότερο είναι να επιστρέψουν.
Είναι σημαντικό να μπορείτε τα deepfake στο eCommerce καθώς θα μπορούσαν να επιφέρουν ζημιά στις πωλήσεις και τη λειτουργία της επιχείρησης μειώνοντας την εμπιστοσύνη προς το πρόσωπό σας.
