Ψεύτικα θύματα, ατελείωτες συνομιλίες και ψηφιακές παγίδες αλλάζουν τον τρόπο με τον οποίο η κυβερνοασφάλεια αντιμετωπίζει τις online απάτες
Για χρόνια, η τεχνητή νοημοσύνη έμοιαζε με το καινούργιο αγαπημένο εργαλείο των online απατεώνων. Πειστικότερα phishing μηνύματα, αυτοματοποιημένες επιθέσεις, πλαστές ταυτότητες και επικοινωνία σε τεράστια κλίμακα έκαναν τη ζωή των scammers αισθητά ευκολότερη.
Τώρα, όμως, η ίδια τεχνολογία αρχίζει να δουλεύει και για την απέναντι πλευρά.
Ερευνητές και εταιρείες κυβερνοασφάλειας χρησιμοποιούν πλέον AI bots που υποδύονται πιθανά θύματα, συνομιλούν με απατεώνες και τους αφήνουν να πιστεύουν ότι βρίσκονται ένα βήμα πριν από την επιτυχία. Στην πραγματικότητα, όσο εκείνοι προσπαθούν να αποσπάσουν χρήματα ή προσωπικά δεδομένα, μιλούν με έναν αλγόριθμο που δεν πρόκειται ποτέ να τους δώσει τίποτα.
Και κάπως έτσι, το scam αποκτά τον δικό του scammer.
Το τέλειο θύμα δεν υπάρχει
Μία από τις πιο ενδιαφέρουσες εφαρμογές αυτής της ιδέας έρχεται από την αυστραλιανή εταιρεία Apate, η οποία πήρε το όνομά της από την αρχαιοελληνική θεότητα της απάτης.
Τα τελευταία δύο χρόνια αναπτύσσει ένα σύστημα σχεδιασμένο για έναν πολύ συγκεκριμένο σκοπό. Να κάνει τους τηλεφωνικούς απατεώνες να πιστεύουν ότι στην άλλη άκρη της γραμμής βρίσκεται ένας πραγματικός άνθρωπος που ίσως τελικά καταφέρουν να εξαπατήσουν.
Τα bots απαντούν στις κλήσεις, συζητούν, εκφράζουν αμφιβολίες, κάνουν ερωτήσεις και αφήνουν μικρά περιθώρια ελπίδας ώστε ο απατεώνας να συνεχίσει την προσπάθεια.
Το πραγματικό ζητούμενο δεν είναι να πειστεί φυσικά το AI να καταθέσει χρήματα σε κάποιον λογαριασμό. Είναι να παραμείνει ο scammer απασχολημένος για όσο περισσότερο γίνεται.
Η λογική είναι απλή. Κάθε λεπτό που ένας απατεώνας προσπαθεί να πείσει ένα bot είναι ένα λεπτό κατά το οποίο δεν τηλεφωνεί σε έναν πραγματικό άνθρωπο.
Και αυτά τα λεπτά μπορούν να γίνουν ώρες.
350.000 bots περιμένουν στην άλλη άκρη της γραμμής
Σύμφωνα με τον ιδρυτή και διευθύνοντα σύμβουλο της Apate, Dali Kaafar, το σύστημα διαθέτει περίπου 350.000 διαφορετικά bots.
Δεν περιορίζονται στις τηλεφωνικές κλήσεις. Μπορούν να απαντούν σε μηνύματα και να εισέρχονται σε διαδικτυακές ομάδες που σχετίζονται με απάτες, επιχειρώντας παράλληλα να συγκεντρώσουν πληροφορίες για τον τρόπο λειτουργίας των κυκλωμάτων.
Μέσα από αυτές τις αλληλεπιδράσεις, η εταιρεία αναφέρει ότι έχει συλλέξει περισσότερα από 250.000 δεδομένα που σχετίζονται με απατεώνες, από ύποπτα URLs μέχρι τραπεζικούς λογαριασμούς και στοιχεία που συνδέονται με τη μεταφορά παράνομων χρημάτων.
Το ενδιαφέρον βρίσκεται στις λεπτομέρειες.
Τα AI «θύματα» δεν συμπεριφέρονται όλα με τον ίδιο τρόπο. Έχουν διαφορετικές προσωπικότητες, γλωσσικές δεξιότητες και ψηφιακές συνήθειες. Κάποιο μπορεί να χρησιμοποιεί WhatsApp, κάποιο άλλο όχι. Ένα bot μπορεί να σηκώσει αμέσως το τηλέφωνο, ενώ ένα άλλο να διακόψει τη συζήτηση και να ζητήσει από τον συνομιλητή του να καλέσει αργότερα.
Με άλλα λόγια, προσπαθούν να κάνουν κάτι πολύ ανθρώπινο. Να είναι λίγο απρόβλεπτα.
Όταν ο scammer αρχίζει να χάνει την υπομονή του
Οι συντάκτες του WIRED δοκίμασαν μια demo εκδοχή του συστήματος αναλαμβάνοντας αυτή τη φορά τον άβολο ρόλο του απατεώνα.
Απέναντί τους βρισκόταν ένα AI «θύμα» που έδειχνε αρκετά δύσπιστο ώστε να μοιάζει πραγματικό, αλλά όχι τόσο δύσπιστο ώστε να τερματίσει τη συζήτηση. Αυτή ακριβώς η ισορροπία είναι που κάνει την τεχνολογία ενδιαφέρουσα.
Το bot αφήνει διαρκώς την εντύπωση ότι ίσως, με λίγη ακόμη προσπάθεια, πειστεί.
Και ο scammer συνεχίζει.
Η Apate υποστηρίζει ότι ορισμένες τέτοιες συνομιλίες μπορούν να διαρκέσουν περισσότερο από δύο ώρες. Το AI απαντά, καθυστερεί, αμφιβάλλει και επανέρχεται, αναπαράγοντας ουσιαστικά όλες εκείνες τις μικρές συμπεριφορές που κάνουν μια πραγματική ανθρώπινη συνομιλία απρόβλεπτη.
Η ειρωνεία είναι μάλλον απολαυστική. Οι άνθρωποι που έχουν μάθει να εκμεταλλεύονται την εμπιστοσύνη των άλλων βρίσκονται τώρα να προσπαθούν να κερδίσουν την εμπιστοσύνη κάποιου που δεν υπάρχει.
Από τις τηλεφωνικές απάτες στις παγίδες για hackers
Η ιδέα δεν σταματά στα scam calls.
Στον χώρο της κυβερνοασφάλειας χρησιμοποιούνται εδώ και χρόνια τα λεγόμενα honeypots. Πρόκειται για ψηφιακά συστήματα που κατασκευάζονται ώστε να μοιάζουν με πραγματικούς και ευάλωτους στόχους. Ο hacker πιστεύει ότι ανακάλυψε κάτι ενδιαφέρον, ενώ στην πραγματικότητα έχει οδηγηθεί σε ένα ελεγχόμενο περιβάλλον.
Εκεί οι ειδικοί μπορούν να παρακολουθήσουν τις κινήσεις του, να καταγράψουν τις τεχνικές που χρησιμοποιεί και, κυρίως, να του κοστίσουν χρόνο.
Τα μεγάλα γλωσσικά μοντέλα μπορούν τώρα να κάνουν αυτές τις παγίδες περισσότερο πειστικές.
Έρευνα στην οποία συμμετείχαν επιστήμονες του ETH Zurich διαπίστωσε ότι honeypots που χρησιμοποιούσαν LLMs μπορούσαν να κρατούν επιτιθέμενους AI agents απασχολημένους για σημαντικά μεγαλύτερο χρονικό διάστημα σε σχέση με συστήματα που παρουσίαζαν περισσότερο προβλέψιμη συμπεριφορά.
Οι επιτιθέμενοι δυσκολεύονταν επίσης περισσότερο να καταλάβουν ότι ο στόχος που είχαν μπροστά τους ήταν στην πραγματικότητα παγίδα.
Η ΑΙ απέναντι στην ΑΙ
Υπάρχει βέβαια μια μεγαλύτερη αντίφαση πίσω από όλα αυτά.
Η τεχνητή νοημοσύνη δεν εμφανίστηκε ξαφνικά ως ο σωτήρας του διαδικτύου. Τα ίδια εργαλεία μπορούν να χρησιμοποιηθούν και από εγκληματίες για να δημιουργούν μαζικά μηνύματα, πιο πειστικές απάτες και περισσότερο αυτοματοποιημένες επιθέσεις.
Οι κυβερνήσεις και οι διωκτικές αρχές αντιμετωπίζουν εδώ και χρόνια ένα πρόβλημα που δύσκολα χωρά μέσα σε εθνικά σύνορα. Ένας απατεώνας μπορεί να βρίσκεται στην άλλη πλευρά του πλανήτη, να επικοινωνεί ταυτόχρονα με εκατοντάδες ή χιλιάδες ανθρώπους και να εξαφανίζεται ψηφιακά πολύ πριν κινητοποιηθούν οι Αρχές.
Η AI προσφέρει τώρα μια διαφορετική στρατηγική.
Αν δεν μπορείς να εξαφανίσεις κάθε scammer από το διαδίκτυο, μπορείς τουλάχιστον να κάνεις τη δουλειά του πιο αργή, πιο ακριβή και πολύ πιο εκνευριστική.
Παράλληλα, τα δεδομένα που συλλέγονται από τέτοιες αλληλεπιδράσεις μπορούν να βοηθήσουν στην αναγνώριση νέων μεθόδων απάτης, ύποπτων λογαριασμών και υποδομών που χρησιμοποιούν τα εγκληματικά δίκτυα.
Το internet απέκτησε τα δικά του ψηφιακά δολώματα
Κανείς δεν περιμένει ότι μερικές εκατοντάδες χιλιάδες bots θα εξαφανίσουν τις διαδικτυακές απάτες. Οι κυβερνοεγκληματίες πραγματοποιούν κάθε χρόνο δισεκατομμύρια κλήσεις και αποστολές μηνυμάτων, ενώ ορισμένα δίκτυα λειτουργούν πλέον σε βιομηχανική κλίμακα.
Αυτό που αλλάζει είναι η φιλοσοφία της άμυνας.
Μέχρι σήμερα, η κυβερνοασφάλεια προσπαθούσε κυρίως να αναγνωρίσει, να μπλοκάρει και να αποτρέψει μια επίθεση. Τώρα αρχίζει να εμφανίζεται και μια διαφορετική λογική: να παραπλανήσεις εκείνον που προσπαθεί να σε παραπλανήσει.
Να του δώσεις έναν ψεύτικο στόχο. Να τον κάνεις να πιστέψει ότι βρίσκεται κοντά στην επιτυχία. Να τον αφήσεις να επενδύσει χρόνο και προσπάθεια.
Και στο τέλος να ανακαλύψει, αν το ανακαλύψει ποτέ, ότι τις τελευταίες δύο ώρες προσπαθούσε να εξαπατήσει ένα chatbot.
