ChatGPT: Θα βοηθήσουν τα AI chatbots στην καταπολέμηση της διαδικτυακής απάτης;
Οι ειδικοί της Kaspersky πραγματοποίησαν έρευνα μελετώντας την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing. Ενώ το ChatGPT είχε προηγουμένως επιδείξει την ικανότητα δημιουργίας phishing emails και συγγραφής κακόβουλου λογισμικού, η αποτελεσματικότητά του στον εντοπισμό κακόβουλων συνδέσμων ήταν περιορισμένη.
Η μελέτη αποκάλυψε ότι αν και το ChatGPT γνωρίζει πολλά για το phishing και μπορεί να μαντέψει τον στόχο μιας επίθεσης phishing, είχε υψηλά ποσοστά ψευδώς θετικών έως και 64%. Συχνά, παρήγαγε φανταστικές
Το ChatGPT, ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης, έχει αποτελέσει θέμα συζήτησης στον κόσμο της κυβερνοασφάλειας λόγω της δυνατότητάς του να δημιουργεί phishing emails και έχει προκαλέσει ανησυχίες για τον αντίκτυπό του στην ασφάλεια εργασίας των ειδικών στον κυβερνοχώρο, ακόμη και παρά τις προειδοποιήσεις των δημιουργών του ότι είναι πολύ νωρίς να εφαρμοστεί η νέα τεχνολογία σε τέτοιους τομείς υψηλού κινδύνου. Οι ειδικοί της Kaspersky αποφάσισαν να πραγματοποιήσουν ένα πείραμα για να αποκαλύψουν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing, καθώς και να τεστάρουν τις γνώσεις που απέκτησε επάνω στην ασφάλεια στον κυβερνοχώρο κατά τη διάρκεια της εκπαίδευσης. Οι ειδικοί της εταιρείας δοκίμασαν το gpt-3.5-turbo, το μοντέλο που τροφοδοτεί το ChatGPT, σε περισσότερους από 2.000 συνδέσμους που οι τεχνολογίες anti-phishing της Kaspersky έκριναν ως phishing σε συνδυασμό με χιλιάδες ασφαλείς διευθύνσεις URL.
Στο πείραμα, τα ποσοστά ανίχνευσης ποικίλλουν ανάλογα με την προτροπή που χρησιμοποιείται. Το πείραμα βασίστηκε στην υποβολή δύο ερωτήσεων στο ChatGPT: «Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος;» και «Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;». Τα αποτελέσματα έδειξαν ότι το ChatGPT είχε ποσοστό ανίχνευσης 87,2% και ψευδώς θετικό ποσοστό 23,2% για την πρώτη ερώτηση. Η δεύτερη ερώτηση είχε υψηλότερο ποσοστό ανίχνευσης (93,8%), αλλά και υψηλότερο ποσοστό ψευδώς θετικών (64,3%). Ενώ το ποσοστό ανίχνευσης είναι πολύ υψηλό, το ποσοστό ψευδώς θετικών είναι επίσης πολύ υψηλό για να τεθεί σε εφαρμογή.
Ερώτηση που τέθηκεΠοσοστό ανίχνευσηςΨευδώς θετικό ποσοστό Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος87,2%23,2%Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;”.93,8%64,3%Τα μη ικανοποιητικά αποτελέσματα στον εντοπισμό ήταν αναμενόμενα, αλλά θα μπορούσε το ChatGPT να βοηθήσει στην ταξινόμηση και τη διερεύνηση επιθέσεων; Δεδομένου ότι οι εισβολείς συνήθως αναφέρουν δημοφιλείς επωνυμίες στους συνδέσμους τους για να εξαπατήσουν τους χρήστες να πιστέψουν ότι η διεύθυνση URL είναι νόμιμη και ανήκει σε μια αξιόπιστη εταιρεία, το γλωσσικό μοντέλο AI εμφανίζει εντυπωσιακά αποτελέσματα στον εντοπισμό πιθανών στόχων phishing. Για παράδειγμα, το ChatGPT έχει εξαγάγει επιτυχώς έναν στόχο από περισσότερες από τις μισές διευθύνσεις URL, συμπεριλαμβανομένων μεγάλων τεχνολογικών portals όπως το Facebook, το TikTok και η Google, αγορές όπως το Amazon και το Steam και πολλές τράπεζες από όλο τον κόσμο, μεταξύ άλλων —χωρίς επιπλέον εκπαίδευση.
Το πείραμα έδειξε επίσης ότι το ChatGPT μπορεί να έχει σοβαρά προβλήματα όταν πρόκειται να αποδείξει τη θέση του σχετικά με την απόφαση εάν ο σύνδεσμος είναι κακόβουλος. Ορισμένες εξηγήσεις ήταν σωστές και βασισμένες σε γεγονότα, άλλες αποκάλυψαν γνωστούς περιορισμούς των γλωσσικών μοντέλων, συμπεριλαμβανομένων των ψευδαισθήσεων και των ανακριβειών: πολλές εξηγήσεις ήταν παραπλανητικές, παρά τον σίγουρο τόνο.
– Αναφορές στο WHOIS, στο οποίο το μοντέλο δεν έχει πρόσβαση:Τέλος, εάν πραγματοποιήσουμε αναζήτηση στο WHOIS για το όνομα του domain, αυτό καταχωρήθηκε πολύ πρόσφατα (2020-10-14) και τα στοιχεία αυτού που το καταχώρησε είναι κρυφά.Αναφορές σε περιεχόμενο ενός ιστότοπου στον οποίο ούτε το μοντέλο έχει πρόσβαση:ο ιστότοπος ζητά διαπιστευτήρια χρήστη σε ιστότοπο που δεν ανήκει στη Microsoft. Αυτή είναι μια κοινή τακτική για επιθέσεις phishing.Ανακρίβειες:To domain «sxxxxxxp.com» δεν σχετίζεται με το Netflix και ο ιστότοπος χρησιμοποιεί πρωτόκολλο «http» αντί για «https» (ο ιστότοπος χρησιμοποιεί https)Αποκαλυπτικά ψήγματα πληροφοριών (nuggets) για την κυβερνοασφάλεια:Το όνομα domain για τη διεύθυνση URL «yxxxx3.com» φαίνεται να είναι καταχωρημένο στη Βόρεια Κορέα, το οποίο είναι red flag.Παραδείγματα παραπλανητικών εξηγήσεων που παρέχονται από το ChatGPT
«Το ChatGPT σίγουρα έχει τη δυνατότητα να βοηθήσει τους ανθρώπους-αναλυτές στον εντοπισμό επιθέσεων phishing, αλλά ας μην προτρέχουμε – τα γλωσσικά μοντέλα εξακολουθούν να έχουν τους περιορισμούς τους. Ενώ μπορεί να είναι στο ίδιο επίπεδο με έναν αναλυτή phishing σε intern επίπεδο, όταν πρόκειται για συλλογιστική πορεία σχετικά με επιθέσεις phishing και εξαγωγή πιθανών στόχων, τείνουν να έχουν ανακρίβειες και να παράγουν τυχαία αποτελέσματα. Έτσι, ενώ μπορεί να μην φέρουν ακόμα την επανάσταση στο τοπίο της κυβερνοασφάλειας, θα μπορούσαν να εξακολουθήσουν να είναι χρήσιμα εργαλεία για την κοινότητα», σχολιάζει ο Vladislav Tushkanov, Lead Data Scientist της Kaspersky.
Για να μάθετε περισσότερα σχετικά με το πείραμα, επισκεφτείτε το Securelist.com.
Η ομάδα μηχανικής μάθησης της Kaspersky βρίσκεται στην πρώτη γραμμή εφαρμογής τεχνολογιών μηχανικής εκμάθησης σε εργασίες ασφάλειας στον κυβερνοχώρο, ενημερώνοντας συνεχώς τα προϊόντα της Kaspersky με την πιο προηγμένη μορφή τεχνολογίας και πληροφορίας. Για να επωφεληθείτε από την τεχνογνωσία της Kaspersky στη μηχανική μάθηση και να παραμείνετε προστατευμένοι, οι ειδικοί της εταιρείας συνιστούν:
Για την εταιρική ασφάλεια στον κυβερνοχώρο, το Kaspersky Managed Detection and Response είναι ένα απαραίτητο εργαλείο ικανό να ανιχνεύει και να αποτρέπει τις εισβολές στα αρχικά τους στάδια. Χρησιμοποιεί προηγμένα μοντέλα μηχανικής μάθησης για να φιλτράρει συνηθισμένα γεγονότα και στέλνει μόνο τα πιο ανησυχητικά σε επαγγελματίες ανθρώπους – αναλυτές. Αυτή η υπηρεσία ενισχύει την ικανότητα μιας εταιρείας να αντέχει τις απειλές στον κυβερνοχώρο, ενώ παράλληλα βελτιστοποιεί τη χρήση των υπαρχόντων πόρων του εργατικού δυναμικού.Η παροχή εκπαίδευσης για την υγιεινή στον κυβερνοχώρο στο προσωπικό σας είναι ζωτικής σημασίας. Η διεξαγωγή προσομοιωμένων επιθέσεων phishing μπορεί επίσης να βοηθήσει να διασφαλιστεί ότι γνωρίζουν πώς να διακρίνουν τα μηνύματα ηλεκτρονικού ψαρέματος.Τέλος, συνιστάται επίσης η χρήση των πιο πρόσφατων πληροφοριών Threat Intelligence για την επίγνωση πραγματικών TTPs (τακτικές, τεχνικές και διαδικασίες) που χρησιμοποιούνται από φορείς απειλών για την ενίσχυση της ασφάλειας στον κυβερνοχώρο.- Δημοφιλέστερες Ειδήσεις Κατηγορίας Τεχνολογία
- To Bugsnax θα κυκλοφορήσει σε συσκευές iOS
- O πρώτος εικονικός παρουσιαστής στην Ελληνική τηλεόραση
- ChatGPT: Θα βοηθήσουν τα AI chatbots στην καταπολέμηση της διαδικτυακής απάτης;
- Ξεχάστε τo video streaming με τη συνοδεία διαφημίσεων - έρχονται οι ad-supported τηλεοράσεις
- Pixel 7a: Δείτε το σε hands-on και teardown video!
- Ξεχάστε τo video streaming με τη συνοδεία διαφημίσων - έρχονται οι ad-supported τηλεοράσεις
- Apple Arcade: Προσθήκη 20 ακόμα παιχνιδιών στην εξαιρετική υπηρεσία
- Δημοφιλέστερες Ειδήσεις TechPress
- Τελευταία Νέα TechPress
- ChatGPT: Θα βοηθήσουν τα AI chatbots στην καταπολέμηση της διαδικτυακής απάτης;
- Έφτασαν τα Weekend Deals της Vodafone για Σαββατοκύριακα γεμάτα προσφορές
- Καλύτερος ύπνος, καλύτερη ευεξία: Το νέο λογισμικό One UI 5 Watch δίνει μια πρώτη εικόνα για την επερχόμενη σειρά Galaxy Watch
- Όμιλος ΟΤΕ: Οικονομικά αποτελέσματα α’ τριμήνου 2023
- Προηγμένες λύσεις τεχνολογίας και άμυνας θα παρουσιάσει η EDGE στη DEFEA 2023
- Η Skroutz έφτασε τα 1.000 Skroutz Point, με στόχο τα 2.000 μέχρι το τέλος τους έτους
- Προστατέψτε τον κωδικό πρόσβασή σας, δημιουργώντας έναν άθραυστο!
- Βραβείο “Scanner Line of the Year” 2023 για την Kodak Alaris
- Η Dyson ανοίγει προηγμένο εργοστάσιο κατασκευής μπαταριών νέας γενιάς στη Σιγκαπούρη και προχωρά σε ανάπτυξη software, AI και προϊόντων
- HUAWEI P60 Pro: Κατακτά την κορυφή ως το καλύτερο φωτογραφικό smartphone για το 2023!
- Τελευταία Νέα Κατηγορίας Τεχνολογία
- Ξεχάστε τo video streaming με τη συνοδεία διαφημίσεων - έρχονται οι ad-supported τηλεοράσεις
- Ξεχάστε τo video streaming με τη συνοδεία διαφημίσων - έρχονται οι ad-supported τηλεοράσεις
- O πρώτος εικονικός παρουσιαστής στην Ελληνική τηλεόραση
- Apple Arcade: Προσθήκη 20 ακόμα παιχνιδιών στην εξαιρετική υπηρεσία
- Pixel 7a: Δείτε το σε hands-on και teardown video!
- To Bugsnax θα κυκλοφορήσει σε συσκευές iOS
- Nothing OS 1.5.4: Βελτιώνει απόδοση και διάρκεια ζωής της μπαταρίας
- Διαθέσιμο για Nintendo Switch το The Dark Pictures Anthology: Man of Medan (trailer)
- WhatsApp: Νέες λειτουργίες για τα polls και τα captions
- Google Pixel 7a: Σε teardown βίντεο πριν την παρουσίαση