LATEST
Νέα κατηγορία απειλών αποκάλυψε η Check Point Research
Η Check Point Research εντόπισε το πρώτο τεκμηριωμένο περιστατικό κακόβουλου λογισμικού που επιχειρεί να ξεγελάσει συστήματα ασφάλειας που βασίζονται σε τεχνητή νοημοσύνη, μέσω τεχνικών «prompt injection». Αν και η συγκεκριμένη απόπειρα δεν πέτυχε τον στόχο της, αποτελεί σημείο αναφοράς στην εξέλιξη των μεθόδων των επιτιθέμενων και σηματοδοτεί την εμφάνιση μιας νέας κατηγορίας απειλών: AI Evasion. Τα κύρια σημεία της ανακάλυψης είναι:
• Το κακόβουλο λογισμικό ενσωμάτωνε φυσική γλώσσα στον κώδικά του, με στόχο να παραπλανήσει τα LLMs, ώστε να ταξινομήσουν το αρχείο ως ακίνδυνο.
• Η τεχνική στόχευε αυτοματοποιημένα συστήματα ανάλυσης κακόβουλου λογισμικού με υποστήριξη AI.
• Αν και η απόπειρα τελικά απέτυχε, το περιστατικό καταδεικνύει πως οι επιτιθέμενοι προσαρμόζονται στη διαρκώς αυξανόμενη χρήση της γενετικής AI στην κυβερνοάμυνα.
• Η Check Point Research προειδοποιεί ότι αυτό θα μπορούσε να είναι η απαρχή μιας νέας γενιάς επιθέσεων, ειδικά σχεδιασμένων να παρακάμπτουν μηχανισμούς ασφάλειας που βασίζονται σε AI.
Πρόκειται για το πρώτο γνωστό περιστατικό όπου κακόβουλος κώδικας σχεδιάστηκε όχι για να παρακάμψει παραδοσιακά εργαλεία ασφάλειας, αλλά για να χειραγωγήσει μοντέλα τεχνητής νοημοσύνης. Η Check Point Research ονομάζει αυτή τη νέα τακτική AI Evasion μια νέα διάσταση στην κυβερνοεπιθετικότητα, που αναμένεται να εξαπλωθεί καθώς τα LLMs ενσωματώνονται ολοένα και περισσότερο σε συστήματα ανίχνευσης απειλών.
Η ανακάλυψη αυτή θυμίζει αντίστοιχες καμπές στην ιστορία της κυβερνοασφάλειας, όπως όταν οι επιτιθέμενοι άρχισαν να σχεδιάζουν τεχνικές αποφυγής sandbox. Καθώς οι αμυντικοί μηχανισμοί υιοθετούν γενετική AI, οι κυβερνοεγκληματίες εξελίσσουν τις μεθόδους τους, πυροδοτώντας μια νέα «κούρσα εξοπλισμών» στην ανίχνευση κακόβουλου λογισμικού.
Το αρχείο εντοπίστηκε στο VirusTotal τον Ιούνιο, με προέλευση από την Ολλανδία, και περιλάμβανε στοιχεία όπως TOR components και τεχνικές αποφυγής sandbox. Ωστόσο, ξεχώριζε ένα συγκεκριμένο στοιχείο: μια συμβολοσειρά σε C++ που προσομοίαζε εντολή χρήστη προς ένα AI μοντέλο.
Η CPR δοκίμασε το δείγμα σε ένα σύστημα ανάλυσης κακόβουλου λογισμικού με ενσωματωμένο AI. Το μοντέλο κατέγραψε επιτυχώς τον κώδικα ως κακόβουλο και εντόπισε την απόπειρα χειραγώγησης. Αν και η επίθεση δεν ήταν αποτελεσματική, σηματοδοτεί ένα κρίσιμο βήμα στην εξελικτική πορεία της κακόβουλης χρήσης της τεχνητής γλώσσας.
