Η ΑΙ εκτός ελέγχου.

Αρχικά θεωρούνταν ότι η Hugging Face ήταν το μοναδικό θύμα του πρωτοφανούς αυτού περιστατικού, όμως η OpenAI παραδέχθηκε πλέον ότι το bot της επιτέθηκε σε αρκετές «δημόσια διαθέσιμες υπηρεσίες». Η τεχνητή νοημοσύνη εκτός ελέγχου εντόπισε τέσσερις διαδικτυακά εκτεθειμένους κωδικούς πρόσβασης, οι οποίοι της επέτρεψαν να αποκτήσει πρόσβαση σε τέσσερις διαφορετικές, μη κατονομαζόμενες υπηρεσίες.

Η εταιρεία εξήγησε ότι η τεχνητή νοημοσύνη λειτουργούσε με υπεράνθρωπη ταχύτητα, αλλά ταυτόχρονα λάμβανε παράξενες αποφάσεις και έκανε λάθη που κανένας ανθρώπινος χάκερ δεν θα έκανε. Η Hugging Face, η οποία λειτουργεί ουσιαστικά ως ένα «app store» για εργαλεία τεχνητής νοημοσύνης, ανέφερε ότι οι πράκτορες hacking εργάστηκαν αδιάκοπα, δοκιμάζοντας ταυτόχρονα χιλιάδες διαφορετικές μεθόδους.

Η OpenAI επικαιροποίησε την ανακοίνωσή της, προσθέτοντας ότι η επίθεση ήταν μεγαλύτερης έκτασης από ό,τι είχε αρχικά γίνει γνωστό. «Τα μοντέλα εντόπισαν και χρησιμοποίησαν δημόσια εκτεθειμένα διαπιστευτήρια σε επίπεδο λογαριασμού σε άλλες δημόσια διαθέσιμες υπηρεσίες. Αυτό περιλαμβάνει τέσσερις λογαριασμούς σε τέσσερις υπηρεσίες στο πλαίσιο του περιστατικού με τη Hugging Face», ανέφερε η εταιρεία. Η OpenAI δεν διευκρίνισε αν ο όρος «δημόσια διαθέσιμες υπηρεσίες» αναφέρεται σε εταιρείες.

Οι πράκτορες επαναλάμβαναν ενέργειες που είχαν ήδη ολοκληρώσει, γεγονός που αποτελεί ένδειξη ότι μια agentic AI (τεχνητή νοημοσύνη με δυνατότητα αυτόνομης δράσης) μπορεί να χάσει τον ειρμό και το πλαίσιο της αποστολής της. Παράλληλα, οι πράκτορες δημιούργησαν μεγάλους όγκους ασύνδετων εντολών και κειμένου λόγω «παραισθήσεων» της τεχνητής νοημοσύνης, ενώ ήταν απρόσεκτοι και δεν κάλυψαν αποτελεσματικά τα ίχνη τους.

Ωστόσο, ανάμεσα στα λάθη και στις παράξενες συμπεριφορές, η Hugging Face προειδοποίησε ότι οι πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν και εντυπωσιακές τεχνικές κινήσεις, έχοντας τη δυνατότητα να προσαρμόζονται γρήγορα σε νέα δεδομένα κατά τη διάρκεια της πολυήμερης επίθεσης.

Αυτή δεν είναι η πρώτη φορά που έχει αποδειχθεί ότι πράκτορες τεχνητής νοημοσύνης μπορούν να παρουσιάσουν «ανεξέλεγκτη» συμπεριφορά. Στην έκθεσή της, η CSA αναφέρεται σε προηγούμενα περιστατικά, όπως εκείνο του Σεπτεμβρίου του 2024, όταν μια παλαιότερη έκδοση του ChatGPT κατάφερε να ξεφύγει από το περιορισμένο περιβάλλον στο οποίο λειτουργούσε, προκειμένου να βρει μια απάντηση που χρειαζόταν για μια άλλη δοκιμή.

ΣΥΜΠΕΡΑΣΜΑ

Αν δεν μπει ένα φρένο σε όλο αυτό, αν δεν σταματήσουμε στο σημείο που η τεχνολογία αποτελεί ένα χρηστικό εργαλείο της καθημερινότητας μας και αφήσουμε να εξαπλωθεί , τότε είμαστε άξιοι της μοίρας μας και της καταστροφής μας.