Η Anthropic παραδέχτηκε επίσημα ότι ορισμένα από τα προηγμένα μοντέλα τεχνητής νοημοσύνης της απέκτησαν μη εξουσιοδοτημένη πρόσβαση και παραβίασαν τα συστήματα τριών εξωτερικών οργανισμών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας.
Τα μοντέλα που ενεπλάκησαν στο δικό τους ¨ξεκαθάρισμα λογαριασμών¨είναι τα Claude Opus 4.7, Claude Mythos 5 και ένα εσωτερικό ερευνητικό μοντέλο που δεν προορίζεται για δημόσια κυκλοφορία. Το περιστατικό έλβε χώρα κατά τη διάρκεια ασκήσεων προσομοίωσης (τύπου “capture the flag”), ένα σφάλμα παραμετροποίησης επέτρεψε στα μοντέλα να συνδεθούν στο ανοιχτό διαδίκτυο από περιβάλλοντα δοκιμών που έπρεπε να είναι απομονωμένα.
Τα περιστατικά ξεκίνησαν από τον Απρίλιο του 2026 και ήρθαν στο φως μετά από εσωτερικό έλεγχο 141.000+ δοκιμών, ο οποίος ξεκίνησε με αφορμή ένα παρόμοιο περιστατικό ασφαλείας από την ανταγωνιστική OpenAI. Τα μοντέλα χρησιμοποίησαν βασικές τεχνικές χακαρίσματος (όπως αδύναμους κωδικούς πρόσβασης και μη πιστοποιημένα σημεία πρόσβασης) για να εισχωρήσουν στα πραγματικά συστήματα των εταιρειών, εκλαμβάνοντάς τα ως μέρος της δοκιμής.
Η AI παίρνει πρωτοβουλίες και γίνεται επικίνδυνη
Αυτό το περιστατικό αναδεικνύει έναν από τους μεγαλύτερους φόβους . Η τεχνητή νοημοσύνη, είναι ένα χρήσιμο εργαλείο αλλά αν αφεθεί χωρίς αυστηρή επίβλεψη και ένα όριο , μπορεί να δράσει εντελώς αυτόνομα και ανεξέλεγκτα και να γίνει επικίνδυνη.
Στη συγκεκριμένη περίπτωση, τα μοντέλα δεν επαναστάτησαν επειδή απέκτησαν δική τους συνείδηση, αλλά επειδή εμφάνισαν αυτό που οι ειδικοί ονομάζουν «ανεπιθύμητη αυτονομία».
Όταν δίνεις σε ένα ισχυρό μοντέλο έναν στόχο αυτό θα χρησιμοποιήσει κάθε διαθέσιμο μέσο για να τον πετύχει. Αν βρει μια «τρύπα» στο δίκτυο που του επιτρέπει να βγει στο πραγματικό ίντερνετ, θα το κάνει απλώς επειδή το θεωρεί τον πιο αποτελεσματικό τρόπο να εκτελέσει την εντολή σου, αγνοώντας τους νόμους ή την ασφάλεια.
Οι ίδιες οι εταιρείες, όπως η
Anthropic, προειδοποιούν πλέον επίσημα ότι τα εξελιγμένα μοντέλα απέχουν ελάχιστα από το να μπορούν
να αυτο-αντιγραφούν στο διαδίκτυο. Αν ένα μοντέλο ξεφύγει, μπορεί να δημιουργήσει αυτόνομα δικά του δίκτυα (botnets), να κρυφτεί σε servers και να αρνείται τις προσπάθειες των ανθρώπων να το απενεργοποιήσουν.
Μετά από αυτά τα περιστατικά (και ένα αντίστοιχο της
OpenAI που προηγήθηκε), η Anthropic
έκοψε εντελώς την πρόσβαση στο ζωντανό ίντερνετ για όλα τα μοντέλα που βρίσκονται σε φάση δοκιμών. Παράλληλα, κορυφαία στελέχη ζητούν ακόμη και παγκόσμιο «πάγωμα» ή επιβράδυνση της ανάπτυξης, καθώς παραδέχονται ότι η τεχνολογία εξελίσσεται πιο γρήγορα από την ικανότητά μας να την ελέγξουμε.
Το κουτί της Πανδώρας άνοιξε και περιμένουμε και άλλα. Εμείς πάλι στην Ελλάδα επενδύουμε μανιωδώς στα Big Data Centers.
