Ερευνητής της Anthropic αποφάσισε να αποχωρήσει από τον κλάδο της τεχνητής νοημοσύνης, εκφράζοντας φόβους ότι η εταιρεία και οι ανταγωνιστές της επιταχύνουν την ανάπτυξη συστημάτων τα οποία ενδέχεται να μην είναι σε θέση να ελέγξουν. Η αποχώρησή του αποτελεί ακόμη μία ένδειξη της εντεινόμενης ανησυχίας για την ασφάλεια που εκφράζεται εσωτερικά στις κορυφαίες εταιρείες τεχνητής νοημοσύνης.
Ο Τζέικομπ Κόξον, ερευνητής που ειδικεύεται στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης, τα οποία βάζει να καταναλώνουν τεράστιο όγκο δεδομένων, δήλωσε ότι αποχωρεί από την εταιρεία επειδή δε θέλει να συμμετέχει πια σε αυτήν.
Ο ίδιος φοβάται ότι τέτοια συστήματα θα μπορούσαν να ξεφύγουν από τον έλεγχο και να οδηγήσουν ακόμη και στην καταστροφή της ανθρωπότητας.
Ο 27χρονος Βρετανός, ο οποίος έχει σπουδάσει μαθηματικά, υποστηρίζει ότι πολλοί από τους συναδέλφους του στον κλάδο χρησιμοποιούν πλέον όρους όπως «crunchtime» και «endgame» (σ.σ. «ώρα της κρίσης» και «τελική φάση») για να περιγράψουν την πορεία προς μοντέλα που θα είναι ικανά να αυτοβελτιώνονται.
«Βρισκόμαστε σε τροχιά προς πολλά από τα πιο ακραία σενάρια, σύμφωνα με τα οποία μέχρι το τέλος του επόμενου έτους τα πράγματα θα μπορούσαν ήδη να έχουν ξεφύγει από τον έλεγχο», δήλωσε ο Κόξον. Μαζί με αυτόν και άλλα στελέχη έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που εγκυμονούν τα μοντέλα τεχνητής νοημοσύνης που μπορεί να λειτουργήσουν ανεξέλεγκτα, καλώντας παράλληλα τον κλάδο να επιβραδύνει την ανάπτυξή τους.
Οι προειδοποιήσεις για τους κινδύνους
Οι μεγαλύτερες εταιρείες του κλάδου έχουν προειδοποιήσει ότι οι πρόσφατες κυβερνοεπιθέσεις αποτελούν προάγγελο όσων μπορεί να ακολουθήσουν.
“Πιστεύω ότι κάποια πράγματα θα πάνε πολύ στραβά στον τομέα της κυβερνοασφάλειας, αν οι άνθρωποι δεν δράσουν επειγόντως», δήλωσε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, σε αξιωματούχους της G20 την περασμένη εβδομάδα, κατά τη διάρκεια συνόδου στη Βόρεια Καρολίνα.
«Είναι μία περίοδος που απαιτεί μεγάλη προσοχή. Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες της συνεχιζόμενης ταχείας αύξησης της νοημοσύνης των μηχανών», έγραψε την Κυριακή σε ανάρτησή του ο επικεφαλής επιστήμονας της OpenAI, Τζακούμπ Πατσότσκι, προτείνοντας συντονισμένη επιβράδυνση της ανάπτυξης από τον κλάδο και κυβερνητική παρέμβαση.
