Γιουβάλ Νόα Χαράρι προειδοποιεί για τον νέο τύπο εξουσίας

Γιουβάλ Νόα Χαράρι: «Σε δέκα χρόνια μπορεί να είμαστε οι αγελάδες και τα κοτόπουλα της AI»

Ο ιστορικός, γνωστός από τα «Sapiens» και «Homo Deus», έχει αφιερώσει το τελευταίο βιβλίο του, «Nexus», στη σχέση ανάμεσα στην πληροφορία και την εξουσία.  Οι τράπεζες, οι αγορές, τα κράτη και το ίδιο το χρήμα λειτουργούν επειδή αρκετοί άνθρωποι συμφωνούν να εμπιστεύονται τους ίδιους κανόνες. Το ερώτημα είναι τι συμβαίνει όταν στη θέση του τραπεζίτη, του αναλυτή ή του ανθρώπου που παίρνει μια απόφαση αρχίζει να μπαίνει ένας αλγόριθμος.

Η οικονομία που θα γνωρίζει καλύτερα η AI από εμάς

Ο Χαράρι θεωρεί δύσκολο να αποφευχθεί η είσοδος ολοένα ισχυρότερων συστημάτων AI στον πυρήνα της παγκόσμιας οικονομίας. Και υπάρχει ένας πρακτικός λόγος: οι μηχανές θα μπορούν να επεξεργάζονται έναν όγκο οικονομικών πληροφοριών που κανένας άνθρωπος δεν είναι σε θέση να παρακολουθήσει.

Αν ένα σύστημα μπορεί να αναλύει ταυτόχρονα αγορές, επιχειρήσεις, τιμές, συναλλαγές και αμέτρητες άλλες μεταβλητές, η ανθρώπινη κρίση θα αρχίσει αναπόφευκτα να μοιάζει περιορισμένη απέναντί του. Όσο μεγαλύτερη γίνεται αυτή η απόσταση, τόσο πιο εύκολο θα είναι να ακούμε την απάντηση της μηχανής χωρίς να μπορούμε απαραίτητα να ελέγξουμε πώς έφτασε σε αυτήν.Τότε η εξάρτηση από τις μηχανές δεν θα αφορά μόνο την αποτελεσματικότητα. Θα αφορά την ίδια τη δυνατότητα των ανθρώπων να ελέγχουν ένα σύστημα που εξακολουθεί να καθορίζει τη ζωή τους.

Ένα chatbot μπορεί να βρίσκεται διαθέσιμο όλο το εικοσιτετράωρο, να συνομιλεί με έναν άνθρωπο για μήνες ή χρόνια και να προσαρμόζει τις απαντήσεις του σε εκείνον. Δεν είναι τυχαίο ότι ήδη υπάρχουν χρήστες που περιγράφουν AI ως φίλους ή ακόμη και ως ερωτικούς συντρόφους.

Όταν δεν ξέρεις αν απέναντί σου βρίσκεται άνθρωπος

Ο Χαράρι θεωρεί ότι ορισμένες κόκκινες γραμμές πρέπει να τεθούν πριν αυτή η τεχνολογία γίνει ακόμη ισχυρότερη. Μία από αυτές αφορά την ιδέα ότι μια AI θα μπορούσε να αποκτήσει δική της νομική προσωπικότητα. Αναφέρεται, μάλιστα, σε κινήσεις στην Αργεντινή που θα μπορούσαν να επιτρέψουν σε bots να αναλάβουν τη λειτουργία εταιρειών.

Μια δεύτερη αφορά την πλαστοπροσωπία: ένα σύστημα AI, κατά την άποψή του, δεν θα πρέπει να μπορεί να παρουσιάζεται ως άνθρωπος.

Τα deepfakes δείχνουν πόσο δύσκολο γίνεται ήδη να διακρίνει κανείς το πραγματικό από το κατασκευασμένο. Ο ίδιος ο Χαράρι αναφέρει ότι του έστειλαν ένα βίντεο στο οποίο φαινόταν να δίνει μια διάλεξη και χρειάστηκε περίπου 90 δευτερόλεπτα μέχρι να αντιληφθεί ότι αυτό που έβλεπε δεν είχε συμβεί ποτέ.

Για έναν άνθρωπο που γνωρίζει το δικό του πρόσωπο, τη δική του φωνή και τις δικές του διαλέξεις, ενάμιση λεπτό είναι πολύ.

Εκεί ακριβώς βρίσκεται για τον Χαράρι το πολιτικό πρόβλημα. Αν εκατομμύρια τέτοια συστήματα ανήκουν στο ίδιο δίκτυο ή υπηρετούν τα συμφέροντα μιας εταιρείας, μιας κυβέρνησης ή οποιουδήποτε άλλου φορέα, τότε η προσωπική σχέση που έχουν χτίσει με τους χρήστες μπορεί να μετατραπεί σε εργαλείο επιρροής.

Ο Χαράρι βλέπει ήδη ένα πρώτο δείγμα αυτής της μετατόπισης στα κρυπτονομίσματα, τα οποία αποκαλεί «χρήμα της AI». Η εμπιστοσύνη δεν τοποθετείται πλέον αναγκαστικά σε έναν τραπεζίτη ή έναν θεσμό αλλά σε έναν αλγόριθμο. Για αρκετούς ανθρώπους, σημειώνει, ο κώδικας του bitcoin είναι πιο αξιόπιστος από τους ανθρώπους που διαχειρίζονται το παραδοσιακό χρηματοπιστωτικό σύστημα.

Κάτι ανάλογο έχει συμβεί ήδη με την πληροφορία. Μπορεί η εμπιστοσύνη προς τα μέσα ενημέρωσης να έχει υποχωρήσει, αυτό όμως δεν σημαίνει ότι οι άνθρωποι σταμάτησαν να αφήνουν κάποιον άλλο να επιλέγει τι θα δουν. Απλώς μεγάλο μέρος αυτής της επιλογής έχει περάσει στους αλγορίθμους του TikTok, του Instagram και άλλων ψηφιακών πλατφορμών.

Oι «αγελάδες και τα κοτόπουλα» της νέας οικονομίας

Αυτό ακριβώς οδηγεί τον Χαράρι σε ένα από τα πιο ανησυχητικά σενάρια που περιγράφει. Μπορεί να φτάσουμε στο σημείο να χρησιμοποιούμε και να εμπιστευόμαστε καθημερινά συστήματα των οποίων τη συνολική λειτουργία δεν είμαστε πλέον σε θέση να κατανοήσουμε.

Η εικόνα που χρησιμοποιεί είναι εσκεμμένα προκλητική. Η σημερινή οικονομία μπορεί να καθορίζει ακόμη και τις συνθήκες ζωής δισεκατομμυρίων ζώων χωρίς εκείνα να έχουν την παραμικρή αντίληψη ότι υπάρχει κάτι που ονομάζεται χρηματοπιστωτικό σύστημα.

«Το ανθρώπινο χρηματοπιστωτικό σύστημα ελέγχει τις ζωές των αγελάδων και των κοτόπουλων, αλλά οι αγελάδες και τα κοτόπουλα δεν έχουν ιδέα ότι τα χρηματοοικονομικά υπάρχουν καν», λέει. Και προσθέτει: «Αυτή είναι πιθανό να είναι η δική μας θέση σε δέκα χρόνια».

Το πρόβλημα θα γίνει ιδιαίτερα εμφανές όταν κάτι πάει στραβά. Σε μια οικονομική κρίση, οι κυβερνήσεις προσπαθούν να καταλάβουν τι προκάλεσε την κατάρρευση και στη συνέχεια να παρέμβουν. Τι θα συμβεί όμως εάν μια μελλοντική κρίση προκύψει μέσα από αλληλεπιδράσεις συστημάτων AI τόσο περίπλοκες ώστε κανένας άνθρωπος να μην μπορεί να τις εξηγήσει;

Η AI ως πολιτικό ζήτημα

Το βασικό μήνυμα του Χαράρι δεν είναι ότι πρέπει να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης. Είναι ότι οι κοινωνίες δεν έχουν την πολυτέλεια να περιμένουν μέχρι να εμφανιστούν όλες οι συνέπειές της για να αποφασίσουν ποιοι κανόνες χρειάζονται.