«Η Google και το Κινεζικό Κομμουνιστικό Κόμμα έχουν την ίδια αντίληψη για την ανθρωπότητα»

1,K

Giuliano da Empoli: συνέντευξη στον Alexandre Devecchio

Le Figaro

ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ, Η ΑΥΓΗ ΕΝΟΣ ΝΕΟΥ ΚΟΣΜΟΥ – Στο μυθιστόρημά του Ο μάγος του Κρεμλίνου (Le Mage du Kremlin) και στο δοκίμιό του Ο μηχανικοί του Χάους ( Les Ingénieurs du chaos,) ο συγγραφέας φωτίζει τις δυνατότητες αποσταθεροποίησης της δημοκρατίας που διαθέτουν τα κοινωνικά δίκτυα. Μια πρόκληση που, κατά την άποψή του, δεν είναι τίποτα μπροστά σε αυτό που μας περιμένει στην εποχή της τεχνητής νοημοσύνης. Με αυτές τις νέες τεχνολογίες, οι δυνατότητες χειραγώγησης γίνονται άπειρες. Μακροπρόθεσμα, μας προειδοποιεί, το πολιτικό μας μοντέλο, ακόμη και η αντίληψή μας για το ανθρώπινο ον, απειλούνται. Πρόκειται για τις απαρχές μιας νέας εποχής. Η τεχνητή νοημοσύνη, η οποία αναδύθηκε με το chatbot ChatGPT και τα 200 εκατομμύρια χρήστες του, θα ανατρέψει σε βάθος τις κοινωνίες μας. Για το καλύτερο και το χειρότερο… Ποιες θα είναι οι συνέπειες για τον κόσμο της εργασίας, την πολιτική ζωή, το δίκαιο, ακόμα και την καλλιτεχνική δημιουργία;

LE FIGARO. – Μπορεί η τεχνητή νοημοσύνη να μεταμορφώσει ριζικά τη δημοκρατία; Μήπως το κάνει ήδη;

Giuliano DA EMPOLI. – Από τη στιγμή που η τεχνητή νοημοσύνη υπεισέρχεται στις σχέσεις μεταξύ των ανθρώπων και καθίσταται η διεπαφή μέσω της οποίας ο καθένας μας σχετίζεται με τον κόσμο και τους άλλους, είναι σαφές ότι αυτό έχει επιπτώσεις στη δημοκρατία. Μιλάμε πολύ για τον ρόλο των κοινωνικών δικτύων, αλλά νομίζω ότι το φαινόμενο είναι ήδη πολύ πιο διευρυμένο. Το γεγονός ότι ο καθένας περνά πλέον ένα μεγάλο μέρος του χρόνου του μπροστά σε μια οθόνη αλλάζει όχι μόνο τη δημοκρατία, αλλά και την ίδια την ανθρώπινη εμπειρία. Στο τέλος της ημέρας, τι έχουμε πραγματικά βιώσει, αν εξαιρέσουμε τις εμπειρίες που διαμεσολαβούνται από την οθόνη;

Μήπως η χρήση αλγορίθμων μάθησης και μαζικών δεδομένων για πολιτικές εκστρατείες μάρκετινγκ αποτελεί μια απειλή;

Είναι προφανές ότι η χρήση δεδομένων προσφέρει στις πολιτικές εκστρατείες πρωτοφανείς ευκαιρίες για να απευθυνθούν στους ψηφοφόρους με έναν εντελώς νέο τρόπο. Ήδη, στις Ηνωμένες Πολιτείες, δεν υπάρχουν πλέον οι παραδοσιακές εκστρατείες, στις οποίες ένας υποψήφιος απλώς προσπαθούσε να πείσει τους ψηφοφόρους για τα πλεονεκτήματα των ιδεών του. Οι υπεύθυνοι των εκστρατειών γνωρίζουν πλέον επακριβώς προς τα πού προσανατολίζεται ο κάθε ψηφοφόρος. Έτσι, προσπαθούν να κινητοποιήσουν εκείνους που γνωρίζουν ότι υποστηρίζουν τον σκοπό τους και να αποσυντονίσουν τους αντιπάλους τους, ενθαρρύνοντάς τους να μείνουν στο σπίτι την ημέρα της ψηφοφορίας, και να στείλουν εξατομικευμένα μηνύματα στους λίγους αναποφάσιστους ψηφοφόρους για να τους μεταπείσουν προς τη σωστή πλευρά, την κατάλληλη στιγμή. Οι προεκλογικές εκστρατείες μετατρέπονται τόσο σε μάχες λογισμικού όσο και σε πολιτικές μάχες. Στην Ευρώπη, η νομική προστασία των προσωπικών δεδομένων είναι ευτυχώς πιο ισχυρή, αλλά οι κύριες τάσεις είναι οι ίδιες.

Όπως είδαμε πρόσφατα με τις παραποιημένες φωτογραφίες του Ντόναλντ Τραμπ, η τεχνητή νοημοσύνη είναι ικανή να κατασκευάζει υπερρεαλιστικές φωτογραφίες από το μηδέν. Μπαίνουμε άραγε σε μια εποχή χειραγώγησης των μαζών;

Σήμερα, αρκούν τρία δευτερόλεπτα ήχου από μια ανθρώπινη φωνή για να συνθέσετε τα υπόλοιπα και να την κάνετε να λέει ό,τι θέλετε. Το ίδιο ισχύει και για τις εικόνες και τα βίντεο. Έτσι, οι δυνατότητες χειραγώγησης γίνονται άπειρες. Μακροπρόθεσμα, μπορούμε να φανταστούμε ότι η δυνατότητα χειραγώγησης, ή ακόμη και δημιουργίας από το μηδέν οποιασδήποτε εικόνας ή βίντεο, θα αλλάξει τη σχέση μας με τα οπτικοακουστικά μέσα εισάγοντας μια μορφή ευρέως διαδεδομένου σκεπτικισμού. Ο καθένας από εμάς θα βασίζεται αποκλειστικά σε πηγές πληροφόρησης που ο ίδιος θα θεωρεί αξιόπιστες, αλλά αυτές οι πηγές θα ακολουθούν πολύ διαφορετικά πρότυπα και προσανατολισμούς: κάποιες θα τηρούν τους κανόνες της δημοσιογραφικής δεοντολογίας, άλλες όχι. Θα έχουμε επομένως μια πληθώρα «παραγωγών της πραγματικότητας» που θα αντιφάσκουν συστηματικά μεταξύ τους. Κάτι σαν αυτό που συμβαίνει ήδη σήμερα με τα μέσα ενημέρωσης και τους ιστότοπους διαφορετικών προσανατολισμών, αλλά με την υποστήριξη οπτικοακουστικών μέσων, πραγματικών ή ψεύτικων, σχεδιασμένων για να δημιουργούν τη μέγιστη δυνατή συγκίνηση.

Τόσο στο δοκίμιό σας Οι μηχανικοί του χάους όσο και στο μυθιστόρημά σας Ο μάγος του Κρεμλίνου, δείχνετε πώς οι «λαϊκιστές ηγέτες» χρησιμοποίησαν τους αλγόριθμους για να αποσταθεροποιήσουν τις κοινωνίες τους. Μήπως αυτές οι νέες τεχνολογίες επιτείνουν τον κατακερματισμό της κοινωνίας, ιδίως στις δυτικές δημοκρατίες;

Εδώ αγγίζουμε την καρδιά του προβλήματος. Δεν είναι μόνο οι ψευδείς ειδήσεις (fake news) και τα deepfakes που προσεχώς θα εισβάλουν στις οθόνες μας. Το πραγματικό πρόβλημα είναι η στάθμιση. Σε έναν κόσμο υπερφόρτωσης πληροφοριών, οι αλγόριθμοι που διέπουν τα νέα μέσα ενημέρωσης κάνουν τον καθένα να βλέπει εκείνο μόνο το κομμάτι της πραγματικότητας που επιβεβαιώνει τις απόψεις του. Δεν έχει σημασία αν αυτές οι πληροφορίες είναι αληθινές ή ψευδείς. Θα μπορούσαν ακόμη και να είναι όλες αληθινές – υπάρχουν τόσες πολλές! Αυτό που έχει σημασία είναι η σχετική βαρύτητα που δίνει κάποιος σε αυτά τα γεγονότα, με αποτέλεσμα να μην ισχύει πλέον η παλιά φράση «έχετε δικαίωμα στις δικές σας απόψεις, αλλά όχι στα δικά σας γεγονότα». Στο εξής, ο καθένας έχει πλέον δικαίωμα στις δικές του απόψεις, αλλά και στα δικά του γεγονότα. Και, άλλωστε, αυτό δεν ισχύει μόνο για τους ψηφοφόρους του Τραμπ της αμερικανικής ενδοχώρας ή για τους οπαδούς των εθνικολαϊκιστών στην Ευρώπη. Ισχύει για όλον τον κόσμο: τους προοδευτικούς ακαδημαϊκούς στο πανεπιστήμιο, τις προσωπικότητες του κατεστημένου, τον κύριο και την κυρία Τάδε… Εκτός και αν κάνουμε συνειδητές και επίμονες προσπάθειες να εκθέσουμε τον εαυτό μας σε ριζικά διαφορετικές απόψεις. Η τεχνητή νοημοσύνη θα ενισχύσει αυτό το φαινόμενο, επειδή θα είναι πολύ καλύτερη από τους παλιούς αλγόριθμους στο να ικανοποιεί τις προτιμήσεις μας και να αξιοποιεί τα πάθη μας. Θα παρέχει περιεχόμενο που θα είναι όλο και περισσότερο εξατομικευμένο –προσαρμοσμένο στον καθένα από εμάς– και απόλυτα καθηλωτικό.

Κατά τη διάρκεια των ταραχών στα προάστια, ο Εμμανουέλ Μακρόν έθεσε την ιδέα της διακοπής των κοινωνικών δικτύων. Αυτός δεν είναι ένας τρόπος να σπάσει το θερμόμετρο;

Τα κοινωνικά δίκτυα είναι εργαλεία σχεδιασμένα να δημιουργούν και να πολλαπλασιάζουν συναισθήματα, όπως μια επιδημία ή μια δασική πυρκαγιά. Είναι κατανοητό ότι, όταν τα συναισθήματα μεταφράζονται σε σωματική βία, ένα από τα διορθωτικά μέτρα που προβλέπουν οι αρχές είναι η διακοπή τους. Αυτή είναι στην πραγματικότητα η πρακτική σε ορισμένες χώρες, όπως η Ινδία και το Ιράν. Η χρήση ενός τέτοιου μέσου σε μια χώρα όπως η Γαλλία φαίνεται πιο περίπλοκη. Αυτό που πρέπει να γίνει είναι να καταστεί η λειτουργία των κοινωνικών δικτύων συμβατή με τις βασικές αρχές μιας φιλελεύθερης δημοκρατίας. Κάτι που δεν ισχύει σήμερα.

“Η Silicon Valley είναι ένα οικοσύστημα στο οποίο η ακραία τεχνολογική πολυπλοκότητα συνυπάρχει με τρομακτική πολιτική και πολιτιστική φτώχεια”.

Μπορούν οι ολοένα και πιο κατακερματισμένες κοινωνίες μας να παραμείνουν τελικά δημοκρατικές; Δεν είναι αυτός ο κατακερματισμός κατ’ αρχάς αποτέλεσμα του καταναλωτικού και ατομικιστικού μας μοντέλου, παρά των νέων τεχνολογιών ή των «λαϊκιστών»;

Φυσικά, οι νέες τεχνολογίες απλώς ενισχύουν τη δυναμική που υπάρχει ήδη στην κοινωνία και την οικονομία. Δεν δημιουργούν πράγματα εκ του μηδενός, αλλά αποτελούν έναν πολύ ισχυρό επιταχυντή και πολλαπλασιαστή των τάσεων. Σε τέτοιο βαθμό που, σε πολλές περιπτώσεις, καθιστούν άλυτα προβλήματα που, στην πραγματικότητα, θα μπορούσαν κάλλιστα να επιλυθούν. Οι κοινωνίες μας αντιμετωπίζουν σημαντικές προκλήσεις, αλλά το κλίμα υστερίας που επικρατεί στον δημόσιο χώρο, τροφοδοτούμενο από το οικοσύστημα των νέων μέσων ενημέρωσης, καθιστά ακόμη πιο δύσκολη την αντιμετώπισή τους. Το ίδιο ισχύει και για τους «λαϊκιστές». Είναι σαφές ότι δεν αποτελούν την αιτία, αλλά μάλλον το σύμπτωμα των προβλημάτων και των ρήξεων που διατρέχουν την κοινωνία μας. Αλλά οι ενέργειές τους απλώς τις επιδεινώνουν αντί να προσφέρουν λύση.

Στις δικτατορίες, μήπως η τεχνητή νοημοσύνη επιτρέπει, αντιθέτως, να ενταθεί η καθετοποίηση της εξουσίας και να ελεγχθεί καλύτερα η κοινωνία; Μήπως αυτό συμβαίνει ήδη στην Κίνα; Τι γίνεται με τη Ρωσία;

Η τεχνητή νοημοσύνη, η λειτουργία της οποίας βασίζεται στη συσσώρευση ενός αδιανόητου όγκου δεδομένων, είναι από μόνη της ένα τρομερό εργαλείο συγκέντρωσης της εξουσίας στα χέρια εκείνων που είναι σε θέση να ελέγχουν και να χρησιμοποιούν αυτά τα δεδομένα. Αυτό ισχύει τόσο στα δημοκρατικά συστήματα, όπου τα δεδομένα είναι συγκεντρωμένα, σε αυτό το στάδιο, κυρίως σε ιδιωτικά χέρια, όσο και στα αυταρχικά συστήματα, όπου τα δεδομένα ελέγχονται από το κράτος. Η Κίνα, πολύ περισσότερο από τη Ρωσία, αποτελεί σήμερα το πιο εντυπωσιακό -και ανησυχητικό- παράδειγμα του τρόπου με τον οποίο μπορούν να χρησιμοποιηθούν οι νέες τεχνολογίες για τη δημιουργία μιας τέλειας δικτατορίας. Δεν είναι τυχαίο ότι, πριν από λίγα χρόνια, οι διαδηλωτές υπέρ της δημοκρατίας στο Χονγκ Κονγκ είχαν ως στόχο τις «έξυπνες λάμπες δρόμου» που είχε εγκαταστήσει το καθεστώς στους δρόμους της πρώην βρετανικής αποικίας.

«Το Κινεζικό Κομμουνιστικό Κόμμα και η Silicon Valley εργάζονται πάνω σε ένα μετα-ανθρώπινο μέλλον», γράφατε στο περιοδικό Le Grand Continent. Πρόκειται για μια απροσδόκητη συμμαχία. Τι εννοείτε με αυτό;

Κατά τη διάρκεια του Ψυχρού Πολέμου, ήρθαν αντιμέτωπες δύο αντίθετες αντιλήψεις για τον άνθρωπο: από τη μία πλευρά, το καπιταλιστικό άτομο, ελεύθερο να ικανοποιεί τα ένστικτα και τις επιθυμίες του, και από την άλλη ο νέος κομμουνιστής άνθρωπος, που σκόπευε να βάλει τη συλλογική ευημερία πάνω από τα δικά του άμεσα συμφέροντα. Σήμερα, γίνεται λόγος για έναν νέο Ψυχρό Πόλεμο, αλλά η Google και το Κινεζικό Κομμουνιστικό Κόμμα έχουν ακριβώς την ίδια αντίληψη για τον άνθρωπο: την αντίληψη ενός ατόμου του οποίου η συμπεριφορά και οι επιδιώξεις μπορούν να αναχθούν εξ ολοκλήρου σε μια σειρά αριθμών και να κυβερνηθούν από ολοένα και πιο εξελιγμένους αλγορίθμους. Οι σκοποί είναι διαφορετικοί –το κέρδος για την Google και ο πολιτικός έλεγχος για το ΚΚΚ– αλλά τα εργαλεία και το όραμα της κοινωνίας είναι ακριβώς τα ίδια.

Παραδόξως, η Silicon Valley ισχυρίζεται ότι είναι προοδευτική. Μήπως βρισκόμαστε μπροστά σε ένα σενάριο Φρανκενστάιν, με ένα πλάσμα που δραπετεύει από τον δημιουργό του;

Η Silicon Valley είναι ένα οικοσύστημα στο οποίο μια ακραία τεχνολογική πολυπλοκότητα συνυπάρχει με μια τρομακτική πολιτική και πολιτιστική φτώχεια. Αρκεί να παρατηρήσετε τους κύριους παίκτες του συστήματος: τους Μαρκ Ζούκερμπεργκ, Τζεφ Μπέζος, Έλον Μασκ. Η ικανότητά τους να θέτουν την τεχνολογία στην υπηρεσία μιας θέλησης για δύναμη χωρίς όρια, η οποία φτάνει μέχρι του σημείου να θέλει να ιδιωτικοποιήσει το σύμπαν και να νικήσει τον θάνατο, δεν μπορεί παρά να εντυπωσιάζει εμάς τους κοινούς θνητούς. Από την άλλη πλευρά, μόλις τολμήσουν να ασχοληθούν με την πολιτική, ή ακόμη και με τις σχέσεις τους με τους άλλους ή με τη φιλοσοφία τους για τη ζωή, νιώθουμε αμηχανία γι’ αυτούς, τόσο αφελείς και απλοϊκές είναι οι ιδέες τους. Κάποιοι αυτοαποκαλούνται προοδευτικοί, άλλοι ελευθεριακοί, αλλά όλους τους ενώνει μια μορφή ύβρεως –η ιδέα ότι χτίζουν έναν κόσμο κατ’ εικόνα και ομοίωσή τους– που τους κάνει να αδιαφορούν ουσιαστικά για τις πολιτικές και κοινωνικές επιπτώσεις των πράξεών τους.

Τα κοινωνικά δίκτυα παρουσιάστηκαν αρχικά ως δημοκρατικά εργαλεία και πράγματι πρόσφεραν ένα επίπεδο πλουραλισμού σε ένα απροσπέλαστο μηντιακό τοπίο, για να μην αναφέρουμε τον θετικό τους ρόλο στις αραβικές επαναστάσεις και στο Ιράν σήμερα. Μπορούμε να τα χρησιμοποιήσουμε ελεγχόμενα παρά την έλευση της τεχνητής νοημοσύνης;

Δεν έχουμε άλλη επιλογή. Στην πορεία της ιστορίας τους, οι δημοκρατίες μας έχουν αναπτύξει έναν δημόσιο χώρο που διέπεται από κανόνες, που εγγυάται τον σεβασμό των θεμελιωδών ανθρωπίνων και πολιτικών δικαιωμάτων. Αλλά μόλις εισέλθουμε στην ψηφιακή διάσταση, είναι σαν να βρισκόμαστε στην Υεμένη ή τη Σομαλία, ένα αποτυχημένο κράτος, όπου δεν διασφαλίζονται ούτε τα πιο βασικά δημοκρατικά δικαιώματα. Ένα όλο και μεγαλύτερο μέρος του δημόσιου διαλόγου μας λαμβάνει χώρα σε ένα παρακμιακό σύστημα που κυβερνάται από ψηφιακούς φεουδάρχες. Μέσω μιας μορφής ψυχολογικής υποταγής, αφεθήκαμε να πειστούμε ότι δεν μπορούμε να κάνουμε τίποτα. Ότι το πεπρωμένο μας ήταν να αποδεχτούμε παθητικά ότι οι ορδές της νέας ψηφιακής βαρβαρότητας διαλύουν τις πιο στοιχειώδεις αρχές της πολιτισμένης συνύπαρξης. Στην πραγματικότητα, αυτό δεν ισχύει.

Κάθε κοινωνία έχει τη δυνατότητα –αλλά και το καθήκον– να προσαρμόσει τις νέες τεχνολογίες στις αξίες και τις αρχές που διέπουν τον τρόπο λειτουργίας της. Παρά τις διαφορές τους, οι ευρωπαϊκές κοινωνίες μοιράζονται ένα κοινωνικό και πολιτικό μοντέλο, πολιτικής συνύπαρξης και θα έλεγα ακόμη και ποιότητας ζωής, που τις διαφοροποιεί τόσο από τις νέες αυταρχικές αυτοκρατορίες, την Κίνα και τη Ρωσία, όσο και από τον αμερικανικό ωφελιμισμό. Εάν είμαστε πιστοί σε αυτό το μοντέλο, ο μόνος τρόπος για να του εξασφαλίσουμε ένα μέλλον είναι να έχουμε την ικανότητα να το προσαρμόσουμε στην ψηφιακή διάσταση, με την επίγνωση ότι η πρόκληση που αντιπροσωπεύουν τα κοινωνικά δίκτυα δεν είναι τίποτα μπροστά σε αυτό που μας περιμένει στην εποχή της τεχνητής νοημοσύνης.

---

Ο Giuliano da Empoli είναι συγγραφέας και πολιτικός επιστήμονας που διδάσκει στη Σχολή Πολιτικών Επιστημών, στο Παρίσι. Πρώην αντιδήμαρχος της Φλωρεντίας, υπήρξε πολιτικός σύμβουλος του Ιταλού πρωθυπουργού Ματέο Ρέντσι. Το πρώτο του μυθιστόρημα, Ο Μάγος του Κρεμλίνου (εκδ. Κέδρος) ,( αποτέλεσε εκδοτικό φαινόμενο και κέρδισε το Grand Prix du roman de l‘Académie française. Είναι επίσης συγγραφέας του βιβλίου “Ingénieurs du chaos” (Gallimard,).

Μετάφραση Χριστίνα Σταματοπούλου