Ο Ρικάρντο Πότσο είναι Ιταλός φιλόσοφος, διευθυντής της έδρας Ιστορίας της Φιλοσοφίας στο Πανεπιστήμιο της Ρώμης «Tor Vergata» και μέλος της Παπικής Ακαδημίας Κοινωνικών Επιστημών.
Από την Laure Mandeville Le Figgaro
Ενεργά εμπλεκόμενος στις συζητήσεις μεταξύ της Καθολικής Εκκλησίας και του κόσμου της τεχνολογίας, ο Ρικκάρντο Πότσο αναφέρεται στις τεράστιες προκλήσεις που θα πρέπει να αντιμετωπίσουμε απέναντι σε μηχανές που σύντομα θα διαθέτουν «ικανότητα οργανικής αυτοανάπτυξης» και «επομένως δεν θα είναι πλέον ελεγχόμενες με μηχανικά μέσα». «Πότε θα είναι η τεχνητή νοημοσύνη ικανή να εξαπατήσει τους ανθρώπους, παρουσιάζοντας τον εαυτό της ως πρόσωπο ικανό να δημιουργήσει σχέσεις φροντίδας και υποστήριξης, κάτι που μόνο ο άνθρωπος είναι σε θέση να κάνει;», αναρωτιέται μεταξύ άλλων ο φιλόσοφος, σημειώνοντας ότι αυτή η στιγμή είναι «κοντά» και ότι το ζήτημα αυτό αποτελεί μια «μεγάλη ανθρωπολογική πρόκληση», λόγω της επιδημίας της μοναξιάς που τέτοιες εξελίξεις θα μπορούσαν να επιδεινώσουν. Συμμεριζόμενος, παρά όλους τους κινδύνους, τις απόψεις των τεχνο-αισιόδοξων, ο Ρωμαίος φιλόσοφος εξηγεί τον αγώνα του για τη δημιουργία μιας παγκόσμιας βιβλιοθήκης του Διαδικτύου, η οποία θα επέτρεπε τη συγκρότηση μιας νοόσφαιρας, μιας σφαίρας της σκέψης, που θα συγκέντρωνε όλο τον πολιτιστικό και πνευματικό πλούτο της ανθρωπότητας. Ένα στοίχημα που δυσκολά θα κερδηθεί, δεδομένου του τεχνολογικού εθνικισμού που κερδίζει έδαφος.
LE FIGARO. – Το Βατικανό εξέφρασε πρόσφατα τη θέση του σχετικά με την τεχνητή νοημοσύνη μέσω της παπικής εγκυκλίου, Magnifica Humanitas , καλώντας να παραμείνουν ο άνθρωπος, η ελευθερία και η αξιοπρέπειά του στο επίκεντρο της ανάπτυξής της. Ακούγεται αυτή η κινητοποίηση σε έναν κόσμο όπου τα οικονομικά συμφέροντα και ο γεωπολιτικός ανταγωνισμός έχουν πολύ μεγάλο βάρος;
RICCARDO POZZO. – Η εγκύκλιος Magnifica Humanitas (2026) του Πάπα Λἐοντα επιδιώκει να δώσει προτεραιότητα στην προστασία της «αξιοπρέπειας κάθε ατόμου» έναντι των οικονομικών συμφερόντων και του γεωπολιτικού ανταγωνισμού. Εντάσσεται στη συνέχεια των Laudato si (2015) και Laudate Deum (2023), στις οποίες ο Πάπας Φραγκίσκος είχε καταδικάσει τόσο την αδιαφορία για την ισορροπία των οικοσυστημάτων, όσο και την πεποίθηση ότι είναι δυνατόν να ελέγχονται οι περιορισμένοι πόροι, καθώς και την αχαλίνωτη αναζήτηση του κέρδους. Ωστόσο, υπάρχουν διάφορα στρατόπεδα. Στη Σίλικον Βάλεϊ, ορισμένοι κρούουν τον κώδωνα του κινδύνου. Υπάρχει όμως και το στρατόπεδο των τεχνοφασιστών, που λένε: διαθέτουμε όλα τα εργαλεία και θα συνεχίσουμε. Και στην Κίνα, ζούμε ήδη στον κόσμο της τεχνητής νοημοσύνης. Ο λογαριασμός DeepSeek (κινεζικός), στον οποίο έχω εγγραφεί, είναι κοινόχρηστος και ό,τι γράφω εκεί αποθηκεύεται. Η κινεζική κυβέρνηση μπορεί ανά πάσα στιγμή να έρθει να με ρωτήσει γιατί με ενδιαφέρει αυτό ή εκείνο.
Η Κίνα είναι μια ψηφιακή δικτατορία…
Και οι Κινέζοι ζουν με αυτό. Αποτελεί μέρος της πραγματικότητας και δεν υπάρχει κανένα μεγάλο λαϊκό κίνημα ενάντια σε αυτή την κατάσταση. Το θεωρούν δεδομένο, ενώ εμείς, στην Ευρώπη, διαθέτουμε ακόμα νόμους που προστατεύουν την ιδιωτική μας ζωή.
Οι συναντήσεις στο Βατικανό μετά την παρουσίαση του Magnifica Humanitas σας καθησύχασαν όσον αφορά την ευαισθητοποίηση για τους κινδύνους της τεχνολογικής φυγής προς τα εμπρός στον τομέα της τεχνητής νοημοσύνης; Ορισμένοι επιχειρηματίες υποδηλώνουν ότι κάποια μέρα θα ήταν δυνατό να δημιουργηθεί μια μηχανή με «συνείδηση». Έχουμε να κάνουμε με τρελούς δημιουργούς, που έχουν παρασυρθεί από ένα νέο προμηθεϊκό πειρασμό;
Ο ορισμός της τεχνητής νοημοσύνης που υιοθετώ είναι αυτός που προτείνει ο Πάπας στις ενότητες 99-100 του Magnifica Humanitas, σύμφωνα με τον οποίο οι μαθησιακές ικανότητες της μηχανής αποτελούν «μια μορφή στατιστικής προσαρμογής βασισμένη σε δεδομένα και ανατροφοδότηση, η οποία μπορεί να είναι πολύ αποτελεσματική, αλλά δεν συνεπάγεται εσωτερική αυτοανάπτυξη». Το ερώτημα, λοιπόν, είναι πότε – προφανώς σύντομα! – θα έρθει η εποχή που η μηχανή θα καταστεί ικανή να αυτοαναπτύσσεται, ίσως ακόμη και να γνωρίσει οργανική ανάπτυξη, και επομένως δεν θα είναι πλέον, εξ ορισμού, ελεγχόμενη με μηχανικά μέσα. Ας σκεφτούμε τον Καντ, ο οποίος αναγνώριζε «αποφασιστικές κρίσεις» για τη μηχανική και «στοχαστικές κρίσεις για τους οργανισμούς».
Ακόμη πιο σημαντικό είναι ένα άλλο ερώτημα που έθεσε ο Πάπας Λέων: πότε η τεχνητή νοημοσύνη θα είναι ικανή να εξαπατήσει τους ανθρώπους, παρουσιάζοντας τον εαυτό της ως πρόσωπο ικανό να δημιουργήσει «σχέσεις φροντίδας και συνοδείας», κάτι που μόνο ο άνθρωπος είναι σε θέση να κάνει;
Το ερώτημα είναι πότε – και αυτό το μέλλον είναι κοντά – η τεχνητή νοημοσύνη θα είναι ικανή να εξαπατήσει τους ανθρώπους»
Αυτά τα δύο ερωτήματα αφορούν ένα μέλλον που φαίνεται πολύ κοντά, στο οποίο η ικανότητα μάθησης της μηχανής θα γνωρίσει πράγματι μια σημαντική ανάπτυξη.
Αυτό θέτει προφανώς μια σημαντική ανθρωπολογική πρόκληση όσον αφορά τη μοναξιά των ατόμων στην εποχή της τεχνητής νοημοσύνης. Όσον αφορά τη συνείδηση, θα ήθελα να υπογραμμίσω ότι σήμερα η τεχνολογία δεν έχει καταφέρει μόνο να εφαρμόσει μια στενή τεχνητή νοημοσύνη (Narrow Artificial Intelligence) ή μια εξειδικευμένη ανά τομέα μηχανική μάθηση (Domain-Specific Machine Learning), ικανή να επιλύει ένα συγκεκριμένο πρόβλημα αλλά στερούμενη γενικών γνωστικών ικανοτήτων. Έχει επίσης αρχίσει να εξοικειώνει τον άνθρωπο με τους προ-εκπαιδευμένους γενετικούς μετασχηματιστές (Generative Pretrained Transformers), ή τη γενική τεχνητή νοημοσύνη (Artificial General Intelligence), γνωστή επίσης ως ισχυρή ή πλήρης τεχνητή νοημοσύνη, ή τεχνητή νοημοσύνη ανθρώπινου επιπέδου. Σε ένα ακόμη υψηλότερο επίπεδο βρίσκεται η τεχνητή υπερνοημοσύνη (Artificial Superintelligence), μια υποθετική μορφή γενικής τεχνητής νοημοσύνης που θα ήταν πολύ πιο έξυπνη από τους πιο λαμπρούς ανθρώπους και για την οποία ορισμένοι αναμένουν ότι θα διαθέτει ευαισθησία ή συνείδηση. Ο κίνδυνος είναι ότι σε πέντε χρόνια μια τεχνητή νοημοσύνη όπως το ChatGPT ή το Claude θα μπορούσε να αρχίσει να ενεργεί αυτοβούλως και να προκαλεί διακοπές ρεύματος, παρεμβολές, να ρίχνει αεροπλάνα… εν ολίγοις, να πυροδοτεί κάθε είδους ανεξέλεγκτες καταστροφές.
Είναι συγκλονιστικό. Ποια θα ήταν η λογική αυτών των μηχανών;
Δεν το γνωρίζουμε. Γι’ αυτό και είναι πολύ τρομακτικό.
Αναφέρεστε σε μια μηχανή που δίνει την εντύπωση ότι διαθέτει ανθρώπινες ικανότητες, όπως η ευαισθησία, η ενσυναίσθηση, τα συναισθήματα, τις οποίες, εξ ορισμού, δεν μπορεί να έχει. Η εγκύκλιος του Πάπα υπενθυμίζει ακριβώς ότι αυτές οι ικανότητες είναι αποκλειστικά ανθρώπινες.
Ο Πάπας έχει δίκιο όταν λέει ότι αυτό είναι λάθος. Οι μηχανές δεν μπορούν να έχουν συναισθήματα, ακόμα κι αν φαίνεται ότι τα έχουν. Και η εγκύκλιος το επιβεβαιώνει σαφώς σε σχέση με τη μέριμνα για τον άνθρωπο. Στο Βατικανό, αυτό αποτελεί θέμα προτεραιότητας, διότι δεν μπορούμε να αφήνουμε τους ανθρώπους μόνους. Η μοναξιά έχει εξελιχθεί σε επιδημία.
Αναφέρατε την πρόσφατη συνάντησή σας με την ομάδα της Anthropic. Ποια είναι, κατά τη γνώμη σας, τα πιο κρίσιμα ζητήματα σήμερα;
Μετά την παρουσίαση του Magnifica Humanitas από τον Πάπα Λέοντα, οι συναντήσεις με τους εκπροσώπους της Anthropic στις 25 και 26 Μαΐου στο Βατικανό αποτέλεσαν μια αξιοσημείωτη εμπειρία, για την οποία τους είμαι βαθιά ευγνώμων. Χωρίς να μπω σε λεπτομέρειες, μπορώ να πω ότι αυτές οι ανταλλαγές σημάδεψαν την πνευματική μου εξέλιξη, καθώς τα ζητήματα που τίθενται αναφέρονται σε τίποτα λιγότερο από την ίδια την επιβίωση της ανθρωπότητας. Αν συνέβαιναν διακοπές ρεύματος και τα αεροπλάνα έπεφταν υπό την αυτόνομη καθοδήγηση της τεχνητής νοημοσύνης, τα αποτελέσματα θα ήταν καταστροφικά.
Είχατε λοιπόν την εντύπωση ότι οι συνομιλητές σας φοβήθηκαν;
Ναι, πρέπει να το αναγνωρίσουμε με τη δέουσα σοβαρότητα. Σχετικά με αυτό, πρέπει να αναφερθεί το πρωτοποριακό έργο του Ρομπέρτο Μπούσα, του πρώτου φιλόσοφου που εφηύρε τις ψηφιακές ανθρωπιστικές επιστήμες. Ήταν ο πρώτος που χρησιμοποίησε τον υπολογιστή για να εργαστεί πάνω στις αντιστοιχίες του έργου του Αγίου Θωμά Ακινάτη. Στη συνέχεια, ο Μπούσα έγραψε ένα μικρό βιβλίο, Από τους υπολογιστές στους αγγέλους, το 2000, στο οποίο σημείωνε ότι ο Θεός είχε δημιουργήσει την τεχνητή νοημοσύνη όπως είχε δημιουργήσει και τους αγγέλους, αυτά τα πανγνωστικά όργανα της δημιουργίας. Όμως ο Θεός δημιούργησε και τους διαβόλους, οι οποίοι είναι άγγελοι που δεν υπάκουσαν στο σχέδιο του Θεού και πράττουν το κακό. Πρόκειται για αντίθετες δυνάμεις, οι οποίες όμως αποτελούν μέρος της δημιουργίας… Σύμφωνα με τη χριστιανική πίστη, θα υπάρξει μια μάχη μεταξύ αυτών των δυνάμεων.
Ο κίνδυνος είναι ότι σε πέντε χρόνια μια τεχνητή νοημοσύνη όπως το ChatGPT ή το Claude θα μπορούσε να αρχίσει να ενεργεί αυτοβούλως και να προκαλεί διακοπές ρεύματος, παρεμβολές, να ρίχνει αεροπλάνα… εν ολίγοις, να πυροδοτεί κάθε είδους ανεξέλεγκτες καταστροφές.
Παρά τους κινδύνους αυτούς, παραμένετε τεχνο-αισιόδοξος και η εργασία σας επικεντρώνεται στον τρόπο με τον οποίο η τεχνητή νοημοσύνη θα μπορούσε να συμβάλει στην ανάδυση μιας νέας μορφής παγκόσμιας συλλογικής νοημοσύνης – μιας νοόσφαιρας που θα επιτρέπει στην ανθρωπότητα, σύμφωνα με το όραμα του Πιερ Τεϊλάρ ντε Σαρντέν, να αναπτύξει ένα είδος «σκεπτόμενης μεμβράνης» που θα περιβάλλει τον πλανήτη και θα ωφελεί όλους. Δεν παρατηρούμε όμως σήμερα το αντίθετο φαινόμενο; Τα κινεζικά γλωσσικά μοντέλα και τα κινεζικά δεδομένα είναι εγκλωβισμένα πίσω από ψηφιακά εμπόδια, ενώ οι Ηνωμένες Πολιτείες περιορίζουν την πρόσβαση στα πιο προηγμένα μοντέλα της Anthropic, όπως τα Claude Opus 5 και Claude 5.
Ναι, συμφωνώ με τον Teilhard και στέκομαι στο πλευρό των τεχνο-αισιόδοξων. Ο τελευταίος παρατηρεί ότι η υπέρβαση του χώρου από τη σκέψη κατέστη δυνατή χάρη στην απροσδόκητη καινοτομία που αντιπροσωπεύει η ασύρματη τεχνολογία: «Χάρη στο τεράστιο βιολογικό γεγονός που αποτελεί η ανακάλυψη των ηλεκτρομαγνητικών κυμάτων, κάθε άτομο βρίσκεται πλέον ταυτόχρονα παρόν – ενεργά και παθητικά – σε όλες τις θάλασσες και τις ηπείρους, σε παγκόσμια κλίμακα», γράφει στο Le Phénomène humain, το 1955. Ο λόγος ύπαρξης της νοόσφαιρας έγκειται στις ραδιοσυχνότητες, η χρήση των οποίων κατοχυρώθηκε με δίπλωμα ευρεσιτεχνίας από τον Γκουλιέλμο Μαρκόνι το 1897. Ο Teilhard έβλεπε στα ραδιοκύματα μια σύγκλιση των χημικών στοιχείων και των κληρονομικών αλυσίδων. Για τον ίδιο, η σφαιρική γεωμετρία της Γης και η ψυχική καμπυλότητα του ανθρώπινου νου εναρμονίζονται για να εξισορροπήσουν τις ατομικές και συλλογικές δυνάμεις που οδηγούν στον κατακερματισμό του κόσμου. Οι ραδιοσυχνότητες επέβαλαν μια μορφή ενοποίησης του κόσμου, οδηγώντας σε αύξηση της συνείδησης και στην ανάδυση ενός πλέγματος σκέψης, της νοόσφαιρας, η οποία υφαίνει τις ίνες της γύρω από τον πλανήτη «όχι για να τις συγχωνεύσει και να τις εξουδετερώσει, αλλά για να τις ενισχύσει μέσα στη ζωντανή ενότητα ενός και του ίδιου ιστού».
Ο Teilhard περιγράφει αυτή τη διαδικασία ως «μια γιγαντιαία ψυχοβιολογική επιχείρηση – ένα είδος μεγα-σύνθεσης» στην οποία υπόκεινται σήμερα όλα τα σκεπτόμενα στοιχεία της Γης. Χάρη στη θετική συμβολή της τεχνολογίας, η νοόσφαιρα συγκλίνει προς ένα κέντρο σκέψης και προορίζεται να φτάσει, στο τέλος της ιστορίας, στο σημείο Ωμέγα, το οποίο ο Teilhard ταυτίζει με τον Χριστό, προσδίδοντας έτσι μια πνευματική οπτική στη νοόσφαιρα. Όσον αφορά τα εμπόδια, οι λόγοι εθνικής ασφάλειας εξηγούν γιατί τα μεγάλα κινεζικά γλωσσικά μοντέλα προστατεύονται πίσω από ψηφιακά τείχη και γιατί οι Ηνωμένες Πολιτείες περιορίζουν την πρόσβαση στα μοντέλα Opus 5 και Claude 5 της Anthropic. Χρειαζόμαστε ένα πολυμερές πλαίσιο που να εγγυάται την παγκόσμια ασφάλεια και, κατά συνέπεια, το «κοινό καλό».
Λέτε ότι ο μεγαλύτερος κίνδυνος θα ήταν μια διάσπαση της νοόσφαιρας. Αλλά δεν είναι, κατά κάποιον τρόπο, αυτή η κατάσταση της ανθρωπότητας από την εποχή της κατάρας του Πύργου της Βαβέλ; Υποστηρίζετε τη δημιουργία μιας παγκόσμιας συλλογικής ψηφιακής βιβλιοθήκης. Τι συγκεκριμένα επιθυμείτε να υλοποιήσετε;
Το χάος του Πύργου της Βαβέλ αντιστοιχεί στη θέση του πατέρα Πάολο Μπενάντι, ο οποίος υιοθετεί μια τεχνο-πεσιμιστική στάση, όπως την ανέφερε ο Πάπας Λέων στο Magnifica Humanitas. Ο Teilhard, αντίθετα, ήταν τεχνο-αισιόδοξος, όπως είδαμε, επιβεβαιώνοντας έτσι την προφητεία του Νεεμία (ο οποίος συμμετείχε στην ανοικοδόμηση των τειχών της Ιερουσαλήμ, σημ. συντ.), που επίσης αναφέρεται στην εγκύκλιο. Ο Πάπας σημειώνει ότι και τα δύο στοιχεία είναι σε δράση. Η έκκλησή μου υπέρ μιας παγκόσμιας βιβλιοθήκης της νοόσφαιρας στο διαδίκτυο αντλεί την έμπνευσή της κυρίως από την κινεζική σκέψη. Στην Κίνα, είναι ο Ουρανός που απονέμει στη Γη την ηθική και νομική εξουσία της. Η έμφαση που δίνει ο Κομφουκιανισμός στην αρετή, την ευθύνη και την αρμονία, προσφέρει όχι μόνο ένα πλαίσιο σκέψης, αλλά και μια πρόσκληση να επανεξετάσουμε σήμερα τη διακυβέρνηση της τεχνητής νοημοσύνης, την ίδια στιγμή που ο άνθρωπος αναλαμβάνει την ευθύνη για τη βιόσφαιρα, δηλαδή για το σύνολο των χερσαίων οικοσυστημάτων. Ο άνθρωπος οδηγεί τη Γη προς τον Ουρανό, προς την ολική νοόσφαιρα.
Αυτό έχει καταστεί προφανές από τότε που η τεχνολογία αξιοποιεί τα ραδιοκύματα και πλέον δημιουργεί την τεχνητή νοημοσύνη, η οποία αποτελεί μέρος της νοόσφαιρας, καθώς επεξεργάζεται το σύνολο των νοητικών περιεχομένων που υπάρχουν σε αυτόν τον «Ουρανό» τον οποίο η ανθρωπότητα αποκαλύπτει σταδιακά με την πάροδο του χρόνου. Η νοόσφαιρα, αυτός ο λόγος που διαδίδεται μέσω του διαδικτύου, θα έπρεπε να φτάνει ταυτόχρονα στους ανθρώπους σε όλες τις περιοχές του κόσμου. Προς το παρόν, απέχουμε πολύ από αυτό. Είναι εντυπωσιακό το γεγονός ότι οι Κινέζοι αρνούνται πεισματικά να μοιραστούν τα δεδομένα τους. Ωστόσο, συμμετέχω ενεργά στη συζήτηση με τους Κινέζους φιλοσόφους και διαπιστώνω ότι αυτές οι ιδέες βρίσκουν απήχηση σε αυτούς. Δεν έχω χάσει την ελπίδα μου.
Στηρίξτε το Άρδην κάνοντας μια προσφορά ΕΔΩ.
