του V. Vinge, από το Άρδην τ. 24, Μάρτιος-Απρίλιος 2000
Τί είναι η (τεχνολογική) μοναδικότητα;
Η επιτάχυνση της τεχνολογικής προόδου ήταν το κεντρικό χαρακτηριστικό αυτού του αιώνα. Υποστηρίζω σ’ αυτό το κείμενο ότι βρισκόμαστε μπροστά σε μια αλλαγή που συγκρίνεται μόνο με την εμφάνιση της ανθρώπινης ζωής στη γη. Τα επακριβή αίτια αυτής της αλλαγής είναι η επικείμενη δημιουργία, μέσω τεχνολογίας, οντοτήτων με μεγαλύτερη νοημοσύνη από τον άνθρωπο. Υπάρχουν αρκετά μέσα με τα οποία η επιστήμη μπορεί να εξασφαλίσει αυτό το επίτευγμα (και τούτο είναι ένας ακόμα λόγος σιγουριάς ότι το γεγονός αυτό θα συμβεί):
-Μπορεί να υπάρξουν “ξύπνιοι” και υπεράνθρωπα ευφυείς κομπιούτερ. (Σήμερα, υπάρχει μεγάλη διχογνωμία ως προς το εάν μπορούμε να δημιουργήσουμε το αντίστοιχο του ανθρώπου σε μια μηχανή. Αλλά εάν η απάντηση είναι “ναι, μπορούμε”, τότε ελάχιστη αμφιβολία υπάρχει ότι πολύ σύντομα μετά απ’ αυτό θα μπορούμε να κατασκευάσουμε όντα πιο ευφυή).
-Μεγάλα δίκτυα κομπιούτερ (και οι συνδεδεμένοι χρήστες τους) μπορεί να “ξυπνήσουν” σαν υπεράνθρωπα ευφυείς οντότητες.
-Η συνεπαφή (interface) κομπιούτερ και ανθρώπου μπορεί να γίνει τόσο στενή που οι χρήστες τους να θεωρούνται δικαιολογημένα πως έχουν υπερανθρώπινη ευφυία.
– Οι βιολογικές επιστήμες μπορεί να προσφέρουν τα μέσα για τη βελτίωση της ανθρώπινης ευφυίας.
Οι πρώτες τρεις πιθανότητες εξαρτώνται σε μεγάλο βαθμό από τις βελτιώσεις στο hardware των κομπιούτερ. Οι εξελίξεις στον τομέα αυτό έχουν ακολουθήσει μια εκπληκτικά σταθερή καμπύλη τις τελευταίες λίγες δεκαετίες [17], Βασιζόμενος κυρίως σ’ αυτή την τάση, πιστεύω ότι η δημιουργία νοημοσύνης μεγαλύτερης του ανθρώπου θα επισυμβεί μέσα στα επόμενα τριάντα χρόνια. (Ο Charles Piatt [20] έχει παρατηρήσει ότι οι υπέρμαχοι της Τεχνητής Νοημοσύνης το υποστηρίζουν αυτό τα τελευταία τριάντα χρόνια. Έτσι λοιπόν, εάν είμαι ένοχος ασάφειας ως προς τον χρόνο, ας γίνω πιο συγκεκριμένος: Θα εκπλαγώ εάν αυτό το γεγονός συμβεί πριν από το 2005 ή μετά το 2030).
Ποιές θα είναι οι συνέπειες αυτού του γεγονότος; Όταν μια νοημοσύνη μεγαλύτερη από την ανθρώπινη θα καθοδηγεί την πρόοδο, τότε αυτή η πρόοδος θα είναι ταχύτερη. Πράγματι, δεν υπάρχει λόγος που η ίδια αυτή πρόοδος δεν θα περιλαμβάνει τη δημιουργία και άλλων νοημόνων οντοτήτων – σε όλο και βραχύτερη χρονική κλίμακα. Η καλύτερη αναλογία που βλέπω βρίσκεται στο βιολογικό παρελθόν: Τα ζώα μπορούν να
προσαρμόζονται σε προβλήματα και να κάνουν εφευρέσεις, αλλά συνήθως όχι ταχύτερα απ’ όσο χρειάζεται η φυσική επιλογή για να κάνει τη δουλειά της – ο κόσμος λειτουργεί σαν προσομοιωτής του εαυτού του στην περίπτωση της φυσικής επιλογής. Αντίθετα, οι άνθρωποι έχουμε την ικανότητα να εσωτερικεύουμε τον κόσμο και να παίζουμε σενάρια του τύπου “τι θα συμβεί εάν” στο κεφάλι μας. Μπορούμε να λύνουμε πολλά προβλήματα χιλιάδες φορές ταχύτερα από τη φυσική επιλογή. Τώρα, δημιουργώντας τα μέσα να εκτελούμε αυτές τις προσομοιώσεις σε πολύ μεγαλύτερες ταχύτητες, μπαίνουμε σε μια περιοχή που απέχει τόσο ριζικά από το ανθρώπινο παρελθόν μας όσο απέχουμε οι άνθρωποι από τα κατώτερα ζώα.
Από την ανθρώπινη πλευρά, η αλλαγή αυτή θα συνιστά εγκατάλειψη όλων των προηγούμενων κανόνων, ίσως σε χρόνο ανοιγοκλεισίματος των ματιών, μια αχαλίνωτη εκθετική συνάρτηση πέρα από κάθε ελπίδα ελέγχου. Εξελίξεις που προηγουμένως θεωρούνταν ότι θα συμβούν σε “ένα εκατομμύριο χρόνια” (ή ποτέ) κατά πάσα πιθανότητα θα συμβούν τον επόμενο αιώνα. (Στο [5], ο Greg Bear δίνει μια εικόνα των μεγάλων αλλαγών που συμβαίνουν σε λίγες ώρες).
Νομίζω πως είναι δίκαιο να αποκαλέσουμε αυτό το γεγονός μοναδικότητα (η “Μοναδικότητα” στο πλαίσιο αυτού του κειμένου). Είναι ένα σημείο όπου τα παλιά μοντέλα μας πρέπει να πεταχτούν στον κάλαθο των αχρήστων και μια νέα πραγματικότητα να κυβερνά. Όσο πλησιάζουμε πιο κοντά σ’ αυτό το σημείο, η παρουσία του θα δεσπόζει όλο και πιο θεόρατη πάνω από τις ανθρώπινες υποθέσεις έως ότου η ιδέα γίνει κοινός τόπος. Εντούτοις, όταν τελικά συμβεί, μάλλον θα είναι μια μεγάλη έκπληξη και ένα ακόμα μεγαλύτερο άγνωστο. Ήδη από τη δεκαετία του ’50 υπήρχαν ορισμένοι που το είδαν. Ο Stan Ulam[28] αναφέρει παραφράζοντας τον John von Neumann:
Η συζήτησή μας επικεντρώθηκε στη συνεχώς επιταχυνόμενη πρόοδο στην τεχνολογία και στις αλλαγές στον τρόπο ζωής του ανθρώπου, που δίνουν την εντύπωση ότι πλησιάζουμε κάποια βασική μοναδικότητα στην ιστορία του είδους μας, πέρα από την οποία οι ανθρώπινες υποθέσεις, όπως τις ξέρουμε, δεν μπορούν να συνεχιστούν.
Ο von Neumann φτάνει να χρησιμοποιεί τον όρο μοναδικότητα, αν και φαίνεται να έχει κατά νου φυσικές διαδικασίες και όχι τη δημιουργία υπερανθρώπινης νοημοσύνης. (Για μένα, το υπερανθρώπινο είναι η ουσία της Μοναδικότητας. Χωρίς αυτό το στοιχείο θα χορταίναμε τεχνικά πλούτη χωρίς ποτέ να τα αφομοιώνουμε σωστά. Βλ. [25]).
Τη δεκαετία του ’60 υπήρξε αναγνώριση μερικών από τις επιπτώσεις της υπερανθρώπινης νοημοσύνης. Ο I.J.Good έγραφε[11]:
Ας ορίσουμε μια υπερνοήμονα μηχανή ως τη μηχανή που μπορεί να ξεπεράσει όλες τις διανοητικές λειτουργίες οποιουδήποτε ανθρώπου όσο ευφυής και αν είναι. Εφ’ όσον ο σχεδιασμός μηχανών είναι μια από τις διανοητικές αυτές λειτουργίες, μια υπερνοήμωνμηχανή θα μπορεί να σχεδιάσει ακόμα καλύτερες μηχανές. Και θα μπορούσε τότε αναμφίβολα να συμβεί μια “έκρηξη νοημοσύνης” και η νοημοσύνη του ανθρώπου θα έμενε πολύ πίσω. Έτσι, η πρώτη υπερνοήμων μηχανή θα είναι η τελευταία εφεύρεση που θα κάνει ποτέ ο άνθρωπος, υπό τον όρο ότι η μηχανή θα είναι αρκετά υπάκουη για να μας πει πώς να την κρατήσουμε υπό έλεγχο. Το πιθανότερο είναι ότι, μέσα στον εικοστό αιώνα, θα κατασκευαστεί μια υπερνοήμων μηχανή και αυτή θα είναι η τελευταία εφεύρεση που θα χρειαστεί να κάνει ο άνθρωπος,
Ο Good έχει συλλάβει την ουσία της αχαλίνωτης νοημοσύνης, αλλά δεν εξετάζει τις πιο ανησυχητικές συνέπειες της. Καμιά νοήμων μηχανή του είδους που περιγράφει δεν θα μπορούσε να είναι “εργαλείο” της ανθρωπότητας — όπως σι άνθρωποι δεν είναι εργαλεία των κουνελιών ή των σπουργιτιών ή των χιμπατζήδων.
Από τη δεκαετία του ’60 έως τη δεκαετία του ’80, η αναγνώριση αυτού του κατακλυσμού εξαπλώθηκε [29], [1 ], [31 ], [5]. Ίσως ήταν οι συγγραφείς επιστημονικής φαντασίας αυτοί που ένιωσαν τον πρώτο συμπαγή αντίκτυπο. Στο κάτω-κάτω της γραφής, οι συγγραφείς “σκληρής” επιστημονικής φαντασίας είναι εκείνοι που προσπαθούν να γράψουν συγκεκριμένες ιστορίες για όλα όσα μπορεί να κάνει για μας η τεχνολογία. Όλο και περισσότερο, οι συγγραφείς αυτοί ένιωθαν να κρύβει το μέλλον ένας αδιαπέραστος τοίχος. Κάποτε, μπορούσαν να τοποθετούν τέτοιες φαντασίες εκατομμύρια χρόνια στο μέλλον [24]. Τώρα βλέπουν ότι ακόμα και οι πιο φιλότιμες προβολές τους καταλήγουν στο άγνωστο… σύντομα. Κάποτε, οι γαλαξιακές αυτοκρατορίες μπορούσαν να μοιάζουν με μετανθρώπινα βασίλεια. Τώρα, δυστυχώς, ακόμα και οι διαπλανητικές είναι με-τανθρώπινες.
Και τί να πούμε για τις δεκαετίες του ’90, του ‘00 και του 10, καθώς γλιστράμε προς την άκρη του γκρεμού; Πώς θα διεισδύσει στην ανθρώπινη θεώρηση του κόσμου η επέλευση της Μοναδικότητας; Για λίγα χρόνια ακόμα, οι γενικοί επικριτές της μηχανικής νοημοσύνης θα έχουν καλή δημοσιότητα. Στο κάτω-κάτω, μέχρι να έχουμε hardware εξίσου ισχυρό με τον ανθρώπινο εγκέφαλο, είναι μάλλον ανόητο να σκεφτόμαστε ότι μπορούμε να δημιουργήσουμε νοημοσύνη αντίστοιχη (ή μεγαλύτερη) του ανθρώπου. (Υπάρχει η απόμακρη πιθανότητα ότι θα μπορούσαμε να κατασκευάσουμε κάτι ανάλογο του ανθρώπου με λιγότερο ισχυρό hardware, εάν θα είμαστε πρόθυμοι να εγκαταλείψουμε την ταχύτητα, εάν δηλαδή θα θέλαμε να συμβιβαστούμε με ένα τεχνητό ον που θα ήταν κυριολεκτικά αργό [30], Αλλά είναι πολύ πιθανότερο ότι η κατάστρωση του λογισμικού θα είναι περίπλοκη διαδικασία, με λάθος ξεκινήματα και πολλούς πειραματισμούς. Εάν όντως έτσι έχουν τα πράγματα, τότε η έλευση των συνειδητών μηχανών δεν θα συμβεί παρά μόνο μετά την ανάπτυξη hardware που θα είναι αξιόλογα πιο ισχυρό από τον φυσικό εξοπλισμό του ανθρώπου).
Αλλά όσο περνάει ο καιρός, θα βλέπουμε περισσότερα συμπτώματα. Το δίλημμα που ένιωσαν οι συγγραφείς επιστημονικής φαντασίας θα γίνει αντιληπτό και σε άλλες δημιουργικές ενασχολήσεις. (Έχω ακούσει σοβαρούς συγγραφείς βιβλίων κόμικ να ανησυχούν για το πώς θα είναι δυνατό να έχουν εντυπωσιακά εφέ όταν οτιδήποτε ορατό μπορεί να παραχθεί από καθημερινές πια τεχνολογίες). 0α δούμε τον αυτοματισμό να υποκαθιστά δουλειές όλο και πιο υψηλού επιπέδου. Έχουμε ήδη στα χέρια μας εργαλεία (προγράμματα συμβολικών μαθηματικών και προγράμματα σχεδιασμού και μοντελοποίησης) που μας απελευθερώνουν από τις πιο ταπεινές χαμαλοδουλειές.Ή, για να το θέσω με άλλο τρόπο, η δουλειά που είναι πραγματικά παραγωγική είναι ο χώρος μιας σταθερά όλο και μικρότερης ελίτ της ανθρωπότητας. Στην έλευση της Μοναδικότητας βλέπουμε να γίνεται τελικά πραγματικότητα η πρόβλεψη μιας αληθινής τεχνολογικής ανεργίας.
Ένα άλλο σύμπτωμα του ότι προχωράμε προς τη Μοναδικότητα: Οι ιδέες οι ίδιες εξαπλώνονται πολύ ταχύτερα, αλλά ακόμα και οι πιο ριζοσπαστικές σύντομα γίνονται κοινοτοπίες. Όταν άρχισα να γράφω επιστημονική φαντασία στα μέσα της δεκαετίας του ’60, φαινόταν πολύ εύκολο να βρεις ιδέες που χρειάζονταν δεκαετίες για να διεισδύσουν στη συνείδηση της κοινωνίας. Τώρα ο χρόνος προπόρευσης φαίνεται να είναι μάλλον δεκαοκτώ μήνες. (Βεβαίως, αυτό θα μπορούσε απλώς να οφείλεται στο γεγονός ότι χάνω τη φαντασία μου όσο γερνάω, αλλά βλέπω να γίνεται το ίδιο και με άλλους). Όπως το σοκ σε ένα συμπιεστό ρευστό, η Μοναδικότητα έρχεται πιο κοντά μας καθώς η επιτάχυνση μας υπερβαίνει την κρίσιμη ταχύτητα.
Και τί γίνεται με την έλευση της ίδιας της Μοναδικότητας; Τί μπορούμε να πούμε για την ίδια της την εμφάνιση; Εφ’ όσον περιλαμβάνει μια αχαλίνωτη νοημοσύνη, κατά πάσα πιθανότητα θα συμβεί ταχύτερα από οποιαδήποτε τεχνική επανάσταση μέχρι σήμερα. Το αιφνίδιο γεγονός μάλλον θα συμβεί αναπάντεχα – ίσως ακόμα και για τους ίδιους τους ερευνητές του. Εάν η δικτύωση είναι αρκετά εκτεταμένη, θα φανεί σα να ξύπνησαν ξαφνικά όλα μας τα επινοήματα.
Και τί θα συμβεί ένα ή δύο μήνες (ή μια ή δύο μέρες) μετά απ’ αυτό; Το μόνο που μπορώ να δείξω είναι μια αναλογία: Την εμφάνιση της ανθρωπότητας. Θα βρεθούμε στην μεταν-θρώπινη περίοδο. Και παρά την έξαλλη τεχνολογική μου αισιοδοξία, kou.: φορά σκέφτομαι ότι θα ήταν πολυ καλύτερο να έβλεπα τα υπερβατικό αυτά γεγονότα απ’ την απόσταση χιλίων χρόνων και όχι τριάντα.
Μπορεί να αποφευχθεί η Μοναδικότητα:
Ε, λοιπόν, μπορεί και να μη συμβεί καθόλου… Καμιά φορά προσπαθώ να φανταστώ τα συμπτώματα που θα έπρεπε να αναμένουμε εάν δεν εμφανιστεί η Μοναδικότητα. Υπάρχουν τα ευρέως αποδεκτά επιχειρήματα του Penrose[19] και του Searle[22] εναντίον της πιθανότητας της μηχανικής νοημοσύνης. Τον Αύγουστο του 1992, η Thinking Machines Corporation διοργάνωσε ένα συνέδριο για να εξεταστεί το ερώτημα “Πώς θα κατασκευάσουμε μια μηχανή που σκέφτεται”[27]. Όπως θα υποθέσατε από τον τίτλο του συνεδρίου, οι συμμετέχοντες δεν ήταν υποστηρικτές των επιχειρημάτων εναντίον της μηχανικής νοημοσύνης. Μάλιστα, υπήρχε η γενική συμφωνία ότι νους μπορεί να υπάρχει και σε μη-βιολογικα υποστρώματα και ότι οι αλγόριθμο, είναι αυτοί που έχουν κεντρική σημασία για την ύπαρξή του. Υπήρξαν εντούτοις πολλές διαφωνίες ως προς το πόση καθαρή υπολογιστική δύναμη υπάρχει στους βιολογικούς εγκεφάλους. Μια μειοψηφία πίστευε ότι οι μεγαλύτεροι κομπιούτερ του 1992 βρίσκονταν σε απόσταση τριών τάξεων μεγέθους από τη δύναμη του ανθρώπινου εγκεφάλου. Η πλειοψηφία όμως των παρόντων συμφωνούσε με την εκτίμηση του Moravec[17] ότι απέχουμε δέκα έως σαράντα χρόνια από μια υπολογιστική ισοτιμία. Αλλα υπήρχε και μια ακόμα μειοψηφία που ανέφερε τους Conrad[7] και Rasmussen[21] και πιθανολογούσε ο~ -υπολογιστική ικανότητα των μεμονωμένων νευρώνων μπορεί να είναι κατά πολύ μεγαλύτερη απ’ ό,τι γεν · ι πιστεύεται. Αν συμβαίνει αυτο. η υπολογιστική δύναμη των σημερινών κομπιούτερ μπορεί να απέχει με>.: και δέκα τάξεις μεγέθους από τον εξοπλισμό που κουβαλάμε στο κέφι· μας. Αν αυτό αληθεύει (ή, πράγμα γ:. οδηγεί στο ίδιο σημείο, αν η κριτκ1” του Penrose ή του Searle είναι βασιμη), μπορεί να μην δούμε ποτέ τη Μοναδικότητα. Αντίθετα στις αρχές της δεκαετίας του 2000 θα διαπιστώσουμε ότι η καμπύλη απόδοσης των κομπιούτερ μας αρχίζει να γίνεται επίπεδη – κι αυτό λόγω της αδυναμίας μας να αυτοματοποιήσουμε τη σχεδιαστική εργασία που χρειάζεται για την υποστήριξη περαιτέρω βελτιώσεων στα μηχανήματα. 0α καταλήξουμε με κάποιο πολύ δυνατό hardware, αλλά χωρίς την ικανότητα να πάμε παραπέρα. Η εμπορική ψηφιακή επεξεργασία σημάτων μπορεί να είναι τρομερή και να φτάνει να δίνει ακόμα και την εντύπωση αναλογικών λειτουργιών στις ψηφιακές, αλλά τίποτα δεν θα “ξυπνήσει” ποτέ και δεν θα υπάρξει ποτέ η αχαλίνωτη νοημοσύνη που είναι η ουσία της Μοναδικότητας. Μπορεί να φαίνεται σαν ένας Χρυσός Αιώνας, αλλά θα είναι και το τέλος της προόδου. Αυτό μοιάζει πολύ με το μέλλον που έχει προβλέψει ο Gunther Stent. Μάλιστα, στη σελίδα 137 του [25], ο Stent ρητά αναφέρει την ανάπτυξη της μετανθρώπινης νοημοσύνης σαν αναγκαία συνθήκη για την ακύρωση των προβλέψεών του.
Αλλά εάν η τεχνολογική Μοναδικότητα μπορεί να συμβεί, τότε θα συμβεί. Ακόμα και αν όλες οι κυβερνήσεις του κόσμου μπορούσαν να καταλάβουν την “απειλή”, ακόμα και αν είχαν θανάσιμο φόβο γι’ αυτή, η πρόοδος προς αυτό το σκοπό θα συνεχιζόταν. Στη λογοτεχνία έχουν υπάρξει ιστορίες νόμων που απαγορεύουν την κατασκευή “μηχανών που μοιάζουν με τον ανθρώπινο νου”[13]. Στην πραγματικότητα, τα ανταγωνιστικά οφέλη – οικονομικά, στρατιωτικά, ακόμα και καλλιτεχνικά- κάθε προόδου στον αυτοματισμό είναι τόσο πειθαναγκαστικά που η ψήφιση νόμων ή η ύπαρξη εθίμων που απαγορεύουν τέτοια πράγματα απλώς κάνει βέβαιο ότι κάποιος άλλος θα τα αποκτήσει πρώτος.
Ο Eric Drexler[8] μας έχει προσφέρει μια εντυπωσιακή ενόραση για το πόσο μακριά μπορούν να φτάσουν οι τεχνικές εξελίξεις. Υποστηρίζει ότι όντα με υπερανθρώπινη νοημοσύνη θα υπάρξουν στο κοντινό μέλλον και ότι τέτοια όντα αποτελούν απειλή για το ανθρώπινο status quo. Αλλά ο Drexler ισχυρίζεται ότι μπορούμε να περιορίσουμε τέτοια όντα ούτως ώστε οι συνέπειές τους να μπορούν να εξεταστούν και να χρησιμοποιηθούν με ασφάλεια. Πρόκειται για την υπερνοήμονα μηχανή του I. J. Good, με μια δόση επιφυλακτικότητας. Εγώ υποστηρίζω ότι ο περιορισμός αυτός είναι πρακτικά ανέφικτος. Ας πάρουμε την περίπτωση του φυσικού περιορισμού: Φαντασθείτε τον εαυτό σας κλειδωμένο στο σπίτι με περιορισμένη μόνο πρόσβαση στα δεδομένα του εξωτερικού κόσμου, τους αφέντες σας. Αν οι αφέντες αυτοί σκέφτονται, ας πούμε, ένα εκατομμύριο φορές βραδύτερα από εσάς, πολύ μικρή αμφιβολία υπάρχει ότι με την πάροδο μερικών ετών (δικών σας) θα καταλήγατε σε μερικές “χρήσιμες συμβουλές” που θα σας απελευθέρωναν.
Μια άλλη προσέγγιση στον περιορισμό είναι να χτίσεις κανόνες στον νου της δημιουργημένης υπερανθρώπινης οντότητας (παραδείγματος χάρη, οι νόμοι του Ασίμωφ[3]). Πιστεύω όμως ότι οποιοιδήποτε κανόνες, αρκετά αυστηροί για είναι αποτελεσματικοί, θα οδηγήσουν σε ένα επινόημα που η ικανότητά του θα είναι φανερά κατώτερη από την αδέσμευτη έκδοσή του (και γι’ αυτό ο ανθρώπινος ανταγωνισμός θα προτιμήσει την ανάπτυξη των πιο επικίνδυνων μοντέλων). Παρ’ όλα αυτά, το όνειρο του Ασίμωφ είναι υπέροχο: Φαντασθείτε έναν εθελοντή σκλάβο που θα μπορούσε να ικανοποιεί κάθε ασφαλή επιθυμία σας (οτιδήποτε και αν σημαίνει αυτό) και παρ’ όλα αυτά να έχει το 99,9% του χρόνου του ελεύθερο για άλλες δραστηριότητες. Θα επρόκειτο για ένα νέο σύμπαν, το οποίο στην πραγματικότητα δεν θα το καταλαβαίναμε, αλλά θα ήταν γεμάτο καλοκάγαθους θεούς.
Αν η Μοναδικότητα δεν μπορεί να προληφθεί ή να περιοριστεί, τότε πόσο άσχημη θα μπορούσε να είναι η μετανθρώπινη περίοδος; Μάλλον πολύ άσχημη. Η φυσική εξαφάνιση του ανθρώπινου είδους είναι μια πιθανότητα. (Ή όπως το θέτει για τη νανο-τεχνολογία ο Eric Drexler: Με δεδομένο το τι μπορεί να κάνει μια τέτοια τεχνολογία, ίσως οι κυβερνήσεις να αποφασίσουν απλώς ότι δεν χρειάζονται πια πολίτες!) Εντούτοις, η φυσική εξάλειψη μπορεί να μην είναι η πιο τρομαχτική πιθανότητα. Ας κάνουμε αναλογίες πάλι: Σκεφθείτε τις ποικίλες μορφές της σχέσης μας με τα ζώα. Μερικές από τις πιο σκληρές μορφές κακομεταχείρισης φαίνονται απίθανες, αλλά παρ’ όλα αυτά… Σε έναν μετανθρώπινο κόσμο, θα υπάρχουν ακόμα πολλές γωνιές όπου ο ανάλογος του ανθρώπου αυτοματισμός θα είναι επιθυμητός: Ενσωματωμένα συστήματα σε αυτόματα επινοήματα, δαίμονες με αυτοσυνείδηση στις κατώτερες λειτουργίες ευρύτερων νοημόνων όντων. (Μια ισχυρά υπερανθρώπινη νοημοσύνη θα ήταν κατά πάσα πιθανότητα μια Κοινωνία του Νου [16] με μερικά πολύ ικανά συστατικά). Μερικά από αυτά τα ανάλογα του ανθρώπου στοιχεία δεν θα μπορούσαν να χρησιμοποιούνται για τίποτα περισσότερο από ψηφιακή επεξεργασία σημάτων. 0α ήταν περισσότερο σαν φάλαινες παρά σαν άνθρωποι. Αλλα θα μπορούσαν να μοιάζουν πολύ με τον άνθρωπο, αλλά θα ήταν μονόπλευρα, με μια αφοσίωση που σήμερα θα τα έστελνε στο ψυχιατρείο της περιοχής σας. Αν και κανένα από αυτά τα πλάσματα, μάλλον, δεν θα ήταν άνθρωποι από σάρκα και οστά, στο νέο αυτό περιβάλλον θα ήταν το πλησιέστερο ο’ αυτό που αποκαλούμε άνθρωπο σήμερα. (Ο I. J. Good έχει κάτι να πει γι’ αυτό, αν και τώρα πια η συμβουλή του ακούγεται ακαδημαϊκή. Ο Good έχει προτείνει τον “Μετα-Χρυσό Κανόνα” [12], που θα μπορούσαμε να τον παραφράσουμε ως εξής: “Μεταχειρίσου τους κατωτέρους σου όπως θα ήθελες να σε μεταχειρίζονται οι ανώτεροι σου”. Πρόκειται για μια υπέροχη παραδοξολογία, που οι περισσότεροι φίλοι μου δεν την πιστεύουν, ακριβώς επειδή τα αποτελέσματα της θεωρίας των παιγνίων είναι τόσο δύσκολο να διατυπωθούν. Αν μπορούσαμε όμως να ακολουθήσουμε αυτό τον κανόνα, κατά κάποιο τρόπο αυτό θα έλεγε κάτι για την αληθοφάνεια μιας τέτοιας καλοσύνης σ’ αυτό το σύμπαν).
Υποστήριξα παραπάνω ότι δεν μπορούμε να αποτρέψουμε τη Μοναδικότητα, ότι η έλευσή της είναι μια αναπόφευκτη συνέπεια της φυσικής ανταγωνιστικότητας του ανθρώπου και των δυνατοτήτων που είναι εγγενείς στην τεχνολογία. Παρ’ όλα αυτά, εμείς είμαστε οι υποκινητές της. Ακόμα και η μεγαλύτερη χιονοστιβάδα πυροδοτείται από μικρά πράγματα. Έχουμε την ελευθερία να επιβάλουμε τις αρχικές συνθήκες, να κάνουμε τα πράγματα να συμβούν με τρόπους λιγότερο επικίνδυνους από άλλους. Βεβαίως, όπως συμβαίνει με το ξεκίνημα της χιονοστιβάδας, μπορεί να μην είναι σαφές το ποιο είναι το σωστό εναρκτήριο λάκτισμα.
Αλλοι δρόμοι για τη Μοναδικότητα: Ενισχυμένη Νοημοσύνη
Όταν οι άνθρωποι μιλάνε για τη δημιουργία υπερανθρώπινα νοημόνων όντων, φαντάζονται συνήθως ένα πρόγραμμα Τεχνητής Νοημοσύνης. Αλλά, όπως σημείωσα στην αρχή αυτού του κειμένου, υπάρχουν και άλλοι δρόμοι για την υπερανθρωπότητα. Τα δίκτυα κομπιούτερ και οι συνεπαφές ανθρώπου-κομπιούτερ φαίνονται πιο γήινα πράγματα από την Τεχνητή Νοημοσύνη, αλλά παρ’ όλα αυτά θα μπορούσαν να οδηγήσουν στη Μοναδικότητα. Αποκαλώ την αντιθετική αυτή προσέγγιση Ενισχυμένη Νοημοσύνη. Πρόκειται για κάτι που αναπτύσσεται πολύ φυσιολογικά και στις περισσότερες περιπτώσεις ούτε καν αυτοί που το αναπτύσσουν δεν καταλαβαίνουν τι είναι. Αλλά κάθε φορά που η ικανότητά μας να βρίσκουμε πληροφορίες και να επικοινωνούμε με τους άλλους βελτιώνεται, κατά κάποιον τρόπο έχουμε εξασφαλίσει μια αύξηση της φυσικής μας νοημοσύνης. Ακόμα και σήμερα, ένα team από έναν άνθρωπο με διδακτορικό και έναν καλό κομπιούτερ (έστω και εκτός δικτύου!) θα μπορούσε πιθανότατα να περάσει εξ ολοκλήρου οποιοδήποτε από τα τεστ νοημοσύνης που έχουν καταστρωθεί μέχρι τώρα.
Και είναι πολύ πιθανό ότι η Ενισχυμένη Νοημοσύνη είναι ένας πολύ ευκολότερος δρόμος από την Τεχνητή Νοημοσύνη για την επίτευξη της υπερανθρωπότητας. Στους ανθρώπους, τα δυσκολότερα προβλήματα ανάπτυξης είναι ήδη λυμένα. Η οικοδόμηση μέσα από τον εαυτό μας μάλλον είναι ευκολότερη από το να βρούμε πρώτα το τι πραγματικά είμαστε και ύστερα να κατασκευάσουμε μηχανές που θα το φέρουν. Υπάρχει τουλάχιστον και ένα πιθανολογικό προηγούμενο σ’ αυτή την προσέγγιση. Ο Cairns-Smith[6] εικάζει ότι η βιολογική ζωή ίσως ξεκίνησε σαν παρελκόμενο σε μια ακόμα πιο πρωτόγονη μορφή ζωής που βασιζόταν σε κρυσταλλικές συνθέσεις. Η Lynn Margulis (στο [15] και αλλού) έχει υποστηρίξει με ισχυρά επιχειρήματα ότι η αμοιβαιότητα είναι μια μεγάλη κινητήρια δύναμη στη βιολογία.
Ας σημειωθεί ότι δεν προτείνω να αγνοηθεί η έρευνα για την Τεχνητή Νοημοσύνη ή να περιοριστεί η χρηματοδότηση της. Ό,τι ανακαλύπτεται για την Τεχνητή Νοημοσύνη, πολλές φορές θα έχει εφαρμογή και στην Ενισχυμένη Νοημοσύνη και το αντίστροφο. Αυτό που συνιστώ είναι να αναγνωρίσουμε ότι στην έρευνα για δίκτυα και συνεπαφές υπάρχει κάτι εξίσου σημαντικό (και δυνητικά ανεξέλεγκτο) με την Τεχνητή Νοημοσύνη. Με τη σκέψη αυτή, πρέπει να δώσουμε προσοχή σε προγράμματα που δεν έχουν άμεση εφαρμογή στο συμβατικό έργο σχεδιασμού δικτύων και συνεπαφών, αλλά που μας βοηθούν να προχωρήσουμε προς τη Μοναδικότητα ακολουθώντας τον δρόμο της Ενισχυμένης Νοημοσύνης.
Ιδού μερικά πιθανά προγράμματα που αποκτούν ιδιαίτερη σημασία αν τα δούμε υπό το φως της Ενισχυμένης Νοημοσύνης:
– Αυτοματισμός ομάδων ανθρώπων-κομπιούτερ: Ας πάρουμε προβλήματα που κανονικά αντιμετωπίζονται μόνο με μηχανές κι ας σχεδιάσουμε προγράμματα και συνεπαφές που εκμεταλλεύονται την ανθρώπινη έμπνευση και το υπάρχον hardware κομπιούτερ. Κατ’ αυτό τον τρόπο θα δημιουργηθούν αρκετά πολύ ενδιαφέροντα εργαλεία παρουσίασης και ελέγχου για τα ανθρώπινα μέλη των ομάδων.
– Ανάπτυξη της συμβίωσης ανθρώπου και κομπιούτερ στην τέχνη: Μπορούμε να συνδυάσουμε τις γραφικές ικανότητες των μοντέρνων μηχανών με την ανθρώπινη αισθητική και ευαισθησία. Βεβαίως, ήδη έχει πραγματοποιηθεί ένας τεράστιος όγκος έρευνας για τον σχεδιασμό βοηθημάτων κομπιούτερ για καλλιτέχνες, προς εξοικονόμηση χρόνου. Αυτό που συνιστώ είναι να επιδιώξουμε ρητά τον μεγαλύτερο συνδυασμό των εκατέρωθεν ικανοτήτων, να αναγνωρίσουμε ρητά ότι είναι δυνατή αυτή η προσέγγιση συνεργασίας. 0 Karl Sims[23] έχει ήδη κάνει έξοχη δουλειά προς αυτή την κατεύθυνση.
– Να επιτρέψουμε team ανθρώπου-κομπιούτερ σε αγώνες σκακιού: Έχουμε ήδη προγράμματα που μπορούν να παίζουν καλύτερα από οποιονδήποτε σχεδόν άνθρωπο. Αλλά πόση δουλειά έχει γίνει για το πώς αυτή η δύναμη θα μπορούσε να χρησιμοποιηθεί από τον άνθρωπο, για να βγει κάτι ακόμα καλύτερο; Αν επιτραπούν τέτοια team σε μερικούς τουλάχιστον αγώνες σκακιού, θα έχουν για την έρευνα της Ενισχυμένης Νοημοσύνης τον ίδιο θετικό αντίκτυπο που είχε για την Τεχνητή Νοημοσύνη η συμμετοχή κομπιούτερ σε τέτοιους αγώνες.
– Ανάπτυξη συνεπαφών που επιτρέπουν πρόσβαση σε κομπιούτερ και δίκτυα χωρίς να απαιτείται να καθηλώνεται ο άνθρωπος σε ένα σημείο, καθισμένος μπροστά από ένα κομπιούτερ.
– Ανάπτυξη πιο συμμετρικών συστημάτων υποστήριξης αποφάσεων: Μια πολύ δημοφιλής περιοχή έρευνας / προϊόντων τα τελευταία χρόνια είναι τα συστήματα υποστήριξης αποφάσεων. Πρόκειται για μια μορφή Ενισχυμένης Νοημοσύνης, αλλά μάλλον επικεντρώνεται σε συστήματα που είναι χρησμοδοτικά. Στον ίδιο βαθμό που το πρόγραμμα δίνει στον χρήστη πληροφορίες, θα πρέπει να προωθηθεί και η ιδέα να δίνει και ο χρήστης καθοδήγηση στο πρόγραμμα.
– Χρήση τοπικών δικτύων για τη δημιουργία ανθρώπινων ομάδων που πραγματικά αποδίδουν (δηλαδή, είναι πιο αποτελεσματικές από το άθροισμα των μεμονωμένων μελών τους). Πρόκειται βέβαια για την περιοχή που αποκαλούμε “groupware’ ένα τομέα ήδη πολύ δημοφιλή από εμπορικής πλευράς. Η νέα αντίληψη εδώ θα πρέπει να βλέπει την ομαδική δραστηριότητα σαν ένα συνδυασμένο οργανισμό. Κατά μια έννοια, η υπόδειξη αυτή θα πρέπει να θεωρηθεί πως συνιστά τη διατύπωση μιας “Ημερήσιας Διάταξης” για τέτοιες συνδυασμένες δραστηριότητες. Παραδείγματος χάρη, η εστίαση της ομάδας θα μπορεί να διατηρείται ευκολότερα απ’ ό,τι στις κλασικές συσκέψεις. Η ειδικευμένη ικανότητα των επιμέρους μελών της ομάδας θα είναι δυνατόν να αποδεσμεύεται από ζητήματα εγωισμού ούτως ώστε η συνεισφορά των διάφορων μελών να εστιάζεται στο αντικείμενο της ομάδας. Και βεβαίως οι κοινές βάσεις δεδομένων θα μπορούν να χρησιμοποιούνται πιο εύκολα απ’ ό,τι στη λειτουργία συμβατικών επιτροπών.
– Εκμετάλλευση του παγκόσμιου Διαδικτύου σαν εργαλείο συνδυασμού ανθρώπου και μηχανής. Σε σχέση με τα υπόλοιπα θέματα αυτού του καταλόγου, η πρόοδος στο Internet είναι ταχύτατη και μπορεί να μας οδηγήσει στη Μοναδικότητα πριν από οτιδήποτε άλλο. Η δύναμη και η επιρροή ακόμα και του σημερινού Internet υποτιμάται πολύ. Παραδείγματος χάρη, πιστεύω ότι τα σημερινά συστήματά κομπιούτερ θα είχαν καταρρεύσει υπό το βάρος της ίδιας τους της πολυπλοκότητας αν δεν υπήρχε το πλεονέκτημα που προσφέρει ο “ομαδικός 5 νους” του USENET στους διαχειριστές συστημάτων και στους τεχνικούς της υποστήριξης. Η ίδια η αναρχία της ανάπτυξης του παγκόσμιου δικτύου είναι απόδειξη των δυνατοτήτων του. Όσο η δυνατότητα διασύνδεσης, το μέγεθος των αρχείων και η ταχύτητα των κομπιούτερ αυξάνονται, βλέπουμε κάτι σαν την αντίληψη της Lynn Margulis[15 ] για τη βιόσφαιρα ως επεξεργαστή δεδομένων, αλλά ένα εκατομμύριο φορές ταχύτερο και με εκατομμύρια νοήμονες φορείς (εμάς τους ίδιους).
Τα παραπάνω παραδείγματα εικονογραφούν μια έρευνα που μπορεί να γίνει μέσα στο πλαίσιο των σημερινών σχολών της επιστήμης των κομπιούτερ. Υπάρχουν όμως και άλλα παραδείγματα. Λόγου χάρη, ένα μεγάλο μέρος της έρευνας για την Τεχνητή Νοημοσύνη και τα νευρικά δίκτυα θα μπορούσε να ωφεληθεί από τη στενότερη σχέση με τις βιολογικές επιστήμες. Αντί να προσπαθεί απλά να μοντελοποιήσει και να καταλάβει τη βιολογική ζωή μέσω των κομπιούτερ, η έρευνα θα μπορούσε να στραφεί στη δημιουργία σύνθετων συστημάτων που βασίζονται στη βιολογική ζωή για καθοδήγηση ή εξασφάλιση χαρακτηριστικών που δεν τα κατανοούμε καλά ακόμα, για εφαρμογή στο hardware. Ένα παλιό όνειρο της επιστημονικής φαντασίας ήταν η άμεση συνεπαφή του ανθρώπινου εγκεφάλου με τον κομπιούτερ[2], [29]. Ήδη υπάρχει χειροπιαστή δουλειά που μπορεί να γίνει (και γίνεται) στον τομέα αυτό:
– Τα τεχνητά μέλη είναι ένα θέμα με άμεση εμπορική εφαρμογή. Ήδη μπορούν να κατασκευαστούν διατάξεις μετατροπής νεύρων προς πυρί-τιο[14]. Πρόκειται για ένα εντυπωσιακό και άμεσο βήμα προς την άμεση επικοινωνία.
– Οι κατευθείαν σύνδεσμοι στον εγκέφαλο φαίνονται εφικτοί, εάν η ροή δεδομένων είναι χαμηλή. Με δεδομένη την ανθρώπινη προσαρμοστικότητα στη μάθηση, ίσως δεν θα χρειάζεται να εντοπίζονται επακριβώς οι κατάλληλοι νευρώνες. Ακόμα και 100 bits το δευτερόλεπτο θα είναι πολύ χρήσιμα στα θύματα των εγκεφαλικών, τα οποία διαφορετικά θα παρέμεναν καθηλωμένα σε συνεπαφές βασισμένες σε μενού.
– Η διασύνδεση με το οπτικό νεύρο έχει τη δυνατότητα για εύρος φάσματος 1 Mbit/δευτερόλεπτο περίπου. Αλλά για να γίνει αυτό, θα χρειαστεί να ξέρουμε τη λεπτεπίλεπτη αρχιτεκτονική της όρασης και να τοποθετούμε ένα πελώριο δίκτυο ηλεκτροδίων με απόλυτη ακρίβεια. Εάν θέλουμε η ευρέος φάσματος σύνδεση μας να είναι επιπρόσθετη στους διαύλους που υπάρχουν ήδη στον εγκέφαλο, το πρόβλημα γίνεται πολύ πιο δυσεπίλυτο. Η απλή προσαρμογή ενός πλέγματος δεκτών ευρέος φάσματος στον εγκέφαλο σίγουρα δεν έχει αποτέλεσμα. Τί θα γινόταν όμως εάν αυτό το ευρέος φάσματος πλέγμα ήταν παρόν την ώρα που η δομή του εγκεφάλου διαμορφωνόταν κατά τη διάρκεια της ανάπτυξης του εμβρύου; Κι αυτό οδηγεί σε:
– Πειράματα σε έμβρυα ζώων. Δεν περιμένω οποιαδήποτε επιτυχία τα πρώτα χρόνια της έρευνας για την Ενισχυμένη Νοημοσύνη, αλλά το να δώσουμε σε αναπτυσσόμενους εγκεφάλους πρόσβαση σε πολύπλοκες προσομοιωμένες νευρικές δομές μάλλον θα είναι πολύ ενδιαφέρον για όσους μελετούν το πώς αναπτύσσεται ο εμβρυϊκός εγκέφαλος. Μακροπρόθεσμα, τέτοια πειράματα μπορεί να δώσουν ζώα με επιπλέον αισθήσεις και ενδιαφέρουσες διανοητικές ικανότητες.
Αρχικά, ήλπιζα ότι αυτή η συζήτηση για την Ενισχυμένη Νοημοσύνη θα μπορούσε να προσφέρει κάποιες φανερά ασφαλέστερες προσεγγίσεις στη Μοναδικότητα. (Στο κάτω-κάτω της γραφής, η Ενισχυμένη Νοημοσύνη επιτρέπει τη συμμετοχή μας σε ένα είδος υπερβατικότητας). Δυστυχώς, ξαναβλέποντας όλες αυτές τις προτάσεις για Ενισχυμένη Νοημοσύνη, το μόνο για το οποίο είμαι βέβαιος είναι πως πρέπει να τις σκεφτούμε, πως ενδεχομένως μας δίνουν κάποιες ευκαιρίες. Αλλά από πλευράς ασφάλειας… Δεν ξέρω, αλλά μερικές από τις υποδείξεις μου είναι λίγο τρομαχτικές από τη φύση τους. Ένας από τους φίλους που τις διάβασαν παρατήρησε ότι η Ενισχυμένη Νοημοσύνη σε άτομα δημιουργεί μια μάλλον απειλητική ελίτ. Εμείς, οι άνθρωποι, διαθέτουμε εξελικτικές αποσκευές εκατομμυρίων χρόνων κι αυτό μας κάνει να αντιμετωπίζουμε τον ανταγωνισμό υπό ένα φονικό φως. Το μεγαλύτερο μέρος αυτής της φονικότητας ίσως δεν είναι αναγκαίο στον σημερινό κόσμο, όπου ακόμα και οι ηττημένοι μαθαίνουν τα τρυκ των νικητών και εντάσσονται στο σύστημά τους. Ένα πλάσμα που θα κατασκευαζόταν de novo μάλλον θα μπορούσε να είναι πιο καλοκάγαθο από κάποιο άλλο που ο πυρήνας του βασίζεται στα νύχια και στα δόντια. Ακόμα και η “δημοκρατική” εικόνα ενός Internet που ξυπνάει μαζί με όλη την ανθρωπότητα μπορεί να ειδωθεί σαν εφιάλτης^].
Το πρόβλημα δεν είναι απλά ότι η Μοναδικότητα σηματοδοτεί την αποχώρηση της ανθρωπότητας από το κέντρο της σκηνής, αλλά ότι αντικρούει τις πιο βαθιά θεμελιωμένες αντιλήψεις μας για την ύπαρξη. Νομίζω ότι μια αναλυτικότερη ματιά στην έννοια της ισχυρής υπερανθρωπότητας μπορεί να μας δείξει το γιατί.
Η ισχυρή υπερανθρωπότητα και το καλύτερο που μπορούμε να ελπίσουμε
Υποθέστε ότι μπορούμε να καθοδηγήσουμε τη Μοναδικότητα. Υποθέστε ότι μπορούμε να κάνουμε πραγματικότητα ακόμα και τις πιο τρελές μας ελπίδες. Τί θα θέλαμε τότε για μας; 0α θέλαμε εμείς οι ίδιοι οι άνθρωποι να γίνουμε οι διάδοχοι μας και όποια αδικία προκύψει να μπορεί να αντισταθμιστεί από τη γνώση για τις κοινές μας ρίζες. Για όσους θα παραμείνουν αναλλοίωτοι, ο στόχος θα ήταν μια ήπια και ευγενική μεταχείριση (ίσως και να δοθεί σ’ αυτούς που θα έμεναν πίσω η εντύπωση πως είναι οι αφέντες ισοδύναμων με θεούς σκλάβων), θα ήταν ένας Χρυσός Αιώνας που θα περιλάμβανε και πρόοδο (ας παραβλέψουμε προς στιγμή το φράγμα του Stent). Η αθανασία (ή τουλάχιστον μια διάρκεια ζωής ίση με τον χρόνο που θα κάναμε το σύμπαν να επιβιώνει[10],[4]) θα μπορούσε να εξασφαλιστεί.
Αλλά σ’ αυτό τον λαμπρό και υπέροχο κόσμο, τα ίδια τα φιλοσοφικά προβλήματα γίνονται τρομακτικά. Ένας νους που διατηρεί ίδια την ικανότητα του δεν μπορεί να ζει για πάντα. Ύστερα από λίγες χιλιάδες χρόνια θα έμοιαζε μάλλον με κασέτα που παίζει συνεχώς τα ίδια και τα ίδια παρά με πρόσωπο. (Η πιο ανατριχιαστική εικόνα που έχω δει γι’ αυτό βρίσκεται στο [18]). Για να ζήσει επ’ άπειρον, ο νους πρέπει να αναπτύσσεται. Και όταν γίνει αρκετά μεγάλος και ρίξει πίσω μια ματιά, τί συντροφικά αισθήματα μπορεί να έχει γι’ αυτό που ήταν κάποτε; Φυσικά, το μεταγενέστερο ο ν θα περιέχει εξ ολοκλήρου το αρχικό, αλλά θα είναι και κάτι πολύ πολύ περισσότερο. Έτσι, ακόμα και για το άτομο, συνεχίζουν να ισχύουν οι έννοιες του Cairns-Smith ή της Lynn Margulis για τη νέα ζωή που μεγαλώνει βαθμιαία από την παλιά.
Αυτό το “πρόβλημα” για την αθανασία προκύπτει και με πολύ πιο άμεσους τρόπους. Η έννοια του εγώ και της αυτοσυνείδησης ήταν το θεμέλιο του σκληρού ορθολογισμού των τελευταίων λίγων αιώνων. Τώρα όμως η έννοια της αυτοσυνείδησης δέχεται την επίθεση των ερευνητών της Τεχνητής Νοημοσύνης (“αυτοσυνείδηση και άλλες φρεναπάτες”). Η Ενισχυμένη Νοημοσύνη υπονομεύει την αντίληψη μας για το εγώ από μια άλλη κατεύθυνση. Ο μετά τη Μοναδικότητα κόσμος θα περιλαμβάνει διαδικτύωση εξαιρετικά ευρέος φάσματος. Το κεντρικό χαρακτηριστικό των ισχυρά υπερανθρώπινων όντων θα είναι μάλλον η ικανότητα τους να επικοινωνούν σε μια ποικιλία εύρους φάσματος, ακόμα και πέρα από τον λόγο και τη γραφή. Τί θα συμβεί όταν κομμάτια του εγώ θα μπορούν να αντιγράφονται και να συνδέονται, όταν το μέγεθος μιας αυτοσυνείδησης θα μπορεί να διευρύνεται ή να συρρικνώνεται για να ανταποκριθεί στη φύση των προβλημάτων που εξετάζονται; Όταν τα σκέφτεται αυτά κανείς, αρχίζει να νιώθει πόσο θεμελιακά αλλόκοτη και διαφορετική θα είναι η μετανθρώπινη περίοδος – άσχετα πόσο έξυπνα και ήπια θα επέλθει.
Από τη μια πλευρά, αυτό το όραμα ανταποκρίνεται στα πιο ευτυχισμένα μας όνειρα: Χρόνος χωρίς τέλος, όπου θα μπορούμε να γνωρίσουμε αληθινά ο ένας τον άλλο και να κατανοήσουμε τα πιο μεγάλα μυστήρια. Από την άλλη, μοιάζει πολύ με το σενάριο της χειρότερης έκβασης που φαντάστηκα νωρίτερα σ’ αυτό το κείμενο.
Τί μπορούμε να πούμε ότι ισχύει για όλα αυτά; Πραγματικά, πιστεύω ότι η νέα περίοδος θα είναι απλώς τόσο διαφορετική για να ταιριάζει στο κλασικό πλαίσιο του καλού και του κακού. Το πλαίσιο αυτό βασίζεται στην ιδέα απομονωμένων, αναλλοίωτων μυαλών που συνδέονται με ισχνούς συνδέσμους μικρού εύρους φάσματος. Αλλά ο μετά τη Μοναδικότητα κόσμος εντάσσεται στη μεγάλη παράδοση αλλαγής και συνεργασίας που ξεκίνησε πολύ παλιά (ίσως πριν από την έλευση της βιολογικής ζωής). Πιστεύω πως υπάρχουν ηθικές έννοιες που θα είχαν εφαρμογή σε μια τέτοια περίοδο. Η έρευνα της Ενισχυμένης Νοημοσύνης και της επικοινωνίας ευρέος φάσματος θα βοηθούσε στην κατανόησή τους. Σήμερα βλέπουμε απλώς να αχνοφέγγουν[32]. Υπάρχει ο Μετα-Χρυσός Κανόνας του Gold. Ίσως να υπάρχουν και κανόνες για τη διάκριση του εαυτού από τους άλλους βάσει του εύρους φάσματος της σύνδεσης. Και ενώ ο νους και ο εαυτός θα είναι πολύ πιο ευμετάβλητοι απ’ ό,τι στο παρελθόν, πολλά από αυτά που σεβόμαστε (γνώση, μνήμη, σκέψη) δεν θα χαθούν ποτέ. Νομίζω ότι ο Freeman Dyson έχει δίκιο όταν λέ-ει[9]: “Ο θεός είναι αυτό που γίνεται ο νους όταν διαβεί πέρα από την κλίμακα της κατανόησής μας”.
(Θα ήθελα να ευχαριστήσω τον John Carroll του Πολιτειακού Πανεπιστημίου του San Diego και τον Howard Davidson της Sun Microsystems που συζήτησαν μαζί μου την αρχική μορφή αυτού του κειμένου).
ΣΧΟΛΙΑΣΜΕΝΕ! ΠΗΓΕΣ
1. Alfve’n, Hannes, με το ψευδώνυμο Olof Johanneson, The End of Man?, Award Books, 1969 (προηγούμενη έκδοση ως “The Tale of the Big Computer”, Coward-McCann).
2. Anderson, Poul, “Kings Who Die”, March 1962, σσ. 8-36. Ανατυπώθηκε στο Seven Conquests, Poul Anderson, MacMillan Co., 1969.
3. Asimov, Isaac, “Runaround”, Astounding Science Fiction, March 1942, σ. 94. Ανατυπώθηκε στο Robot Visions, Isaac Asimov, ROC, 1990. Σ’ αυτό το βιβλίο ο Asimov περιγράφει την ανάπτυξη των ιστοριών του με ρομπότ.
4. Barrow, John D. και Frank J. Tipler, The Anthropic Cosmological Principle, Oxford University Press, 1986.
5. Bear, Greg, “Blood Music”, Analog Science Fiction – Science Fact, June, 1983. Αναπτύχθηκε στο μυθιστόρημα Blood Music, Morrow, 1985.
6. Cairns-Smith, A. G„ Seven Clues to the Origin of Life, Cambridge University Press, 1985.
7. Conrad, Michael et at., “Towards an Artificial Brain”, BioSystems, τόμος 23, σσ. 175-218,1989.
8. Drexler, Κ. Eric, Engines of Creation, Anchor Press/Doubleday, 1986.
9. Dyson, Freeman, Infinite in All Directions, Harper & Row, 1988.
10. Dyson, Freeman, “Physics and Biology in an Open Universe”, Review of Modern Physics, τόμος 51, σσ. 447-460,1979.
11. Good, I. J., “Speculations Concerning the First Ultraintelligent Machine”, στο Advances in Computers, τόμος 6, Franz L. Alt και Morris Rubinoff, επιμ., σσ. 31 -88,1965, Academic Press.
12. Good, I. J. (Βοήθεια! Δεν μπορώ να βρω την πηγή του Μετα – Χρυσού Κανόνα του Good, αν και θυμάμαι καλά ότι τον άκουσα κάποια στιγμή τη δεκαετία του ’60. Με τη βοήθεια του Internet, έχω βρει συνδέσμους σε αρκετά σχετικά ζητήματα. Οι G. Harry Stine και Andrew Haley έχουν γράψει για τον μετανόμο όπως θα μπορούσε να σχετίζεται με εξωγήινους: “How to Get along with Extraterrestrials… or Your Neighbor”, Analog Science Fact -Science Fiction, Φεβρουάριος, 1980, σσ. 39-47).
13. Herbert, Frank, Dune, Berkley Books, 1985. To μυθιστόρημα αυτό παρουσιάστηκε οε συνέχειες στο Analog Science Fiction – Science Fact τη δεκαετία του ’60.
14. Kovacs, G. Τ. A. et al., “Regeneration Microelectrode Array for Peripheral Nerve Recording and Stimulation”, IEEE Transactions on Biomedical Engineering, τόμος 39, No 9, oo. 893-902.
15. Margulis, Lynn και Dorion Sagan, Microcosmos, Four Billion Years of Evolution from Our Microbial Ancestors, Summit Books, 1986.
16. Minsky, Marvin, Society of Mind, Simon and Schuster, 1985.
17. Moravec, Hans, Mind Children, Harvard University Press, 1988.
18. Niven, Larry, “The Ethics of Madness”, If, Απρίλιος 1967, σο. 82-108. Ανατυπώθηκε στο Neutron Star, Larry Niven, Ballantine Books, 1968.
19. Penrose, Roger, The Emperor’s New
Mind, Oxford University Press, 1989.
20. Piatt, Charles, Προσωπική επικοινωνία.
21. Rasmussen, S. et al. “Computational Connectionism within Neurons: a Model of Cytoskeleta Automata Subserving Neural Networks” στο Emergent Computation, Stephanie Forrest, επιμ., σσ. 428-449, MIT Press. 1991.
22. Searle, John R., “Minds, Brains, and Programs”, στο The Behavioral and Brain Sciences, vol 3, Cambridge University Press, 1980. To δοκίμιο αυτό ανατυπώθηκε στο The Mind’s I, επιμέλεια Douglas R. Hofstadter και Dame C. Dennett, Basic Books, 1981 (όπου γίνεται η αναφορά μου). Στην ανατύπωση αυτή περιλαμβάνεται μια εξαιρετική κριτική του δοκιμίου του Searle
23. Sims, Karl, “Interactive Evolution of Dynamical Systems”, Thinking Machines Corporation, Technical Report Series (εκδόθηκε στο Toward a Practice of Autonomous Systems: Proceedings of the First European Conference on Artificial Life, Paris, MIT Press. December 1991.
24. Stapledon, Olaf, The Starmaker. Berkley Books, 1961 (πιθανότατα γράφτηκε πριν από το 1937).
25. Stent, Gunther S., The Coming of the Golden Age: A View of the End of Progress, The Natural History Press. 1969.
26. Swanwick Michael, Vacuum Flowers, παρουσιάστηκε σε συνέχειες στο Isaac Asimov’s Science Fiction Magazine, Δεκέμβριος(;) 1986 – Φεβρουάριος 1987. Επανεκδόθηκε από ία Ace Books, 1988.
27. Thearling, Kurt, “How We Will Bund a Machine that Thinks”, συνέδριο στη Thinking Machines Corporation. Αύγουστος 24-26,1992. Προσωπική επικοινωνία.
28. Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, τόμος 64. No 3. μέρος 2, Μάιος 1958, σσ. 1-49.
29. Vinge, Vernor, “Bookworm, Run Analog, Μάρτιος 1966, σσ. 8-40. Ανατυπώθηκε στο True Names and Other Dangers, Vernor Vinge, Baen Books 1987.
30. Vinge, Vernor, “True Names” Binary Star Number 5, Dell, 1981. Ανατυπώθηκε στο True Names and Other Dangers, Vernor Vinge, Baen Books 1987.
31. Vinge, Vernor, “First Word”. Oitt Ιανουάριος 1983,σ. 10.
32. Vinge, Vernor, Οα κυκλοφορησε-
*της Μαθηματικής Σχολτκ του Πολιτειακού Πανεπιστηιαου του San Diego
Μετάφραση: Σπύρος Μάνδρας
