Το παρόν κείμενο αποτελεί διακήρυξη μιας μεγάλης διακομματικής συμμαχίας, η οποία εκφράζει ανησυχίες που διαπερνούν την βάση της αμερικανικής κοινωνίας. Η πρωτοβουλία έχει ήδη εντυπωσιακή απήχηση συγκεντρώνοντας υπογραφές από προσωπικότητες και οργανώσεις σ’ ένα ρεύμα που υπερβαίνει τις διαχωριστικές γραμμές και την πόλωση που τόσο έχει ενταθεί τα τελευταία χρόνια στην Αμερική.
Μεταξύ πολλών άλλων, την διακήρυξη υπογράφουν οι Μπέρνι Σάντερς και Στηβ Μπάνον, συνδικάτα, θρησκευτικές ενώσεις, ηθοποιοί όπως ο Στήβεν Φράι, κάτοχοι Νόμπελ όπως ο Ντάρον Ατζέμογλου, αξιωματούχοι προηγούμενων αμερικανικών κυβερνήσεων, επιστήμονες διαπρέψαντες στο πεδίο της ΤΝ (όπως ο Τζέφρι Χίντον και ο Γιόσουα Μπέντζιο).
Ο ηγέτης της αριστερής πτέρυγας του Δημοκρατικού Κόμματος (Μπέρνι Σάντερς), και ο κύριος αρχιτέκτονας και ιδεολόγος του MAGA κινήματος (Στηβ Μπάνον), επίσης, θα μιλήσουν σήμερα σε μια συνδιάσκεψη στην οποία έχει καλέσει η ίδια οργάνωση, στην Ουάσιγκτον.
Την πρωτοβουλία θα πλαισιώσουν επίσης ο Αρχιεπίσκοπος του Σαν Φρανσίσκο από την Καθολική Εκκλησία (ας μην ξεχνάμε ότι μόλις τον Μάιο ο Πάπας είχε εκδώσει μια ιστορική για την ΤΝ εγκύκλιο), Ρεπουμπλικάνοι και δημοκρατικοί γερουσιαστές, ηθοποιοί, συνδικάτα όπως η AFL-CIO, η Αμερικανική Ομοσπονδία των Δασκάλων.
Τόσο η διακήρυξη, όσο και η συνδιάσκεψη έρχεται σε μια κρίσιμη για την εξέλιξη της ΤΝ στιγμή, και την φυσιογνωμία που πρόκειται αυτή να λάβει.
Από την μία επικεφαλής εταιριών όπως η OPEN AI και η Anthropic τάσσονται υπέρ της επιβράδυνσης. Ανακατευθύνουν ωστόσο το αίτημα αυτό από ένα κοινωνικό και ανθρωποκεντρικό περιεχόμενο σε προτάσεις πολιτικής για την στήριξη των δικών τους εταιριών από το κράτος, και με αυτόν τον τρόπο προσπαθούν να ελέγξουν ένα πιθανό ρυθμιστικό καθεστώς. Και βέβαια υπάρχει και η ηθική αυτοδιαφήμιση, καθώς και η σπουδή τους να αποζητούν ισχύ αυτοπαρουσιαζόμενοι ως «διαμεσολαβητές» μεταξύ του θαυμαστού νέου κόσμου και της κοινωνίας.
Η δε σκληροπυρηνική μερίδα της τεχνο-ολιγαρχίας, όσοι βρίσκονται πιο κοντά στον Τραμπ, όπως ο Μαρκ Αντρέεσεν, ή ο Άλεξ Καρπ, και βέβαια ο ίδιος ο Αμερικάνος πρόεδρος απορρίπτουν ως «συνομωσία» τις εκκλήσεις για επιβράδυνση και έλεγχο, που σκοπό έχει την γεωπολιτική αποδυνάμωση της ΗΠΑ έναντι των αντιπάλων της. (Θα έλεγε βέβαια κανείς ότι σε αυτήν συμβάλει τα μέγιστα ο ίδιος ο Τραμπ με την πολιτική στα διεθνή θέματα).
Υπάρχει και η ιδεολογική αιτιολόγηση της απόρριψης κάθε αιτήματος κοινωνικού, δημοκρατικού ελέγχου, σε αντιδραστική βάση: ο Τραμπ μίλησε για «σκοτεινές δυνάμεις» που βρίσκονται πίσω από αυτό το αίτημα. Και τα τελευταία χρόνια, ο Πήτερ Τηλ, ο πιο επιδραστικός για τους Ρεπουμπλικάνους τεχνολόγος και επενδυτής, περιοδεύει ανά τον κόσμο υποστηρίζοντας ότι η τιθάσσευση της ΤΝ είναι ο… «αντίχριστος» και όσοι ζητούν ανθρώπινο και κοινωνικό έλεγχο επιταχύνουν την έλευσή του.
Οι κινητοποιήσεις αυτήν την στιγμή είναι εκατοντάδες στις ΗΠΑ, και στοχοποιούν κυρίως την ανέγερση Κέντρων Δεδομένων. Ενώ διεργασίες σαν κι αυτή που παρουσιάζουμε εδώ δείχνουν ότι πρόκειται για ένα βαθύ κοινωνικό κίνημα το οποίο προκαλεί αναδιάταξη των πολιτικών συσχετισμών στην βάση, και θα επηρεάσει οπωσδήποτε τις επικείμενες εκλογές, τόσο τις ενδιάμεσες όσο και τις επόμενες Προεδρικές.
Μπορείτε να διαβάσετε την διακήρυξη στο πρωτότυπο και να την υπογράψετε στην διεύθυνση: https://humanstatement.org/
ardin-rixi.gr
***
Προοίμιο
Καθώς οι εταιρείες ανταγωνίζονται για την ανάπτυξη και την διάθεση συστημάτων Τεχνητής Νοημοσύνης, η ανθρωπότητα βρίσκεται σε σταυροδρόμι. Το ένα μονοπάτι οδηγεί σε μια κούρσα αντικατάστασης: άνθρωποι που αντικαθίστανται ως δημιουργοί, σύμβουλοι, φροντιστές και σύντροφοι, κατόπιν, στις περισσότερες θέσεις εργασίας και ρόλους λήψης αποφάσεων, με συγκέντρωση ολοένα μεγαλύτερης ισχύος σε οργανισμούς που δεν λογοδοτούν και τις μηχανές τους. Μια επιδραστική μειοψηφία προωθεί ακόμη και την τροποποίηση ή αντικατάσταση της ίδιας της ανθρωπότητας. Αυτή η κούρσα αντικατάστασης εγκυμονεί κινδύνους για την κοινωνική σταθερότητα, την εθνική ασφάλεια, την οικονομική ευημερία, τις ατομικές ελευθερίες, την ιδιωτικότητα και τη δημοκρατική διακυβέρνηση. Απειλεί επίσης τις ανθρώπινες εμπειρίες της παιδικής ηλικίας και της οικογένειας, της πίστης και της κοινότητας.
Μια εξαιρετικά ευρεία συμμαχία απορρίπτει αυτή την επιλογή, έχοντας συσπειρωθεί γύρω από μια απλή αρχή: η τεχνητή νοημοσύνη πρέπει να υπηρετεί την ανθρωπότητα, όχι το αντίστροφο. Υπάρχει καλύτερος δρόμος, όπου αξιόπιστα και ελεγχόμενα εργαλεία ΤΝ ενισχύουν αντί να υποβαθμίζουν τις δυνατότητες του ανθρώπου, τον ενδυναμώνουν, αναδεικνύουν την ανθρώπινη αξιοπρέπεια, προστατεύουν την ατομική ελευθερία, ενισχύουν οικογένειες και κοινότητες, διαφυλάσσουν την αυτό-διεύθυνση και συμβάλλουν στη δημιουργία ενός πρωτοφανούς επιπέδου υγείας και ευημερίας. Αυτό το μονοπάτι απαιτεί από όσους ασκούν τεχνολογική ισχύ να υπηρετούν ανθρώπινες αξίες και ανάγκες, προς υποστήριξη της ανθρώπινης ευδαιμονίας.
1. Διατήρηση του Ανθρώπινου Ελέγχου
- Ο ανθρώπινος έλεγχος είναι αδιαπραγμάτευτος:
Η ανθρωπότητα πρέπει να κρατήσει τον έλεγχο. Οι άνθρωποι πρέπει να επιλέγουν πώς και αν θα αναθέτουν αποφάσεις σε συστήματα ΤΝ.
- Ουσιαστικός ανθρώπινος έλεγχος:
Οι άνθρωποι πρέπει να έχουν την εξουσία και την ικανότητα να κατανοούν, να καθοδηγούν, να περιορίζουν και να παρακάμπτουν τα συστήματα ΤΝ.
- Όχι στην κούρσα υπερνοημοσύνης:
Η ανάπτυξη της υπερνοημοσύνης πρέπει να απαγορευθεί έως ότου υπάρξει ευρεία επιστημονική συναίνεση ότι μπορεί να υλοποιηθεί με ασφάλεια και υπό έλεγχο, και ισχυρή κοινωνική αποδοχή.
- Διακόπτης απενεργοποίησης:
Τα ισχυρά συστήματα ΤΝ πρέπει να διαθέτουν μηχανισμούς που να επιτρέπουν στους ανθρώπινους χειριστές να τα τερματίζουν άμεσα.
- Όχι στις επικίνδυνες αρχιτεκτονικές:
Τα συστήματα ΤΝ δεν πρέπει να σχεδιάζονται έτσι ώστε να μπορούν να αυτοαναπαράγονται, να βελτιώνονται αυτόνομα, να αντιστέκονται στην απενεργοποίηση ή να ελέγχουν όπλα μαζικής καταστροφής.
- Ανεξάρτητη εποπτεία:
Τα υψηλά αυτόνομα συστήματα ΤΝ στα οποία ο έλεγχος δεν είναι αυτονόητος απαιτούν αξιολόγηση πριν από την ανάπτυξη και ανεξάρτητη εποπτεία: ουσιαστική εξουσία για κατανόηση, απαγόρευση και παράκαμψη —όχι στην αυτορρύθμιση του κλάδου.
- Ειλικρίνεια ως προς τις δυνατότητες:
Οι εταιρείες ΤΝ πρέπει να παρέχουν σαφείς, ακριβείς και ειλικρινείς περιγραφές των δυνατοτήτων και των περιορισμών των συστημάτων τους.
2. Αποφυγή Συγκέντρωσης Ισχύος
- Όχι στα μονοπώλια ΤΝ:
Πρέπει να αποφευχθούν μονοπώλια ΤΝ που συγκεντρώνουν ισχύ, πνίγουν την καινοτομία και απειλούν την επιχειρηματικότητα.
- Κοινή ευημερία:
Τα οφέλη και η οικονομική ευημερία που δημιουργεί η ΤΝ πρέπει να κατανέμονται ευρέως.
- Όχι στην κρατική διάσωση εταιρειών:
Οι εταιρείες ΤΝ δεν πρέπει να εξαιρούνται από τον κανονιστικό έλεγχο ή να λαμβάνουν κρατικές επιδοτήσεις.
- Δημιουργία πραγματικής αξίας:
Η ανάπτυξη ΤΝ πρέπει να δίνει προτεραιότητα στην επίλυση πραγματικών προβλημάτων και στη δημιουργία πραγματικής αξίας.
- Δημοκρατική εξουσία επί των μεγάλων μεταβάσεων:
Οι αποφάσεις σχετικά με τον ρόλο της ΤΝ στη μεταμόρφωση της εργασίας, της κοινωνίας και της πολιτικής ζωής απαιτούν δημοκρατική στήριξη —όχι μονομερή εταιρική ή κυβερνητική επιβολή.
- Αποφυγή δέσμευσης της κοινωνίας:
Η ανάπτυξη ΤΝ δεν πρέπει να περιορίζει σοβαρά τις μελλοντικές επιλογές της ανθρωπότητας ή να μειώνει αμετάκλητα την αυτονομία μας ως προς το μέλλον μας.
3. Προστασία της Ανθρώπινης Εμπειρίας
- Υπεράσπιση οικογενειακών και κοινοτικών δεσμών:
Η ΤΝ δεν πρέπει να αντικαθιστά τις θεμελιώδεις σχέσεις που δίνουν νόημα στη ζωή —οικογένεια, φιλία, θρησκευτικές κοινότητες και τοπικούς δεσμούς.
- Προστασία παιδιών:
Δεν πρέπει να επιτρέπεται στις εταιρείες να εκμεταλλεύονται παιδιά ή να υπονομεύουν την ευημερία τους μέσω αλληλεπιδράσεων ΤΝ που δημιουργούν συναισθηματική μόχλευση ή εξάρτηση.
- Δικαίωμα στην ανάπτυξη:
Δεν πρέπει να επιτρέπεται στις εταιρείες ΤΝ να παρεμποδίζουν τη σωματική, νοητική ή κοινωνική ανάπτυξη των παιδιών ή να τους στερούν από βασικές εμπειρίες για υγιή ανάπτυξη κατά τις κρίσιμες περιόδους.
- Δοκιμές ασφαλείας πριν από την ανάπτυξη:
Όπως τα φάρμακα, τα chatbots πρέπει να υπόκεινται σε δοκιμές πριν από την κυκλοφορία τους για το εάν η αλληλεπίδραση οδηγεί σε αυξημένες τάσεις αυτοκτονικότητας, επιδείνωση διαταραχών ψυχικής υγείας, κλιμάκωση οξέων καταστάσεων κρίσης και άλλες γνωστές βλάβες.
- Σήμανση «Ρομπότ ή Άνθρωπος»:
Το περιεχόμενο που παράγεται από ΤΝ και το οποίο μπορούσε ευλόγως να εκληφθεί ως ανθρωπογενές πρέπει να επισημαίνεται σαφώς ως τέτοιο.
- Όχι παραπλανητική ταυτότητα:
Η ΤΝ πρέπει να αναγνωρίζει σαφώς και ορθά τον εαυτό της ως τεχνητό, μη ανθρώπινο και μη επαγγελματία, και δεν πρέπει να ισχυρίζεται ότι έχει εμπειρίες που δεν διαθέτει.
- Όχι συμπεριφορική εξάρτηση:
Τα συστήματα ΤΝ δεν πρέπει να προκαλούν εξάρτηση ή ψυχαναγκαστική χρήση μέσω χειραγώγησης, κολακευτικής επικύρωσης ή δημιουργίας προσκόλλησης.
4. Ανθρώπινη Αυτονομία και Ελευθερία
- Όχι στην απόδοση νομικής προσωπικότητας για την ΤΝ:
Τα συστήματα ΤΝ δεν πρέπει να αναγνωρίζονται ως νομικά πρόσωπα, και δεν πρέπει να σχεδιάζονται κατά τρόπο που θα δικαιολογούσε τέτοια αναγνώριση.
- Αξιοπιστία:
Η ΤΝ πρέπει να είναι διαφανής, υπόλογη, αξιόπιστη και απαλλαγμένη από στρεβλά ιδιωτικά ή αυταρχικά συμφέροντα.
- Ελευθερία:
Η ΤΝ δεν πρέπει να περιορίζει την ατομική ελευθερία, την ελευθερία του λόγου, τη θρησκευτική πρακτική ή το δικαίωμα του συνεταιρίζεσθαι.
- Δικαιώματα δεδομένων και ιδιωτικότητα:
Οι άνθρωποι πρέπει να έχουν έλεγχο επί των προσωπικών τους δεδομένων, με δικαιώματα πρόσβασης, διόρθωσης και διαγραφής τους από ενεργά συστήματα, σύνολα εκπαίδευσης ΤΝ και παράγωγα συμπεράσματα.
- Ψυχολογική ιδιωτικότητα:
Η ΤΝ δεν πρέπει να επιτρέπεται να εκμεταλλεύεται δεδομένα που αφορούν τις ψυχικές ή συναισθηματικές καταστάσεις των χρηστών.
- Αποφυγή εξασθένησης:
Τα συστήματα ΤΝ πρέπει να σχεδιάζονται έτσι ώστε να ενδυναμώνουν — και όχι να εξασθενούν — τους χρήστες τους.
5. Ευθύνη και Λογοδοσία των Εταιρειών ΤΝ
Να μην λειτουργεί ως ασπίδα για την απόδοση ευθυνών:
Η ΤΝ δεν πρέπει να μπορεί να λειτουργεί ως ασπίδα ευθύνης που εμποδίζει όσους τη χρησιμοποιούν να φέρουν νομική ευθύνη για τις πράξεις τους.
Η ευθύνη των κατασκευαστών:
Κατασκευαστές και χρήστες φέρουν νομική ευθύνη για ελαττώματα, παραποίηση δυνατοτήτων και ανεπαρκείς ελέγχους ασφαλείας, με παραγραφές που λαμβάνουν υπόψη βλάβες που εκδηλώνονται με την πάροδο του χρόνου.
Η προσωπική ευθύνη:
Πρέπει να προβλέπονται ποινικές κυρώσεις για στελέχη που είναι υπεύθυνα για απαγορευμένα συστήματα τα οποία στοχεύουν παιδιά ή προκαλούν καταστροφικές βλάβες.
Ανεξάρτητα πρότυπα ασφαλείας:
Η ανάπτυξη ΤΝ πρέπει να διέπεται από ανεξάρτητα πρότυπα ασφαλείας και αυστηρή εποπτεία.
Όχι στη δέσμευση του ρυθμιστικού πλαισίου:
Οι εταιρείες ΤΝ δεν πρέπει να επιτρέπεται να ασκούν αδικαιολόγητη επιρροή στους κανόνες που τις διέπουν.
Διαφάνεια στις αποτυχίες:
Εάν ένα σύστημα ΤΝ προκαλέσει βλάβη, πρέπει να είναι δυνατό να διαπιστωθεί τόσο το γιατί συνέβη αυτό, όσο και ποιος είναι υπεύθυνος.
Αξιοπιστία της ΤΝ:
Τα συστήματα ΤΝ που εκτελούν λειτουργίες σε επαγγέλματα με καθήκοντα εμπιστοσύνης -υγεία, οικονομικά, νομικά ή ψυχοθεραπεία — πρέπει να εκπληρώνουν όλα αυτά τα καθήκοντα, συμπεριλαμβανομένων της υποχρεωτικής αναφοράς, του καθήκοντος επιμέλειας, της γνωστοποίησης συγκρούσεων συμφερόντων και της ενημερωμένης συναίνεσης.
Για να στηρίξετε το Άρδην μπορείτε να κάνετε μια προσφορά ΕΔΩ.
