Του Γιάννη Παλαιολόγου από την Καθημερινή
Οι οικονομίες της Δύσης κινδυνεύουν να διολισθήσουν προς το καθεστώς αλγοριθμικής αξιολόγησης των πολιτών που ήδη εφαρμόζεται στην Κίνα, αλλά με πιο αδιαφανή τρόπο, προειδοποιεί ο Νίμροντ Κοζλόφσκι.
Ο κ. Κοζλόφσκι, σύμβουλος του νομικού γραφείου Herzog, Fox & Neeman και εταίρος στην εταιρεία Venture Capital JVP με ειδίκευση στην κυβερνοασφάλεια και στα big data, μιλώντας στην «Κ», σημειώνει: «Πρέπει να θεωρούμε ότι όταν γίνει τεχνικά εφικτό να χρησιμοποιηθούν αυτές οι τεχνολογίες – οι προγνωστικοί αλγόριθμοι – σε μεγάλη κλίμακα, τότε θα χρησιμοποιηθούν τόσο από την κυβέρνηση όσο και από τον ιδιωτικό τομέα. Και είμαστε ήδη κοντά σε αυτό το σημείο – η εξέλιξη τα τελευταία χρόνια έχει υπάρξει τρομακτική».
Η διείσδυση αυτών των τεχνολογιών στη Δύση, εξηγεί ο κ. Κοζλόφσκι, «δεν θα γίνει με εξίσου διαφανή τρόπο όπως στην Κίνα», όπου δεν υπάρχουν τα αντίστοιχα ταμπού υπέρ της ατομικής ελευθερίας και κατά της παρακολούθησης.
«Κατ’ αρχάς θα είναι πιο αποκεντρωμένη διαδικασία. Πάρα πολλές εταιρείες θα συλλέγουν δεδομένα και θα αξιολογούν τους ανθρώπους, θα κάνουν το προφίλ τους, με βάση αυτά.
Αυτό θα γίνεται χωρίς τα άτομα που αξιολογούνται να το γνωρίζουν. Ηδη σήμερα μπορεί να χάσω μία δουλειά για την οποία είμαι υποψήφιος ή να μη λάβω ένα τραπεζικό δάνειο επειδή έτσι έκρινε ένα αυτοματοποιημένο σύστημα με βάση τα στοιχεία που έχει για μένα. Δεν γνωρίζω πώς κατέληξε στην ετυμηγορία του αυτό το αυτοματοποιημένο σύστημα και δεν έχω τη δυνατότητα να αντιδράσω στην απόφασή του».
Παράλληλα, σημειώνει, «βλέπουμε να γίνονται συμφωνίες όπου εταιρείες που διαθέτουν μεγάλο όγκο προσωπικών δεδομένων πωλούν τα δεδομένα αυτά σε άλλες εταιρείες, ή πωλούν τα προφίλ που έχουν φτιάξει για κάποιο σκοπό, ώστε να χρησιμοποιηθούν για κάτι άλλο. Ενα παράδειγμα είναι η αποκάλυψη για την πρόσβαση στα δεδομένα των χρηστών του που έδινε το Facebook σε άλλες μεγάλες εταιρείες τεχνολογίας.
Ενα άλλο παράδειγμα είναι οι τράπεζες. Εχουμε ήδη παρατηρήσει φαινόμενα τραπεζών που έχουν φτιάξει αλγόριθμους για την πιστοληπτική αξιολόγηση των πελατών τους, να πωλούν τα δεδομένα αυτά σε άλλες εταιρείες».
Το άλλο κρίσιμο πεδίο είναι η χρήση των τεχνολογιών αυτών από το κράτος. «Θα ήταν αφελές να θεωρήσουμε ότι κάτι τέτοιο μπορεί να αποφευχθεί», σημειώνει ο Ισραηλινός ειδικός. Τον περασμένο μήνα, όπως αναφέρει, η ομάδα D9 (Digital 9), οι εννέα πιο προηγμένες ψηφιακά χώρες στον κόσμο, είχαν μία συνάντηση στο Ισραήλ «με σκοπό να συζητήσουμε πώς θα δώσουμε ηθική καθοδήγηση στην τεχνητή νοημοσύνη. Μεγάλο μέρος της συζήτησης εστιάστηκε στο πώς οι αλγόριθμοι που θα χρησιμοποιούνται σε μία σειρά από πεδία, από την εσωτερική ασφάλεια ώς την επιλογή υπαλλήλων για τη δημόσια διοίκηση και την επιδοματική πολιτική, θα είναι αμερόληπτοι και αντικειμενικοί, χωρίς τις προκαταλήψεις των προγραμματιστών τους».
Στη χρονιά που έφυγε ξέσπασε σειρά σκανδάλων σχετικών με την επεξεργασία και την κατάχρηση των προσωπικών δεδομένων των χρηστών του Διαδικτύου. Πώς πρέπει να ρυθμιστεί η δραστηριότητα των μονοπωλιακών κολοσσών του Διαδικτύου, όπως η Facebook και η Google, που παρέχουν δωρεάν υπηρεσίες αλλά χρησιμοποιούν ως προϊόν τα προσωπικά δεδομένα των χρηστών;
Σε αντίθεση με τις προηγούμενες περιπτώσεις παρεμβάσεων στον κλάδο της τεχνολογίας, από τις τηλεπικοινωνίες και το λειτουργικό σύστημα των προσωπικών υπολογιστών ώς τη διαδικτυακή αναζήτηση, «οι ελεγκτικές αρχές αυτή τη φορά δεν έχουν ως κίνητρο την υπεράσπιση του ελεύθερου ανταγωνισμού έναντι μονοπωλιακών πρακτικών, αλλά την προστασία της ιδιωτικότητας», λέει ο κ. Κοζλόφσκι.
Ο μεγάλος κίνδυνος
«Συνειδητοποιούμε πλέον ολοένα και περισσότερο ότι το κρίσιμο ζήτημα είναι ο έλεγχος των δεδομένων και η απειλή για τις ελευθερίες μας που συνεπάγεται η συγκέντρωση του ελέγχου αυτού σε πολύ λίγα χέρια». Αυτό αντανακλάται στον Γενικό Κανονισμό Προστασίας Δεδομένων της Ε.Ε. (ευρύτερο γνωστό ως GDPR), τον οποίο χαρακτηρίζει «ρηξικέλευθη και αποτελεσματική» ρύθμιση στο ζωτικό αυτό πεδίο. Αντιθέτως, ο Ισραηλινός νομικός δεν θεωρεί ότι ο εξαναγκασμός εταιρειών με μονοπωλιακή ισχύ να διασπαστούν ή να αλλάξουν τη δομή τους έχει αποδειχθεί ιδιαίτερα επιτυχής.
1 ΣΧΟΛΙΟ
Επειδή το ζήτημα δείχνει δυσκατανόητο σε όσους δεν το ξέρουν ήδη το ζήτημα, αυτό το άρθρο της TVXS το παρουσιάζει λίγο πιο βατά. https://tvxs.gr/news/kosmos/pos-black-mirror-efarmozetai-stin-kina?fbclid=IwAR1ut10hxONNhLvjF1bX82iJKkzv7rwhzLVOUw35RMSnGmsIp0-q2eQbEUg
“ΠΩΣ ΤΟ BLACK MIRROR” ΕΦΑΡΜΟΖΕΤΑΙ ΣΤΗΝ ΚΙΝΑ” της Μαριάνθης Πελεβάνη
Το περιοδικό Economist το χαρακτήρισε το σύστημα ως «το πρώτο ψηφιακό απολυταρχικό κράτος στον κόσμο». Οι περισσότεροι εκτός Κίνας, αναγνώρισαν το σενάριο του επεισοδίου «Nosedive» της σειράς Black Mirror, που προβάλλεται από το Netflix κι ακόμη πιο πολλοί το φουτουριστικό δυστοπικό όραμα του Big Brother.
Η ιστορία, ή μάλλον η πραγματικότητα έχει ως εξής. Τον Ιούνιο του 2014, το κρατικό συμβούλιο της Κίνας δημοσίευσε ένα έγγραφο με την ονομασία «σχέδιο κατασκευής συστήματος κοινωνικής εκτίμησης/ βαθμολόγησης». Το μακροσκελές έγγραφο παρουσίαζε μια ιδέα εφαρμογής ενός συστήματος (Social Credit System) που θα συνέλεγε τα ηλεκτρονικά δεδομένα των πολιτών της Κίνας, για την αξιολόγηση κάθε πολίτη σε επιμέρους τομείς της ζωής του, της καθημερινότητάς του, με απώτερο σκοπό την αξιολόγηση της συμμόρφωσής του με το καθεστώς.
Όπως αναφέρει το ρεπορτάζ της le monde diplomatique, η κυβέρνηση έχει δώσει άδεια σε οκτώ ιδιωτικές εταιρείες να βρουν συστήματα και αλγόριθμους για τα αποτελέσματα της κοινωνικής πίστωσης. Έτσι, το σύστημα «κοινωνικής πιστοληπτικής ικανότητας» της Κίνας, που θα αποδίδει ένα συνεχώς ανανεωμένο σκορ σε κάθε άτομο με βάση τις παρατηρούμενες συμπεριφορές, που σχεδιάστηκε για να ελέγχει τη συμπεριφορά δίνοντας στο κράτος την δυνατότητα να επιβάλει τιμωρίες και να δίνει ανταμοιβές, είναι γεγονός.
Ήδη το σύστημα βαθμολόγησης «κοινωνικής πίστης» δοκιμάζεται ευρέως πριν εφαρμοστεί σε εθνικό επίπεδο και τα χρυσά αστέρια ή αντίθετα τα μαύρα σημάδια έχουν αρχίσει να διαμορφώνουν δημόσιες και ιδιωτικές συμπεριφορές.
Από το περασμένο καλοκαίρι, λέξεις όπως η τιμιότητα και η αξιοπιστία εμφανίστηκαν σε αφίσες προπαγάνδας που συνοδεύουν μια αυξανόμενη ομάδα δημόσιων και ιδιωτικών μηχανισμών που αξιολογούν τους πολίτες, τους υπαλλήλους, τις επιχειρήσεις και τους επαγγελματίες, ανταμείβουν το καλό και τιμωρούν τους κακούς.
Μέχρι το 2020, οι Κινέζοι αξιωματούχοι σκοπεύουν να έχουν περίπου 626 εκατομμύρια κάμερες παρακολούθησης που θα λειτουργούν σε ολόκληρη τη χώρα. Οι κάμερες αυτές, μεταξύ άλλων, θα τροφοδοτούν πληροφορίες στο εθνικό «σύστημα κοινωνικής βαθμολόγησης».
Όταν αυτό το σύστημα, όταν θα είναι έτοιμο, προβλέπεται σε δύο χρόνια, θα καταχωρεί σε κάθε άτομο στην Κίνα ένα σκορ που θα ενημερώνεται διαρκώς με βάση τις παρατηρούμενες συμπεριφορές. Για παράδειγμα, αν κάποιος διασχίσει παράνομα το δρόμο, και καταγραφεί στις κάμερες, αυτό θα έχει ως αποτέλεσμα τη μείωση της βαθμολογίας του.
Στις επαρχίες όπου εφαρμόζεται οι κάμερες ανιχνεύουν σιδηροδρομικούς σταθμούς για να εντοπίσουν τους «most wanted» εγκληματίες της Κίνας. Οι οθόνες δείχνουν τα πρόσωπα των περαστικών και απαριθμούν τα ονόματα των ανθρώπων που δεν πληρώνουν τα χρέη τους. Σαρωτές αναγνώρισης προσώπου προστατεύουν τις εισόδους σε συγκροτήματα κατοικιών. Παράλληλα παρακολουθούν τη χρήση του διαδικτύου, τις επικοινωνίες, τη διαμονή στα ξενοδοχεία και τα ταξίδια με τρένα και αεροπλάνα, ακόμη και τα ταξίδια με αυτοκίνητο σε συγκεκριμένες περιοχές, τις φιλικές σχέσεις, κ.λπ.
Δεδομένου ότι οποιοσδήποτε έχει πετάξει σκουπίδια κινδυνεύει να χάσει τρία σημεία, δεν υπάρχουν τσιγάρα ή κενά κουτιά στους δρόμους της πόλης ή στα λεωφορεία. Λόγω των πολυάριθμων φωτογραφικών μηχανών υψηλής τεχνολογίας που κατασκευάζει το Hik Vision – ένας παγκόσμιος ηγέτης στην παρακολούθηση βίντεο, του οποίου κύριος μέτοχος είναι η κινεζική κυβέρνηση – η αστυνομία δεν χρειάζεται να παρακολουθεί αυτοπροσώπως. Η διέλευση ενός δρόμου στην πόλη Rongcheng δεν είναι πλέον μια πρόκληση: οι οδηγοί σταματούν για πεζούς, ένα σπάνιο περιστατικό στην Κίνα. Εάν αποτύχουν, η ποινή είναι σκληρή: ένα πρόστιμο 50 γιουάν, τρία σημεία από την άδεια οδήγησης.
Οι πελάτες με καλές αξιολογήσεις λαμβάνουν ειδικά προνόμια και πρόσβαση σε προσοδοφόρα χρηματοοικονομικά προϊόντα καθώς και την πλατφόρμα δανεισμού Huabei που ανήκει στην Alipay. Σύμφωνα με την Global Times, μια εφημερίδα που ανήκει στην κυβέρνηση, μέχρι τα τέλη Απριλίου του 2018, οι Αρχές είχαν παρεμποδίσει άτομα να επιβιβαστούν σε 11.14 εκατομμύρια πτήσεις και σε 4.25 εκατομμύρια σιδηροδρομικές μεταφορές υψηλών ταχυτήτων.
Σε πολλές αγροτικές περιοχές, το πρόγραμμα Sharp Eyes επιτρέπει στους ανθρώπους να συνδέουν τις τηλεοράσεις ή τα smartphones τους με κάμερες παρακολούθησης στην είσοδο των χωριών τους. Στα μικρά χωριά γύρω από το Rongcheng, η κοινωνική πίστη είναι ακόμα πιο ενεργή. Εκατό χωριά έχουν ήδη μια πλατεία κοινωνικής πίστης, όπου οι φωτεινές πινακίδες δείχνουν λεπτομέρειες των εντολών και των εικόνων των πολιτών που έχουν κερδίσει ή χάσει πόντους τον περασμένο μήνα.
Ο Hou Yunchun, πρώην αναπληρωτής διευθυντής του Κέντρου Αναπτυξιακής Έρευνας του Κρατικού Συμβουλίου, είπε σε μια συνάντηση στο Πεκίνο το Μάιο πως το σύστημα θα πρέπει να λειτουργεί έτσι ώστε «οι άνθρωποι με χαμηλό σκορ να χρεοκοπούν».
Ενδεικτικά… Εάν η βαθμολογία τους φθάσει τα 600, μπορούν να πάρουν ένα δάνειο Just Spend μέχρι 5.000 γιουάν για να το χρησιμοποιήσουν για να ψωνίσουν στο διαδίκτυο. Φτάνοντας 650 βαθμούς, μπορούν να νοικιάσουν ένα αυτοκίνητο χωρίς να αφήσουν μια κατάθεση. Δικαιούνται επίσης ταχύτερα check-in στα ξενοδοχεία και χρήση του VIP check-in στο Beijing Capital International Airport. Εκείνοι με περισσότερους από 666 βαθμούς μπορούν να λάβουν δάνειο μετρητών μέχρι 50.000 γιουάν. Αν έχουν περισσότερα από 700 μπορούν να υποβάλουν αίτηση για ταξίδια στη Σιγκαπούρη χωρίς δικαιολογητικά. Και στα 750, λαμβάνουν ταχεία εφαρμογή σε μια πολυπόθητη θεώρηση βίζας Σένγκεν.
Στον ιστότοπο microblogging του Weibo, οι δράστες περιγράφουν τις κυρώσεις τους και τη δημόσια ταπείνωση. Οι εταιρείες απαγορεύονται να ανταποκριθούν στις προσκλήσεις υποβολής προσφορών, ενώ τα άτομα δεν είναι σε θέση να κλείσουν δωμάτια στα ξενοδοχεία, να αγοράσουν εισιτήρια για τρένα μεγάλης ταχύτητας ή αεροπορικά ταξίδια για ένα χρόνο. Η πληρωμή και η απομάκρυνση του ονόματος από τη λίστα γίνεται επείγουσα προτεραιότητα.
Το Sesame Credit προσφέρει ήδη συμβουλές για να βοηθήσει τα άτομα να βελτιώσουν την κατάταξή τους, συμπεριλαμβανομένης της προειδοποίησης σχετικά με τα μειονεκτήματα των φίλων του, σε κάποιον που έχει χαμηλό σκορ. Αυτό μπορεί να οδηγήσει στην άνοδο των συμβούλων σκορ, οι οποίοι θα μοιραστούν συμβουλές για το πώς θα κερδίσουν πόντους ή οι σύμβουλοι φήμης που θα είναι διατεθειμένοι να προσφέρουν συμβουλές εμπειρογνωμόνων για το πώς να βελτιώσουν στρατηγικά την κατάταξή τους ή να ξεφύγουν από τη μαύρη λίστα εμπιστοσύνης.
Με τον ίδιο τρόπο που μπορούν να αγοραστούν τα Likes στο Facebook και οι followers στο Twitter, τα άτομα θα πληρώσουν για να χειραγωγήσουν το σκορ τους. Επί του παρόντος, το Sesame Credit δεν τιμωρεί άμεσα τους ανθρώπους επειδή είναι «αναξιόπιστοι» – είναι πιο αποτελεσματικό να κλειδώνετε τους ανθρώπους με απειλές για καλή συμπεριφορά. Αλλά ο επικεφαλής διευθυντής Hu Tao, επικεφαλής του Sesame Credit, προειδοποιεί τους ανθρώπους ότι το σύστημα έχει σχεδιαστεί έτσι ώστε “οι αναξιόπιστοι άνθρωποι δεν θα μπορούν να νοικιάσουν αυτοκίνητο, δεν θα μπορούν να δανειστούν χρήματα ή ακόμη και δεν θα μπορούν να βρουν δουλειά”.Έχει μάλιστα αποκαλύψει ότι η Sesame Credit έχει προσεγγίσει το Γραφείο Εκπαίδευσης της Κίνας για να μοιραστεί μια λίστα με τους μαθητές της που εξαπάτησαν στις εθνικές εξετάσεις, για να τους κάνουν να πληρώσουν στο μέλλον για την ανιδιοτέλεια τους.
Για παράδειγμα, τα άτομα με χαμηλές βαθμολογίες θα έχουν χαμηλότερες ταχύτητες στο διαδίκτυο, περιορισμένη πρόσβαση σε εστιατόρια, νυχτερινά κέντρα ή γήπεδα και την κατάργηση του δικαιώματος ελεύθερης μετακίνησης στο εξωτερικό. Τα αποτελέσματα θα επηρεάσουν τις αιτήσεις μίσθωσης ενός ατόμου, την ικανότητά του να πάρει ασφάλεια ή ένα δάνειο, ακόμη και παροχές κοινωνικής ασφάλισης. Οι πολίτες με χαμηλές βαθμολογίες δεν θα προσληφθούν από ορισμένους εργοδότες και θα απαγορευτούν από την απόκτηση ορισμένων θέσεων εργασίας, συμπεριλαμβανομένων των δημόσιων υπηρεσιών, της δημοσιογραφίας και των νομικών τομέων, όπου βεβαίως πρέπει να θεωρήσετε αξιόπιστος.
«Το δώρο της ασφάλειας»
«Ένα αίσθημα ασφάλειας είναι το καλύτερο δώρο που μπορεί να δώσει μια χώρα στον λαό», δήλωσε σχετικά ο πρόεδρος Xi Jinping στην εθνική τηλεόραση τον Οκτώβριο του 2017.
Ωσότου το πρόγραμμα ολοκληρωθεί και η ζωή γίνει ένας ατελείωτος διαγωνισμός δημοτικότητας, με όλους να αγωνίζονται για την υψηλότερη βαθμολογία που μπορούν να επιτύχουν μόνο μερικοί, οι παραδοσιακές μέθοδοι καταστολής κι ελέγχουν κάνουν τη δουλειά τους.
Έτσι, την περασμένη εβδομάδα δεκάδες ακτιβιστές, αρκετοί εξ αυτών μέλη της πανεπιστημιακής ελίτ, συνελήφθησαν διότι συμμετείχαν σε δημόσιες εκδηλώσεις για την προάσπιση των δικαιωμάτων των εργαζομένων της εταιρείας Jasic. Οι συλλήψεις τούτες κατά τα φαινόμενα αποτελούν τμήμα μίας κυβερνητικής εκστρατείας ενάντια στις κοινωνικές αντιδράσεις σπουδαστών που αυτοπροσδιορίζονται ως μαρξιστές.
Η εταιρεία Jasic είναι ένας μεγάλος κατασκευαστής μηχανημάτων συγκόλλησης, της οποίας οι εργαζόμενοι προσπαθούν να αυτοοργανωθούν με στόχο να απαιτήσουν καλύτερες συνθήκες εργασίας, έχοντας στο πλευρό τους και τους φοιτητές. Πιο πρόσφατα, οι φοιτητές επιχείρησαν να διαμαρτυρηθούν ενάντια στις συνθήκες εργασίας σε εργοστάσια που προμηθεύουν εξαρτήματα στην Apple και έδειξαν αλληλεγγύη στους ανθρακωρύχους, που αξιώνουν αποζημιώσεις για ασθένειες οι οποίες σχετίζονται με τις συνθήκες του επαγγέλματός τους.