Οι τεχνολογίες της επιτήρησης στηρίζονται στην Τεχνητή Νοημοσύνη (Τ.Ν.), έναν στρατηγικό για τον 21ο αιώνα κλάδο της Πληροφορικής που μπορεί να αποφέρει σημαντικά οφέλη στην οικονομία και στην κοινωνία συνολικά –και ήδη το κάνει– παράλληλα όμως εγκυμονεί πολλούς και σημαντικούς κινδύνους για τα ανθρώπινα δικαιώματα και τις ελευθερίες.
Η επεξεργασία μεγάλου όγκου προσωπικών δεδομένων βρίσκεται στον πυρήνα της Τ.Ν. και η συνθήκη της πανδημίας άνοιξε την πόρτα για ακόμη πιο παρεμβατική συλλογή των δεδομένων μας. Επομένως, το δικαίωμα στην προστασία των δεδομένων προσωπικού χαρακτήρα πρέπει να ισχύει σε όλα τα πεδία εφαρμογής της Τ.Ν.
Μια μεγάλη σχετική συζήτηση διεξάγεται καιρό τώρα και σε πανευρωπαϊκό και σε παγκόσμιο επίπεδο και μια σημαντική συμβολή στη συζήτηση είναι οι απόψεις της καθηγήτριας Shoshana Zuboff, όπως διατυπώνονται στο βιβλίο της «Η εποχή του κατασκοπευτικού καπιταλισμού», με υπότιτλο «Ο αγώνας για ένα ανθρώπινο μέλλον στο μεταίχμιο της νέας εξουσίας».
Πρόκειται για μια κοινωνιολογική ανάλυση της ψηφιακής εποχής, 700 και πλέον σελίδων, που εκδόθηκε το 2019 στην Αμερική (και το 2020 στην Ελλάδα) και έχει γίνει ένα διεθνές μπεστ σέλερ. Η Naomi Klein μάς προτρέπει να το διαβάσουμε «ως μια πράξη ψηφιακής αυτοάμυνας».
Το βιβλίο περιγράφει πώς παγκόσμιες εταιρείες τεχνολογίας, όπως η Google και το Facebook, μας έπεισαν να παραδώσουμε τις προσωπικές μας πληροφορίες είτε οικειοθελώς είτε εν αγνοία μας, ώστε τα δεδομένα μας να αποτελέσουν την πρώτη ύλη στα υπολογιστικά εργοστάσια του καπιταλισμού της επιτήρησης και μέσω προγραμμάτων Τ.Ν. να μετατραπούν σε εμπόρευμα, δηλαδή σε συμπεριφορικές πληροφορίες και προβλέψεις σχετικά με εμάς.
Στη συνέχεια πωλούνται σε άλλες επιχειρήσεις, που θα χρησιμοποιήσουν αυτό το εμπόρευμα όχι μόνο για να προβλέψουν τη συμπεριφορά μας αλλά και για να την επηρεάσουν και να την τροποποιήσουν. Δηλαδή ο καπιταλισμός της επιτήρησης ξεκινά διεκδικώντας και επιβάλλοντας κυριότητα πάνω στις ανθρώπινες εμπειρίες. Θα μπορούσαμε ίσως να μιλήσουμε για «περιφράξεις» των προσωπικών δεδομένων.
Οπως λέει η Zuboff «Με τόσα λίγα που θα μπορούσαν να εμπορευματοποιηθούν, η τελευταία παρθένα περιοχή ήταν η ιδιωτική ανθρώπινη εμπειρία». Η Google ήταν η πρώτη μεγάλη εταιρεία που χρησιμοποίησε και παγίωσε τις πρακτικές του καπιταλισμού επιτήρησης. Ακολούθησε το Facebook, που το επιχειρηματικό του μοντέλο που βασίζεται επίσης στη συλλογή και πρόσβαση σε προσωπικές πληροφορίες.
Μερικές φορές οι χρήστες παραχωρούν οικειοθελώς δεδομένα, ως αντάλλαγμα των ψηφιακών υπηρεσιών που λαμβάνουν αλλά και γιατί, όπως λένε, δεν τους ενοχλούν οι στοχευμένες διαφημίσεις. Δεν μπορούν όμως να φανταστούν σε τι είδους συμπεράσματα και πληροφορίες καταλήγουν τα «γυμνά» δεδομένα μετά την επεξεργασία τους από προγράμματα Τ.Ν. και φυσικά δεν έχουν πρόσβαση, ούτε έλεγχο στις πληροφορίες αυτές.
Αυτό που επίσης αποκρύπτεται από τους χρήστες είναι ότι αυτές οι πλατφόρμες και οι πελάτες τους δεν μετρούν απλώς τάσεις και προτιμήσεις αλλά μπορούν και να τις κατευθύνουν. Εχουν στόχο να διαμορφώσουν συμπεριφορές που αξιόπιστα οδηγούν σε προβλεπόμενα εμπορικά αποτελέσματα για τους πελάτες.
Ενδεικτικό παράδειγμα το «Pokémon Go», ένα δωρεάν παιχνίδι για smartphones όπου οι παίκτες κυνηγούσαν εικονικά πλασματάκια. Η εφαρμογή χρησιμοποιούσε την τοποθεσία του παίκτη και μέσω επιβραβεύσεων ή τιμωριών τον κατηύθυνε σε συγκεκριμένες επιχειρήσεις (fast food, πιτσαρίες κ.ά.), οι οποίες πλήρωναν την εταιρεία που το κατασκεύασε. Οι εταιρείες αυτές είδαν την πελατεία τους να εκτοξεύεται μέσω του παιχνιδιού.
Και όλα αυτά δεν γίνονται μόνο για την πρόβλεψη και τον έλεγχο της συμπεριφοράς στο επίπεδο της κατανάλωσης, αλλά προφανώς και στο επίπεδο της πολιτικής. Χαρακτηριστικό παράδειγμα στην περίπτωση αυτή αποτελεί η Cabridge Analytica Ltd (C.A.), που ήταν μια βρετανική εταιρεία πολιτικών συμβούλων, θυγατρική της ιδιωτικής εταιρείας πληροφοριών SCL Group η οποία αυτοαποκαλείται «παγκόσμια υπηρεσία διαχείριση εκλογών» και είχε στενούς δεσμούς με το Συντηρητικό Κόμμα, τη βρετανική βασιλική οικογένεια και τον βρετανικό στρατό.
Η εταιρεία έκλεισε τις δραστηριότητές της το 2018 κατά τη διάρκεια του σκανδάλου δεδομένων Facebook - Cambridge Analytica, όπου αποκαλύφθηκε ότι η εταιρεία είχε αποκτήσει και χρησιμοποιήσει προσωπικά δεδομένα έως και 87 εκατομμυρίων χρηστών του Facebook (αποκτήθηκαν μέσω των 270.000 χρηστών του Facebook που χρησιμοποίησαν μια εφαρμογή η οποία ονομάζεται «This Is Your Digital Life» και έδωσαν την άδεια για πρόσβαση στο δίκτυο των φίλων τους, χωρίς εκείνοι να το γνωρίζουν).
Οσον αφορά τα δεδομένα από φωτογραφίες που συλλέγονται είτε από τα μέσα κοινωνικής δικτύωσης είτε από κάμερες στον δρόμο, αυτά μπορούν να χρησιμοποιηθούν από ιδιωτικές εταιρείες για αναγνώριση προσώπων. Για παράδειγμα, υπάρχει η Clearview AI, μια βάση δεδομένων άνω των τριών δισεκατομμυρίων εικόνων που έχουν συλλεχθεί παράνομα από τα μέσα κοινωνικής δικτύωσης και άλλα μέρη του διαδικτύου, η οποία χρησιμοποιείται από φορείς επιβολής του νόμου και υπηρεσίες πληροφοριών.
Οι θύρες συνοριακού ελέγχου επίσης χρησιμοποιούν συστήματα Τ.Ν. αυτοματοποιημένης αναγνώρισης. Τα συστήματα αυτά, προφανώς, μπορεί να κάνουν λάθη αλλά έχει παρατηρηθεί μεγαλύτερη συχνότητα στην εσφαλμένη αναγνώριση ατόμων από μειονοτικές εθνοτικές ομάδες ή LGBT, γεγονός που προκαλεί ανησυχία και σκέψεις για αλγοριθμική μεροληψία.
Ειδικά σε ό,τι αφορά την επιβολή του νόμου και τη Δικαιοσύνη, η χρήση Τ.Ν. θα μπορούσε να συμβάλει στην αποτελεσματικότερη καταπολέμηση ορισμένων μορφών εγκλήματος, όπως της σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών στο διαδίκτυο, καθώς και ορισμένων μορφών εγκλήματος στον κυβερνοχώρο, ελλοχεύουν όμως σοβαροί κίνδυνοι για τα θεμελιώδη δικαιώματα όπως η αδιαφανής λήψη αποφάσεων και διάφορα είδη διακρίσεων.
Ο καπιταλισμός της επιτήρησης υπονομεύει όχι μόνο το δικαίωμα στην ιδιωτικότητα αλλά και την ίδια τη δημοκρατία, ενώ παράλληλα ενισχύει τη γνωσιακή ανισότητα, αφού οι επιχειρήσεις του έχουν τα μέσα να γνωρίζουν τα πάντα για εμάς, ενώ εμείς ξέρουμε ελάχιστα για γι’ αυτές.
Ευτυχώς όσο η συζήτηση συνεχίζεται, όλο πληθαίνουν οι φωνές που διεκδικούν αυστηρό δημοκρατικό έλεγχο και ένα σταθερό ηθικό πλαίσιο για τους αλγόριθμους της Τ.Ν., προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, προστασία της ελευθερίας της έκφρασης και της πληροφόρησης, χρήση προγραμμάτων ανοιχτού κώδικα (ώστε να υπάρχει έλεγχος) και σεβασμό στην αυτονομία και τα ανθρώπινα δικαιώματα
*H Ράνια Καλαντζή είναι εκπαιδευτικός
