Το Μαύρο Κουτί του Διαδικτύου

Φίλη ανακοινώνει στο Facebook ότι γέννησε και της εύχεσαι συγχαρητήρια. Μέσα σε λίγες ώρες, εμφανίζονται διαφημίσεις για το πώς να μαγειρέψεις τον πλακούντα σου (το ότι είσαι γένους αρσενικού δεν πτοεί τον αλγόριθμο).

Κάνεις google τη λέξη «sleepwalker» (υπνοβάτης). Το επόμενο πρωί, το Facebook σου βγάζει διαφημίσεις για το «Sleepwalkers» — το βιβλίο του Christopher Clark για τον Α΄ Παγκόσμιο Πόλεμο.

Ψάχνεις στο Google για μία ενόχληση που έχεις σε ένα σημείο του σώματος σου. Για τις επόμενες 24 ώρες, το Facebook γεμίζει διαφημίσεις σχετικές με καρκίνο: θεραπείες, συμβουλές, φιλανθρωπικά ιδρύματα.

Ψάχνεις την τιμή ενός βιβλίου στο Amazon. Για τις επόμενες 5 ημέρες, και μέχρι να τη σβήσεις μόνος σου, η διαφήμιση του βιβλίου επιμένει να εμφανίζεται στο news feed σου στο Facebook.

Όντας μέσα στα νεύρα λόγω επιπόλαιου καβγά, διαγράφεις τον άντρα σου από το Facebook. Ξέρεις ότι τα μούτρα θα κρατήσουν το πολύ κάνα μισάωρο. Μέσα σε 10 λεπτά, το Facebook γεμίζει διαφημίσεις για συμβούλους σχέσεων, ψυχαναλυτές και τηλεφωνικές γραμμές ψυχολογικής υποστήριξης.

Όλα αυτά θα ακούγονταν αστεία εάν δεν ήταν όχι απλώς πραγματικά περιστατικά, αλλά και (αρκετά ήπιες) ενδείξεις του ψηφιακού μας μέλλοντος. Η χρήση ασύλληπτα περίπλοκων, εξαιρετικά εξελιγμένων και απολύτως μυστικών αλγορίθμων για την εξατομίκευση (personalisation) του περιεχομένου του Διαδικτύου είναι πραγματικότητα εδώ και αρκετά χρόνια. Όλες ανεξαιρέτως οι εταιρείες παροχής περιεχομένου —είτε είναι μηχανές αναζήτησης, είτε κοινωνικά μέσα, είτε ειδησεογραφικοί οργανισμοί, είτε πολιτικές εκστρατείες— συμμετέχουν σε μία κούρσα ανάπτυξης ψηφιακών εργαλείων που θα τους βοηθήσουν να καταλάβουν ακριβώς το ποιος είσαι, πού μένεις, πού δουλεύεις, πώς περνάς τον ελεύθερο χρόνο σου, τι και ποιος σε ενδιαφέρει, σε ποιον δίνεις την ψήφο σου και —το βασικότερο— πώς ξοδεύεις τα χρήματα σου και πώς επηρεάζεις άλλους καταναλωτές.

Η ανάλυση και κατανόηση των τάσεων της κοινής γνώμης και του κοινού οποιουδήποτε μέσου —των τηλεθεατών, των ακροατών, των αναγνωστών— ήταν και είναι φυσικά αναπόσπαστο μέρος της βιομηχανίας και της λειτουργίας των ΜΜΕ. Η μεγάλη διαφορά όμως με τα τωρινά εργαλεία είναι ότι δεν αρκούνται στη συλλογή και ανάλυση πληροφοριών για τη συμπεριφορά του χρήστη, αλλά είναι στρατηγικά προγραμματισμένα να τη χειραγωγούν ευθέως.

Ο πιο εύκολος τρόπος να το εξηγήσουμε είναι ο εξής:

Το ψηφιακό περιβάλλον στο οποίο ζούμε δεν είναι μία στατική αντικειμενική πραγματικότητα που υπάρχει «εκεί έξω» ανεξαρτήτως της δικής μας συμπεριφοράς, αλλά μία εύπλαστη εικονική πραγματικότητα που μεταβάλλεται συνεχώς με βάση τις δικές μας επιλογές και προτιμήσεις. Κάθε αναζήτηση που κάνεις στο Google καθορίζει τα αποτελέσματα μελλοντικών αναζητήσεων. Κάθε διάδραση με έναν φίλο στο Facebook καθορίζει το τι θα δεις στο αυριανό news feed σου. Κάθε είδηση που επιλέγεις να διαβάσεις αναλυτικά καθορίζει τους τίτλους των αυριανών ειδήσεων. Κάθε διαδικτυακή αγορά που κάνεις καθορίζει τις προτάσεις και τις διαφημίσεις που θα δεις αύριο. Και όλα αυτά δεν γίνονται (μόνο ή κυρίως) σε ένα επίπεδο συλλογικό, αθροιστικό. Γίνονται σε απολύτως ατομικό επίπεδο: καθορίζουν το πώς εσύ θα βιώσεις το Διαδίκτυο.

Η εξατομίκευση περιεχομένου έχει πολλά πλεονεκτήματα, τόσο για τις επιχειρήσεις όσο και για τους διαφημιστές, αφού εξασφαλίζει τη μέγιστη δυνατή διείσδυση μηνυμάτων και προϊόντων σε αυτούς που έχουν τις μεγαλύτερες πιθανότητες να ενδιαφέρονται. Ένα «πλαστικό» και εξατομικευμένο ψηφιακό περιβάλλον έχει κάποια οφέλη και για τον χρήστη. Όσο πιο «έξυπνες» γίνονται οι εφαρμογές, τόσο πιο αποδοτικός είναι ο χρόνος που περνάς στο Διαδίκτυο: ηλεκτρονικό ταχυδρομείο που βάζει σε σειρά προτεραιότητας τα άπειρα ημέιλ σου, ηλεκτρονικό βιβλιοπωλείο που σου προτείνει τα «σωστά» βιβλία, μέσο κοινωνικής δικτύωσης που προβάλλει τα νέα των φίλων που προτιμάς, ειδησεογραφικό σάιτ που σου δείχνει τις ειδήσεις που κυρίως σε ενδιαφέρουν.

Κάπου εκεί τελειώνουν τα θετικά και αρχίζουν οι ενστάσεις, οι κίνδυνοι, οι αρνητικές επιπτώσεις. Στη σημαντικότερη ίσως ομιλία στην ιστορία του TED το 2011 —και σε ένα βίντεο που από τότε είναι υποχρεωτικό για όλους ανεξαιρέτως τους φοιτητές μου—, ο Eli Pariser (ένας από τους πρώτους που ασχολήθηκαν συστηματικά με το φαινόμενο αυτό και άρχισαν να ξεσκεπάζουν την έκτασή του) μίλησε για δημιουργία μιας φούσκας-φίλτρου (filter bubble) μέσα στο οποίο ζούμε τη διαδικτυακή ζωή μας. Ο ίδιος ο Eric Schmidt της Google είπε ότι, «Θα είναι πολύ δύσκολο για τους ανθρώπους να δουν ή να καταναλώσουν κάτι που δεν έχει, με κάποιο τρόπο, εξατομικευτεί γι’ αυτούς».

Οι κοινωνικές, πολιτικές και πολιτισμικές επιπτώσεις αυτής της φιλοσοφίας ενδέχεται να είναι αρχικά αφανείς αλλά μακροπρόθεσμα βαθιές. Η βασική αρχή της παιδείας, της κοινωνικοποίησης, της δημοκρατίας και της συνύπαρξης —η βασική αρχή της ζωής— είναι η επαφή και η τριβή με το διαφορετικό, με το Άλλο, με το ξένο, με αυτό που μας στενοχωρεί, που μας κάνει να βαριόμαστε, να διαφωνούμε, να θυμώνουμε, να σκεφτόμαστε. Όπως λέει και ο Linklater στην ταινία «Waking Life», τα δύο καθολικά χαρακτηριστικά της ανθρώπινης φύσης είναι ο φόβος και η τεμπελιά. Ελάχιστοι άνθρωποι επιλέγουν να θέτουν τον εαυτό τους σε άβολες ή δύσκολες καταστάσεις — να βγαίνουν από τη «ζώνη της άνεσής τους». Η ίδια η αρχιτεκτονική του Διαδικτύου είναι θεμελιωμένη στην αρχή της επιλογής και της ελευθερίας του χρήστη: ο χρήστης καθορίζει και χαράσσει τη δική του πορεία πλοήγησης — και ο σημερινός χρήστης είναι πιο απαιτητικός από ποτέ. Σύμφωνα με τον Jakob Nielsen, γκουρού του user experience (ή UX — ένα ολόκληρο ερευνητικό και επαγγελματικό πεδίο που μελετά την «εμπειρία του χρήστη»), ο μέσος χρήστης έχει μία πρώτη ιδέα για το αν του αρέσει ή όχι μία ιστοσελίδα μέσα σε 50 milliseconds (1/20 του δευτερολέπτου). Μία ολόκληρη βιομηχανία ψηφιακής τεχνολογίας προσπαθεί να δημιουργήσει ιστοσελίδες και ψηφιακές εμπειρίες που θα είναι ολοένα και πιο άνετες, προσβάσιμες και συναισθηματικά ευχάριστες: σελίδες που θα δίνουν τον έλεγχο στον χρήστη.

Ωστόσο, έχει όντως έλεγχο ο χρήστης; Πού τελειώνει η φροντίδα του χρήστη και πού ξεκινά η κρυφή χειραγώγησή του; Ίσως το μεγαλύτερο πρόβλημα με την αλγοριθμική εξατομίκευση περιεχομένου και εφαρμογών είναι ακριβώς το ότι είναι κρυφή. Οι αλγόριθμοι της Google, του Facebook, της Yahoo, του Twitter, της Apple είναι τα μαύρα κουτιά του Διαδικτύου: λίγοι γνωρίζουν την ύπαρξή τους, ακόμη λιγότεροι καταλαβαίνουν τη σημασία τους, ελάχιστοι γνωρίζουν τα μυστικά τους.

Οι πληροφορίες γύρω από τις ρυθμίσεις και τα κριτήρια που χρησιμοποιούν οι αλγόριθμοι είναι ελάχιστες και συγκεχυμένες. Σύμφωνα με τον Pariser, το 2011 η Google χρησιμοποιούσε 57 σήματα: από το πού κάθεσαι και τι υπολογιστή έχεις μέχρι το τι browser χρησιμοποιείς για να μπαίνεις στο Διαδίκτυο. Αυτό που εμείς θεωρούμε ως μία απλή αναζήτηση στο Google απλώς δεν υφίσταται: τα αποτελέσματα που θα δω εγώ για ένα λήμμα πιθανόν να είναι εντελώς διαφορετικά από αυτά που θα δει κάποιος άλλος στον δικό του υπολογιστή, ακόμα και αν καθόμαστε δίπλα-δίπλα (μετά από έρευνα χρόνων, μπορώ να επιβεβαιώσω ότι αυτό ισχύει, αν και όχι πάντα).

Σύμφωνα με έρευνα της Taina Bucher —μία από τους λίγους ακαδημαϊκούς που έχουν ασχοληθεί με το θέμα—, οι τρεις βασικοί παράγοντες που χρησιμοποιούσε το Facebook με τον προηγούμενο αλγόριθμό του (EdgeRank) ήταν: (α΄) η προτίμηση (π.χ., όταν έχεις συχνότερες επαφές με κάποιους φίλους στο Facebook, τότε ο αλγόριθμος θα σου δείχνει περισσότερα ποστ από αυτούς), (β΄) το ειδικό βάρος (κάποιες διαδράσεις — όπως το να μοιράζεσαι ένα ποστ αντί απλώς να πατάς το «μου αρέσει» έχουν μεγαλύτερο αντίκτυπο), (γ΄) η χρονική φθορά (μετά από ένα χρονικό διάστημα, οι ειδήσεις των φίλων σου εξαφανίζονται από το news feed). Μετά το 2013, ο αλγόριθμος αυτός είναι αρκετά πιο περίπλοκος και εξελιγμένος.

Η έρευνα που κάνω τα τελευταία τέσσερα χρόνια με φοιτητές πάνω σ’ αυτό το θέμα δείχνει ότι οι περισσότεροι χρήστες —ακόμη και νέοι άνθρωποι που, υποτίθεται, ενηλικιώθηκαν στο ψηφιακό περιβάλλον— έχουν πλήρη άγνοια της ύπαρξης αυτών των αλγορίθμων και του πώς τους επηρεάζουν. Για την ακρίβεια, πολλοί ακόμη και σήμερα δεν έχουν αντιληφθεί ότι το Facebook έχει δύο διαφορετικές ροές αναρτήσεων: η ροή με τις πιο πρόσφατες ειδήσεις (Most Recent) παρουσιάζει επιλεγμένες αναρτήσεις από επιλεγμένο αριθμό φίλων σου με αντιστρόφως χρονολογική σειρά (η πιο πρόσφατη ανάρτηση εμφανίζεται πρώτη στη σελίδα). Η ροή με τις πιο «σημαντικές» ειδήσεις (Top Stories) παρουσιάζει επιλεγμένες αναρτήσεις (συνήθως αυτές που έχουν ήδη τα περισσότερα likes ή shares) από επιλεγμένο αριθμό φίλων σου με επιλεγμένη σειρά. Αυτό που πολλοί χρήστες ακόμα και σήμερα δεν γνωρίζουν είναι ότι τα ποστ που βλέπουν κάθε μέρα στο Facebook είναι μόνο ένα μικρό δείγμα αυτών που έχουν δημοσιευτεί από όλους τους φίλους τους. Εάν αναρωτιέστε γιατί δεν βλέπετε τα νέα κάποιου φίλου σας με τον οποίο έχετε καιρό να μιλήσετε, θα σας συνιστούσα να μπείτε στον δικό του τοίχο. Είναι πολύ πιθανόν να εκπλαγείτε βλέποντας ότι ο φίλος σας αυτός συνεχίζει συχνά να ποστάρει ειδήσεις — το Facebook όμως αποφάσισε ότι δεν είναι αρκετά σημαντικές για εσάς. Η επιλογή αυτή γίνεται από τον αλγόριθμο με βάση τις πολιτικές απόψεις, τις πολιτισμικές προτιμήσεις και την καθημερινή συμπεριφορά σας. Επιπλέον, με τις νέες ρυθμίσεις του Facebook είναι πλέον αδύνατον να ελέγξεις πόσες αναρτήσεις βλέπεις από τον κάθε φίλο σου, εκτός εάν επιλέξεις να λαμβάνεις ειδοποίηση για κάθε του ανάρτηση.

Πρίν λίγες ημέρες έκανε τον γύρο του κόσμου η φήμη/καταγγελία —από τα χείλη γνωστής ακαδημαϊκού— ότι το Facebook πλέον χρησιμοποιεί εργαλεία ανάλυσης της φωνής ώστε να εξατομικεύει το περιεχόμενο διαφημίσεων και περιεχομένου με βάση τα όσα προφορικά λέμε στα τηλεφωνήματα μας. Αν και η καθηγήτρια εντέλει ανασκεύασε τον ισχυρισμό που της αποδόθηκε, η τεχνολογία για να γίνει κάτι τέτοιο υπάρχει και είναι μάλλον θέμα χρόνου μέχρι να υπάρξει ακόμη μεγαλύτερη σύντηξη των όσων λέμε, γράφουμε και κάνουμε και των όσων μας προσφέρονται και προτείνονται ως περιεχόμενο, μηνύματα, προϊόντα και υπηρεσίες.

Η χρήση αλγορίθμων εξατομίκευσης έχει δημιουργήσει μία μεγάλη πρόκληση για τον ψηφιακό αλφαβητισμό (digital literacy), όχι μόνο μεγαλύτερων σε ηλικία χρηστών που μπορεί να δυσκολεύονται να χρησιμοποιήσουν κάποιες από τις διαθέσιμες ψηφιακές εφαρμογές, αλλά και για όλους τους χρήστες, ανεξαρτήτως ηλικίας και τεχνολογικών γνώσεων. Ταυτόχρονα, εγείρει σοβαρότατα ερωτήματα για την προστασία των προσωπικών μας δεδομένων και την ύπαρξη ή έλλειψη ελέγχου ως προς το τι βλέπουμε, ακούμε και διαβάζουμε και με ποιους συναναστρεφόμαστε. Με δεδομένο όμως ότι οι πρακτικές αυτές εξατομίκευσης και στόχευσης έχουν πλέον γίνει αναπόσπαστο κομμάτι του πολιτικού ανταγωνισμού (κυρίως στις ΗΠΑ) και με το ότι πριμοδοτούν την ομαδοποίηση των πολιτών με βάση αυτά που τους «βολεύει» να ακούν και να βλέπουν, οι κίνδυνοι για τη δημοκρατία είναι μη αμελητέοι.

[ Εικόνα: Ο Μονόλιθος από το 2001: Η Οδύσσεια του Διαστήματος ].