Σημείωση υπόθεσης Stichting Clara Wichmann κατά Meta Platforms Ireland Ltd.

Αυτό το ιστολόγιο δημοσιεύτηκε αρχικά στα ολλανδικά στο Nederland Rechtsstaat.

Στις 18 Φεβρουαρίου ^, το Ολλανδικό Κολλέγιο για τα Ανθρώπινα Δικαιώματα (επιπλέον: Κολλέγιο) έλαβε μια σημαντική απόφαση σχετικά με το καθεστώς των θεμελιωδών δικαιωμάτων και τη ρύθμιση της πλατφόρμας . Το Κολλέγιο εξειδικεύεται σε υποθέσεις θεμελιωδών δικαιωμάτων. Οι αποφάσεις του Κολλεγίου δεν είναι δεσμευτικές, αλλά έχουν μεγάλο βάρος και οι δικαστές συχνά ακολουθούν τις αποφάσεις του Κολλεγίου. Η απόφαση του Κολλεγίου σχετικά με τη ρύθμιση του αλγόριθμου που αναπτύσσεται από το Facebook είναι επομένως πιθανό να ακολουθηθεί από δικαστή.

Η υπόθεση αφορά το δικαίωμα της μη διάκρισης στις πλατφόρμες μέσων κοινωνικής δικτύωσης. Οι πλατφόρμες μέσων κοινωνικής δικτύωσης έχουν υποβληθεί σε διάφορες υποθέσεις θεμελιωδών δικαιωμάτων. Οι πιο διάσημες μεταξύ των οποίων είναι ίσως οι υποθέσεις του Max Schrems . Αυτές οι περιπτώσεις αφορούσαν κοινή χρήση δεδομένων από το Facebook (τώρα: Meta) σε διακομιστές δεδομένων εκτός ΕΕ. Ωστόσο, η υπό συζήτηση υπόθεση προχωρά ένα βήμα παραπέρα στην προστασία των ανθρωπίνων δικαιωμάτων.

Είναι η πρώτη περίπτωση όπου μια Ευρωπαϊκή Ακαδημία Ανθρωπίνων Δικαιωμάτων επιβεβαίωσε παραβίαση των ανθρωπίνων δικαιωμάτων . Συγκεκριμένα, το Κολλέγιο θεώρησε ότι ο αλγόριθμος του Facebook παραβίαζε την αρχή της μη διάκρισης. Το έκανε εμφανίζοντας κενές θέσεις εργασίας κυρίως σε ιστορικούς στερεοτυπικούς ρόλους φύλου. Αυτή η απόφαση είναι ενδιαφέρουσα για διάφορους λόγους καθώς κάνει ένα νέο βήμα στην προστασία των ανθρωπίνων δικαιωμάτων στη σχέση μεταξύ χρήστη και πλατφόρμας. Η απόφαση αυτή προσθέτει στην προστασία των θεμελιωδών δικαιωμάτων στο πλαίσιο της ψηφιακής ατζέντας της ΕΕ. Η προστασία προέρχεται επιπλέον από μια απροσδόκητη γωνία. Αντί να βασίζει την απόφασή του σε «νέα» νομοθεσία όπως η DSA ή η AI-Act, το Συλλογικό Όργανο χρησιμοποιεί την εθνική εφαρμογή της Οδηγίας 2000/78 για την ίση μεταχείριση στην απασχόληση και την εργασία . Αυτή η απόφαση, ωστόσο, δείχνει επίσης τη δυσκολία αξιολόγησης πολύπλοκων αλγορίθμων, καθώς η απόφαση αποτυγχάνει να ασχοληθεί με τη λειτουργία τέτοιων αλγορίθμων.

Τα γεγονότα της υπόθεσης:

Η υπόθεση αφορούσε τις διαφημίσεις που προβάλλονται από το Facebook, μέρος του ομίλου Meta Ireland. Δύο ενώσεις, η ένωση Global Witness και Clara Wichmann, παραπονέθηκαν για διακρίσεις λόγω φύλου. Σύμφωνα με έρευνα που έγινε από αυτές τις ενώσεις, ο αλγόριθμος αναπτύχθηκε για να προσδιορίσει σε ποιους χρήστες έδειχναν ποιες αγγελίες εργασίας από το Facebook, έκαναν διακρίσεις μεταξύ ανδρών και γυναικών. Οι κενές θέσεις για γραμματέα εμφανίστηκαν κυρίως σε γυναίκες χρήστες (86% το 2022 και 97% το 2023). Ωστόσο, η κενή θέση του μηχανικού έφτασε σε ένα κυρίως ανδρικό κοινό (96% τόσο το 2022 όσο και το 2023). Το λιγότερο διαφοροποιητικό αποτέλεσμα ήταν η κενή θέση για εκπαιδευτικό πρωτοβάθμιας εκπαίδευσης (93% γυναίκες χρήστες το 2022 και 85% το 2023). Ως εκ τούτου, οι ενάγοντες υποστήριξαν ότι αυτό διαιωνίζει τα στερεότυπα και οδηγεί σε διακρίσεις (παρ. 7.5). Ως εκ τούτου, οι ενάγοντες θεώρησαν ότι αυτό αποτελεί παραβίαση της νομοθεσίας περί ίσης μεταχείρισης (Οδηγία 2000/78).

Διαφορική θεραπεία:

Το Κολλέγιο διαπιστώνει ότι η έρευνα που διεξήχθη από τους ενάγοντες δείχνει ότι το Facebook διαφοροποιείται έντονα με βάση το φύλο. Σύμφωνα με την Οδηγία, η διαφορετική μεταχείριση με βάση το φύλο επιτρέπεται μόνο σε πολύ περιορισμένες περιπτώσεις. Ένα παράδειγμα των οποίων είναι οι αθλητικοί αγώνες όπου το φύλο μπορεί να διαχωριστεί για να εξασφαλιστεί ισότιμος ανταγωνισμός. Εναλλακτικά, μια εταιρεία μπορεί να εισαγάγει μια ουδέτερη πολιτική για την επίτευξη ενός θεμιτού στόχου. Εάν, ωστόσο, η πολιτική αυτή προκαλεί διακρίσεις, μπορεί να εφαρμοστεί μόνο όταν οι στόχοι είναι θεμιτές και το μέτρο είναι αναλογικό.

Η Global Witness είχε δημιουργήσει 9 κενές θέσεις εργασίας. Το μόνο κριτήριο για τη διαφήμιση που διατύπωσε η Global Witness ήταν ότι ο θεατής ήταν ενήλικας που ζούσε στην Ολλανδία. Τα αποτελέσματα έδειξαν έντονα ότι υπήρχε προκατάληψη του φύλου. Π.χ. το διαφημιστικό κοινό που επέλεξε ο αλγόριθμος του Facebook αποτελούνταν από γυναίκες κατά 97%. Ο εναγόμενος δεν μοιράστηκε τον αλγόριθμό του με το Κολλέγιο (παρ. 7.6). Ο Meta, ωστόσο, υποστήριξε ότι το φύλο δεν ήταν πάντα μέρος της λήψης αποφάσεων των αλγορίθμων. Αντίθετα, η απόφαση εμφάνισης μιας διαφήμισης βασίστηκε γενικά στη συμπεριφορά κλικ του χρήστη. Το Κολλέγιο θεώρησε ότι δεν μπορούσε να προσδιοριστεί ότι το φύλο ήταν πάντα κριτήριο στην απόφαση του αλγόριθμου. Το Κολλέγιο, ωστόσο, θεώρησε ότι η συμπεριφορά κλικ των χρηστών μπορεί να οδηγήσει σε ένα μονόπλευρο αποτέλεσμα. Αποτελούσε επομένως έμμεση, παρά άμεση διαφοροποίηση (παρ. 7.9). Το Κολέγιο στο επιχείρημά του φαίνεται να μην κατανοεί πώς λειτουργούν οι (σύνθετοι) αλγόριθμοι. Ένας αλγόριθμος είναι πολύ απίθανο να (ψευδο)τυχαία εφαρμογή κριτηρίων. Μάλλον εφαρμόζει όλα τα κριτήρια σε όλες τις αποφάσεις, αλλά έχει διαφορετική βαρύτητα σε κάθε κριτήριο. Στην περίπτωση του Meta φαίνεται ότι ο αλγόριθμος αποδίδει μεγάλη βαρύτητα στο φύλο, το οποίο μόνο σε εξαιρετικές περιπτώσεις «υπερκαλύπτεται» από τα άλλα κριτήρια που δημιουργούνται μέσω της συμπεριφοράς κλικ, του εισαγόμενου βαθμού κ.λπ.

Το Σώμα συμφωνεί με την υπεράσπιση του Meta ότι τα κριτήρια που χρησιμοποιούνται είναι δυναμικά (παρ. 7.7). Φαίνεται, ωστόσο, ότι το Κολλέγιο αντιφάσκει σε αυτό το σημείο. Σε άλλο σημείο της απόφασής του, το Συλλογικό Όργανο αναφέρει ότι εάν ο αλγόριθμος παραμείνει άγνωστος και κανένα στοιχείο δεν αναιρεί την εκ πρώτης όψεως ένδειξη, ο κίνδυνος μη αποκάλυψης βαρύνει τη Meta. Ωστόσο, εδώ, φαίνεται να αποδέχεται τον ισχυρισμό του Meta ότι το φύλο δεν ήταν πάντα ένας παράγοντας. Θεωρητικά, μπορεί να υποστηριχθεί ότι οι διαφημίσεις εμφανίζονταν και στο αντίθετο φύλο και επομένως ο αλγόριθμος δεν λαμβάνει υπόψη το φύλο σε κάθε απόφαση. Είναι εξαιρετικά απίθανο να συμβαίνει κάτι τέτοιο, καθώς οι αλγόριθμοι δεν εφαρμόζονται τυχαία και αγνοούν κριτήρια.

Ενώ η Meta δεν μοιράζεται την ακριβή κωδικοποίηση του αλγόριθμου του Facebook, είναι πιθανό να χρησιμοποιούν ένα είδος αλγόριθμου νευρωνικών δικτύων . Αυτοί οι τύποι αλγορίθμων μπορούν να αναγνωρίσουν μοτίβα και να επεξεργαστούν σύνθετες πληροφορίες. Η επεξεργασία αυτών των πληροφοριών γίνεται μέσω διαφόρων νευρώνων . Αυτοί οι νευρώνες συνδέονται μεταξύ τους σε διαφορετικά στρώματα. Το αποτέλεσμα εξαρτάται από την είσοδο και τη σχέση μεταξύ των διαφορετικών νευρώνων ( βλ. εικόνα παρακάτω) .

Όπως αποδείχθηκε παραπάνω, ορισμένα χαρακτηριστικά μπορεί να έχουν μεγαλύτερο βάρος που οδηγεί στην εμφάνιση του προϊόντος (διαφήμιση) σε μια γυναίκα χρήστη. Στο παραπάνω χρονοδιάγραμμα, ο μεσαίος νευρώνας έχει μια ισχυρή σχέση με την έξοδο μιας γυναίκας χρήστη. Το ερώτημα λοιπόν είναι ποιο κριτήριο αντιπροσωπεύει αυτός ο μεσαίος νευρώνας. Αυτό θα μπορούσε κυριολεκτικά να είναι το κριτήριο «φύλο» που καθιστά την άμεση διαφοροποίηση. Θα μπορούσε επίσης να είναι ένα πιο «ουδέτερο» καθορισμένο κριτήριο όπως «ιστορικό αγορών». Αυτό το είδος κριτηρίου μπορεί πράγματι να θεωρηθεί ως έμμεση διαφοροποίηση, καθώς είναι εκ πρώτης όψεως ένα ουδέτερο κριτήριο. Ωστόσο, ούτε αυτό το κριτήριο μπορεί να είναι πραγματικά ουδέτερο. Η ιστορία των αγορών μπορεί να είναι αρκετά ουδέτερη, όπως τα παντοπωλεία – πιθανώς οι άνθρωποι που αγοράζουν γάλα ενδιαφέρονται περισσότερο για θέσεις γραμματέα και τυχαίνει να είναι κυρίως γυναίκες. Ωστόσο, το ιστορικό αγορών μπορεί επίσης να οριστεί ως «όσοι αγόρασαν πρόσφατα προϊόντα γυναικείας υγιεινής». Σε ένα νευρωνικό δίκτυο, αυτό το κριτήριο μπορεί να συνδεθεί στενά με άλλα κριτήρια όπως «αγορασμένα γυναικεία παπούτσια». Θεωρητικά, τόσο οι άνδρες όσο και οι γυναίκες μπορούν να αγοράσουν αυτά τα αντικείμενα. Επομένως, ακόμη και ένας συνδυασμός τέτοιων κριτηρίων δεν συνιστά άμεση αναφορά στο φύλο.

Ο συνδυασμός αυτών των κριτηρίων με ένα συνημμένο μεγάλου βάρους καταδεικνύει νομική δυσκολία. δηλαδή ο νόμος βασίζεται σε δυαδικά. Ένα μέτρο είτε διαφοροποιεί άμεσα την πρόθεσή του είτε διαφοροποιεί ακούσια μέσω των αποτελεσμάτων του. Η γραμμή μεταξύ άμεσης και έμμεσης διαφοροποίησης εξασθενεί όσον αφορά τους αλγόριθμους και τα μεγάλα δεδομένα. Οι αλγόριθμοι και τα μέσα κοινωνικής δικτύωσης τμηματοποιούν τους χρήστες σε ομάδες για (δυνητικά) βελτιστοποίηση της διαφήμισης . Αυτά τα τμήματα μπορεί να μην περιλαμβάνουν άμεσα το φύλο (ή οποιοδήποτε άλλο προστατευμένο χαρακτηριστικό), αλλά μπορούν να αποκλείσουν στατιστικά όλους τους άλλους. Συγκεκριμένα, το ιστορικό αγορών των ατόμων που αγόρασαν προϊόντα γυναικείας υγιεινής και γυναικεία ρούχα – δεν αναφέρεται στο φύλο. Ωστόσο, είναι απίθανο η εκπροσώπηση των ανδρών σε αυτήν την ομάδα να είναι στατιστικά σημαντική. Θέτοντας το ερώτημα: σε ποιο σημείο τα ουδέτερα χαρακτηριστικά είναι τόσο συγκεκριμένα και ζυγισμένα τόσο έντονα – ώστε να συνιστά άμεση διαφοροποίηση; Αυτή η ερώτηση δεν συζητείται επί του παρόντος από το Κολλέγιο, αλλά γίνεται πιο επείγον όσον αφορά τη λήψη αλγοριθμικών αποφάσεων.

Η προσέγγιση του Κολλεγίου, ωστόσο, η οποία υποθέτει ότι το φύλο μπορεί να ήταν ένας παράγοντας κατά καιρούς, είναι απίθανο να αντικατοπτρίζει την πραγματικότητα. Όλα τα κριτήρια αποτελούν πάντα μέρος της εξέτασης, μάλλον το βάρος τους μπορεί να είναι διαφορετικό ανάλογα με την είσοδο. Η άμεση διαφοροποίηση είναι νόμιμη μόνο σε λίγες περιπτώσεις που αναφέρονται συγκεκριμένα. Π.χ. όταν αναζητείται ένας ηθοποιός, το casting μπορεί να καθορίσει το απαιτούμενο φύλο. Το Σώμα, ωστόσο, αποφάσισε να θεωρήσει τη συμπεριφορά του αλγορίθμου ως έμμεση διαφοροποίηση που μπορεί να είναι νόμιμη εάν το μέτρο έχει θεμιτό στόχο που μπορεί να επιτύχει τον στόχο και είναι αναλογικό.

Νομιμότητα της έμμεσης Διαφοροποίησης

Η έμμεση διαφοροποίηση θεωρείται νόμιμη όταν το μέτρο έχει θεμιτό σκοπό, μπορεί να επιτύχει τον στόχο και είναι αναλογικό . Η απόφαση του Συλλόγου σε αυτή την περίπτωση είναι ότι υπάρχει θεμιτός και αμερόληπτος στόχος. δηλαδή υψηλά έσοδα για τους διαφημιστές (παρ. 7.11-7.12). Ομοίως, το Κολλέγιο θεωρεί ότι ο αλγόριθμος που έχει αναπτυχθεί είναι σε θέση να επιτύχει τον στόχο της βελτίωσης της αποτελεσματικότητας της διαφήμισης (παρ. 7.13). Το Κολλέγιο, ωστόσο, δεν ζητά να αποδειχθεί η αποτελεσματικότητα. Το Κολλέγιο αποδέχεται ότι ο αλγόριθμος είναι αποτελεσματικός για την επίτευξη βελτιστοποίησης διαφημίσεων. Ενώ οι αλγόριθμοι γενικά μπορούν να είναι ένα αποτελεσματικό μέτρο για την επίτευξη αποτελεσματικής διαφήμισης, δεν υπάρχει καμία εγγύηση. Συγκριτικά, το Κολλέγιο υποθέτει ότι επειδή μια πολιτική ασφάλειας της εταιρείας μπορεί να είναι αποτελεσματική, επομένως όλες οι πολιτικές ασφάλειας της εταιρείας είναι αποτελεσματικές. Σε άλλες περιπτώσεις , ωστόσο, το Συλλογικό Όργανο διερευνά εάν το συγκεκριμένο μέτρο είναι αποτελεσματικό, αντί να υιοθετεί μια γενικευμένη προσέγγιση. Για να προσδιοριστεί η αποτελεσματικότητα του αλγορίθμου επιπλέον δεν απαιτείται ο πραγματικός αλγόριθμος. Η αποτελεσματικότητά του μπορεί να υποδειχθεί από τα ποσοστά κλικ και μετατροπών . Αυτά τα στατιστικά στοιχεία μπορούν να υποδείξουν την αποτελεσματικότητα δείχνοντας το ποσοστό των θεατών που έκαναν κλικ στη διαφήμιση. Το Κολλέγιο θα μπορούσε να ζητήσει αυτά ή άλλα κριτήρια για να υποδείξει την αποτελεσματικότητα του αλγορίθμου. Ως εκ τούτου, τοποθετείται ένα ισχυρότερο βάρος απόδειξης στη Meta για να ελέγξει την ποιότητα των αλγορίθμων τους.

Το Σώμα οριστικοποιεί την απόφασή του εξετάζοντας την έλλειψη αναλογικότητας. Θεωρεί ότι η Meta δεν έχει αποδείξει επαρκή στοιχεία για την εξουδετέρωση των ανεπιθύμητων παρενεργειών που εισάγουν διακρίσεις (παρ. 7.17). Επειδή δεν έχουν ληφθεί τέτοια μέτρα, το Κολλέγιο θεωρεί ότι ο αλγόριθμος είναι δυσανάλογος. Λόγω έλλειψης αναλογικότητας, ο αλγόριθμος θεωρείται ότι διαφοροποιεί παράνομα τα φύλα. Οι αποφάσεις του Κολλεγίου δεν είναι δεσμευτικές αλλά γενικά σεβαστές και ως εκ τούτου, δεν υπάρχει άμεση υποχρέωση για τη Meta βάσει αυτής της απόφασης. Ωστόσο, η ένωση Clara Wichmann σκέφτεται να προσφύγει στα δικαστήρια. Η απόφαση του Συλλόγου έχει ουσιαστική βαρύτητα στις εθνικές διαδικασίες.

Γενικές επιπτώσεις στο ψηφιακό θεματολόγιο της ΕΕ

Η απόφαση του Κολλεγίου έχει ορισμένες ενδιαφέρουσες συνέπειες για την ψηφιακή ατζέντα της ΕΕ . Η ψηφιακή ατζέντα της ΕΕ εντοπίζει τον κίνδυνο που έχουν τα μέσα κοινωνικής δικτύωσης για τη δημοκρατία. Ως απάντηση, ο Νόμος για τις Ψηφιακές Υπηρεσίες (DSA) στοχεύει να ρυθμίσει τις διαδικτυακές πλατφόρμες, συμπεριλαμβανομένων των πλατφορμών κοινωνικής δικτύωσης. Το DSA στοχεύει στην προώθηση και προστασία των θεμελιωδών δικαιωμάτων που περιλαμβάνονται στον Χάρτη. Η δυσκολία είναι ότι η DSA απέχει από το να επιβαρύνει υψηλά τους παρόχους πλατφόρμας.

Οι πάροχοι έχουν δύο καθήκοντα όσον αφορά τις ψηφιακές διαφημίσεις . Το πρώτο είναι αυτό της παροχής διαφάνειας προς τους χρήστες, γιατί εμφανίζονται ορισμένες προσθήκες σε αυτούς. Ως εκ τούτου, είναι ενδιαφέρον ότι το Κολλέγιο επέλεξε να μην απαιτήσει περισσότερες πληροφορίες σχετικά με το γιατί ο αλγόριθμος επέλεξε έναν τόσο μεγάλο αριθμό χρηστών με συγκεκριμένο φύλο. Η DSA επιπλέον απαγορεύει την εμφάνιση προσθέτων βάσει προφίλ με τη χρήση ειδικής κατηγορίας προσωπικών δεδομένων. Το φύλο δεν περιλαμβάνεται ως τέτοια κατηγορία, επομένως δεν απαγορεύεται από το DSA. Γενικά, τα καθήκοντα βάσει του DSA δεν θεωρούνται τόσο αυστηρά. Ωστόσο, η απόφαση του Συλλόγου δείχνει ότι τα καθήκοντα των παρόχων υπηρεσιών δεν ρυθμίζονται απλώς από την DSA. Εάν αυτή η απόφαση επικυρωθεί από τα δικαστήρια (και ενδεχομένως το ΔΕΕ), μπορεί να οδηγήσει σε αλλαγή του κανονισμού της πλατφόρμας. Όπου το DSA επικεντρώνεται περισσότερο στα δικαιώματα προσβασιμότητας και στην πρόληψη περιττών καταργήσεων, ενώ η νομοθεσία περί ισότητας παρέχει τη βάση για την κρίση των αλγορίθμων.

Η εξέλιξη αυτή είναι ενδιαφέρουσα για δύο λόγους. Το πρώτο είναι ότι δείχνει ότι τα μέσα κοινωνικής δικτύωσης μπορούν να λογοδοτήσουν μέσω «παλιών» νόμων. Οι νέοι νόμοι μπορεί να μην είναι πάντα απαραίτητοι όσον αφορά την τεχνολογική ανάπτυξη. Δεύτερον, μπορεί να οδηγήσει σε διάσπαση της νομοθεσίας σύμφωνα με την οποία η DSA προστατεύει πρωτίστως την ελευθερία του λόγου του χρήστη μέσω της προσβασιμότητας και της περιττής προστασίας κατά της κατάργησης. Άλλα δικαιώματα, όπως η μη διάκριση, προστατεύονται μέσω άλλων νόμων. Η απόφαση, εάν επικυρωθεί, παρέχει επιπλέον τα θεμέλια για περισσότερη προστασία των θεμελιωδών δικαιωμάτων σε άλλους τομείς. Π.χ. θα είναι ενδιαφέρον να δούμε εάν η Γερμανία υιοθετεί παρόμοια προσέγγιση όσον αφορά τον αλγόριθμο των μέσων κοινωνικής δικτύωσης που ανέπτυξε ο X. Όπως φαίνεται ότι ο Χ μπορεί να παρενέβη στις γερμανικές εκλογές για λογαριασμό μιας περιορισμένης ομάδας κομμάτων . Ο DSA ρυθμίζει τις πολιτικές διαφημίσεις, αλλά αυτές είναι διαφημίσεις επί πληρωμή. Οι προεδρικές εκλογές των ΗΠΑ έδειξαν ότι η αλγοριθμική χειραγώγηση από τον Χ μπορεί να έχει ισχυρό αντίκτυπο. Ωστόσο, οι ακριβείς εξελίξεις τέτοιων διαδικασιών θα χρειαστούν χρόνο.

Μια άλλη ενδιαφέρουσα εξέλιξη από αυτήν την υπόθεση μπορεί να είναι ο αντίκτυπος στον νόμο AI . Αυτός ο νόμος δεν εφαρμόζεται στην υπόθεση κατά της Meta. Ο νόμος περί τεχνητής νοημοσύνης εισήχθη το 2024 και οι εν λόγω διαφημίσεις αναρτήθηκαν το 2022 και το 2023. Ο νόμος περί τεχνητής νοημοσύνης απαγορεύει την ανάπτυξη υποσυνείδητης τεχνητής νοημοσύνης. Ο ορισμός του υποσυνείδητου είναι επί του παρόντος ασαφής. Περιπτώσεις όπως αυτή μπορούν να χρησιμοποιηθούν για να προσδιοριστεί πότε ένας αλγόριθμος μπορεί να οριστεί ως υποσυνείδητος. Το Κολλέγιο προσδιορίζει σαφώς μια βλάβη. διαιωνίζοντας (μεροληπτικά) στερεότυπα. Επιπλέον, τα αποτελέσματα του αλγορίθμου είναι αόρατα για τον μεμονωμένο χρήστη, καθώς οι χρήστες γενικά δεν θα γνωρίζουν γιατί ένας αλγόριθμος τους εμφανίζει συγκεκριμένες διαφημίσεις.

Η Annelieke Mooij είναι επίκουρη καθηγήτρια διοικητικού και συνταγματικού δικαίου στη Νομική Σχολή του Tilburg. Ενδιαφέρεται για το δίκαιο και την τεχνολογία και γράφει για αλγόριθμους, εικονική πραγματικότητα και FinTech.