Γεώργιος Αποστολάκης: Το νέο Σύστημα Πιστοληπτικής Αξιολόγησης ΜΕΡΟΣ Β'

ΜΕΡΟΣ ΔΕΥΤΕΡΟ

Όταν αποφασίζει ο αλγόριθμος: ποιος προστατεύει τον πολίτη;

GDPR, Τεχνητή Νοημοσύνη και οι νομικές κόκκινες γραμμές απέναντι στη μετατροπή της πιστοληπτικής αξιολόγησης σε κοινωνική βαθμολόγηση

Στο πρώτο μέρος είδαμε τι αλλάζει με το νέο Σύστημα Πιστοληπτικής Αξιολόγησης. Το κράτος δεν περιορίζεται πλέον στην καταγραφή οικονομικών δεδομένων. Τα επεξεργάζεται, τα συσχετίζει και, με τη βοήθεια στατιστικών μεθόδων και αλγορίθμων μηχανικής μάθησης, κατατάσσει τον πολίτη σε πιστοληπτική βαθμίδα.

Είδαμε επίσης κάτι ακόμη σημαντικότερο: ότι ο ίδιος ο ν. 4972/2022 προβλέπει μηχανισμούς μελλοντικής τροποποίησης τόσο των δεδομένων οικονομικής συμπεριφοράς, όσο και των σκοπών για τους οποίους μπορεί να χρησιμοποιείται η βαθμολόγηση.

Από εκεί και πέρα όμως αρχίζει ένα διαφορετικό ερώτημα. Τι συμβαίνει όταν ο αλγόριθμος κάνει λάθος; Ποιος μπορεί να αμφισβητήσει την κρίση του; Μπορεί ο πολίτης να μάθει γιατί βαθμολογήθηκε με C αντί για Β; Μπορεί μια απόφαση που επηρεάζει ουσιαστικά τη ζωή του να λαμβάνεται αποκλειστικά από μια μηχανή;

Και, κυρίως, υπάρχει ένα σημείο πέρα από το οποίο η οικονομική αξιολόγηση παύει να αποτελεί νόμιμο credit scoring και μετατρέπεται σε κάτι διαφορετικό: σε κοινωνική βαθμολόγηση του ανθρώπου; Εδώ πλέον δεν μιλάμε για τεχνολογία. Μιλάμε για δικαιώματα.

1. Ο αλγόριθμος δεν βρίσκεται υπεράνω του νόμου

Ας ξεκινήσουμε από μία βασική παραδοχή. Το γεγονός ότι μια απόφαση παράγεται από έναν αλγόριθμο δεν την καθιστά ούτε αντικειμενική ούτε αλάνθαστη. Ο αλγόριθμος λειτουργεί με τα δεδομένα που του δίνουμε και με τα κριτήρια που έχουν επιλέξει οι άνθρωποι που τον σχεδίασαν. Αν τα δεδομένα είναι λανθασμένα, η βαθμολογία μπορεί να είναι λανθασμένη. Αν είναι παρωχημένα, το αποτέλεσμα μπορεί να περιγράφει έναν άνθρωπο που δεν υπάρχει πλέον οικονομικά. Και αν τα κριτήρια δεν αποτυπώνουν σωστά την πραγματικότητα, η μαθηματική ακρίβεια του αποτελέσματος δεν θεραπεύει το πρόβλημα.

Γι' αυτό ο GDPR δεν αντιμετωπίζει την αυτοματοποιημένη λήψη αποφάσεων ως ένα απλό τεχνικό ζήτημα. Το άρθρο 22 κατοχυρώνει, υπό τις προϋποθέσεις που τάσσει, το δικαίωμα του προσώπου να μην υπόκειται σε απόφαση που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία, περιλαμβανομένης της κατάρτισης προφίλ,  όταν αυτή παράγει έννομα αποτελέσματα ή το επηρεάζει σημαντικά με παρόμοιο τρόπο.

Υπάρχουν βέβαια εξαιρέσεις. Η αυτοματοποιημένη απόφαση μπορεί να επιτρέπεται, για παράδειγμα, όταν είναι αναγκαία για σύμβαση, όταν προβλέπεται από το δίκαιο με κατάλληλες εγγυήσεις ή όταν στηρίζεται στη ρητή συγκατάθεση του προσώπου.

Αλλά ακόμη και τότε δεν εξαφανίζονται τα δικαιώματα του ανθρώπου. Και εδώ βρίσκεται η πρώτη θεμελιώδης αρχή: η χρήση αλγορίθμου δεν δημιουργεί μια ζώνη χωρίς δίκαιο.

2. «Το έβγαλε το σύστημα» δεν μπορεί να είναι απάντηση

Ας υποθέσουμε ότι ένας πολίτης ζητεί μια σημαντική χρηματοδότηση. Η αίτησή του απορρίπτεται. Ρωτά γιατί. Και λαμβάνει την απάντηση: «Δεν πέρασε το σύστημα». Αυτή η φράση μπορεί να είναι καθημερινά οικεία. Νομικά όμως δεν μπορεί να αποτελεί το τέλος της συζήτησης.

Η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα επισημαίνει ότι στην αυτοματοποιημένη επεξεργασία και κατάρτιση προφίλ πρέπει να εξασφαλίζεται διαφάνεια και να παρέχονται πληροφορίες, μεταξύ άλλων, για την ύπαρξη αυτοματοποιημένης λήψης αποφάσεων, τη λογική που ακολουθείται, καθώς και τη σημασία και τις προβλεπόμενες συνέπειες της επεξεργασίας.

Αυτό δεν σημαίνει κατ' ανάγκην ότι κάθε πολίτης δικαιούται να πάρει στα χέρια του τον πηγαίο κώδικα του αλγορίθμου. Σημαίνει όμως ότι πρέπει να μπορεί να καταλάβει, σε ουσιαστικό βαθμό ποια στοιχεία τον επηρέασαν, ποια λογική ακολουθήθηκε και γιατί το αποτέλεσμα τον αφορά με αυτόν τον τρόπο.

Διαφορετικά δημιουργείται ένα νέο είδος διοικητικής αδιαφάνειας.

Παλιότερα ο πολίτης μπορούσε να βρεθεί απέναντι στην απάντηση: «Έτσι αποφάσισε η υπηρεσία». Στην ψηφιακή εποχή δεν πρέπει να τη δεχθούμε μεταμφιεσμένη σε: «Έτσι αποφάσισε ο αλγόριθμος».

3. Το δικαίωμα να ζητήσεις άνθρωπο απέναντί σου

Ο GDPR προβλέπει μια ακόμη πολύ σημαντική εγγύηση.

Στις περιπτώσεις που ορίζει το άρθρο 22, ο πολίτης πρέπει να έχει κατάλληλα μέτρα προστασίας και, ιδίως, δικαίωμα να ζητήσει ανθρώπινη παρέμβαση, να εκφράσει την άποψή του και να αμφισβητήσει την απόφαση.

Αυτή η εγγύηση έχει πολύ μεγαλύτερη σημασία από όσο φαίνεται.

Ας επιστρέψουμε στον άνθρωπο του παραδείγματος του πρώτου μέρους. Έμεινε άνεργος. Για έξι μήνες δεν μπορούσε να ανταποκριθεί πλήρως στις υποχρεώσεις του. Δημιουργήθηκαν ληξιπρόθεσμες οφειλές. Βρήκε όμως ξανά εργασία, τις ρύθμισε και έκτοτε πληρώνει κανονικά. Ο αλγόριθμος βλέπει το ιστορικό. Ο άνθρωπος που θα επανεξετάσει την περίπτωση πρέπει να μπορεί να δει και την ιστορία πίσω από το ιστορικό.

Εδώ βρίσκεται ίσως η ουσιαστικότερη διαφορά μεταξύ ανθρώπινης κρίσης και αυτοματοποιημένης πρόβλεψης. Η πρώτη μπορεί να αντιληφθεί την εξαίρεση. Η δεύτερη αναζητεί το πρότυπο.

Γι' αυτό η ανθρώπινη παρέμβαση δεν πρέπει να καταντήσει τυπική επικύρωση αυτού που ήδη αποφάσισε η μηχανή. Πρέπει να είναι πραγματική δυνατότητα διαφορετικής κρίσης.

4. Αν είναι λάθος τα δεδομένα, είναι λάθος και ο πολίτης;

Υπάρχει ακόμη ένα πρόβλημα. Τι γίνεται εάν το σύστημα «γνωρίζει» κάτι που όμως δεν είναι ανταποκρίνεται στην αλήθεια;

Μια οφειλή μπορεί να έχει εξοφληθεί και να μην έχει ενημερωθεί εγκαίρως το αρχείο. Μια ρύθμιση μπορεί να εμφανίζεται λανθασμένα. Μπορεί να έχει γίνει εσφαλμένη αντιστοίχιση. Ή μια πληροφορία να είναι μεν ιστορικά αληθινή αλλά να έχει χάσει πλέον τη σημασία που είχε.

Ο GDPR κατοχυρώνει δικαιώματα πρόσβασης, διόρθωσης και, υπό προϋποθέσεις, περιορισμού της επεξεργασίας.

Στο credit scoring αυτά τα δικαιώματα αποκτούν ιδιαίτερη βαρύτητα. Γιατί ένα λανθασμένο δεδομένο δεν παραμένει απλώς ένα λάθος μέσα σε μια βάση. Μπορεί να τροφοδοτήσει έναν αλγόριθμο. Ο αλγόριθμος να δημιουργήσει λανθασμένη βαθμολογία. Και η λανθασμένη βαθμολογία να επηρεάσει μια πραγματική απόφαση.

Ένα μικρό πληροφοριακό λάθος μπορεί έτσι να μετατραπεί σε μεγάλη πραγματική συνέπεια. Γι' αυτό η διόρθωση δεν αρκεί να είναι δικαίωμα στα χαρτιά. Πρέπει να είναι γρήγορη, αποτελεσματική και να οδηγεί, όπου απαιτείται, σε νέα βαθμολόγηση.

5. Το βαθύτερο πρόβλημα: για ποιον σκοπό συλλέχθηκαν τα δεδομένα μου;

Εδώ φθάνουμε σε ένα από τα δυσκολότερα ζητήματα.

Ο GDPR θεμελιώνεται, μεταξύ άλλων, στην αρχή του περιορισμού του σκοπού. Τα προσωπικά δεδομένα δεν συλλέγονται επειδή απλώς «μπορεί κάποτε να φανούν χρήσιμα». Συλλέγονται για συγκεκριμένους, σαφείς και νόμιμους σκοπούς και η περαιτέρω χρήση τους δεν είναι απεριόριστη.

Αυτό έχει ιδιαίτερη σημασία μετά την αποκάλυψη που παρουσιάσαμε στο πρώτο μέρος. Ο ν. 4972/2022 επιτρέπει, με προεδρικό διάταγμα και υπό τις προβλεπόμενες εγγυήσεις, να συμπληρωθούν ή να τροποποιηθούν τα δεδομένα οικονομικής συμπεριφοράς και να προστεθούν ή να τροποποιηθούν σκοποί επεξεργασίας, χορήγησης και διαβίβασης της βαθμολόγησης.

Η εξουσιοδότηση αυτή όμως δεν είναι λευκή επιταγή.

Κάθε μελλοντική επέκταση θα πρέπει να κριθεί και υπό το υπερκείμενο ευρωπαϊκό δίκαιο: Είναι ο νέος σκοπός νόμιμος; Είναι αναγκαία τα συγκεκριμένα δεδομένα; Είναι αναλογική η χρήση τους; Συνδέεται πράγματι ο νέος σκοπός με τον λόγο για τον οποίο συλλέχθηκαν; Υπάρχει λιγότερο επαχθής τρόπος να επιτευχθεί;

Αυτό είναι ένα κρίσιμο σημείο. Το γεγονός ότι η τεχνολογία επιτρέπει να χρησιμοποιηθεί ένα δεδομένο δεν σημαίνει ότι το δίκαιο επιτρέπει να χρησιμοποιηθεί.

6. Και αν συναινέσω;

Η λέξη «συγκατάθεση» δημιουργεί συχνά μια ψευδαίσθηση ότι το πρόβλημα λύθηκε. «Ο πολίτης πάτησε “Συμφωνώ”. Άρα αποφάσισε ελεύθερα». Δεν είναι πάντοτε τόσο απλό.

Στο σύστημα πιστοληπτικής αξιολόγησης προβλέπεται, στις σχετικές περιπτώσεις, ρητή, ειδική και διακριτή συγκατάθεση για τη χορήγηση της βαθμολογίας. Αυτό αποτελεί ουσιαστική εγγύηση. Αλλά η πραγματική δοκιμασία θα έρθει στην πράξη.

Αν ένας άνθρωπος μπορεί να αρνηθεί χωρίς δυσανάλογες συνέπειες, υπάρχει πραγματική επιλογή. Αν όμως η αγορά εξελιχθεί έτσι ώστε χωρίς τη συγκατάθεση να αποκλείεται πρακτικά από μια αναγκαία συναλλαγή, τότε πρέπει να ξαναθέσουμε το ερώτημα: πόσο ελεύθερη είναι μια συγκατάθεση όταν το “όχι” έχει γίνει οικονομικά απαγορευτικό;

Αυτό είναι ένα από τα μεγάλα ζητήματα της ψηφιακής εποχής. Η υποχρεωτικότητα δεν χρειάζεται πάντοτε να επιβάλλεται από το κράτος. Μπορεί να παράγεται από την ίδια την αρχιτεκτονική μιας αγοράς.

7. Πότε το credit scoring γίνεται social scoring;

Εδώ βρίσκεται ίσως η σημαντικότερη νομική κόκκινη γραμμή.

Ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (ο AI Act) δεν απαγορεύει κάθε αξιολόγηση ενός ανθρώπου με αλγόριθμο. Ούτε απαγορεύει γενικά την πιστοληπτική αξιολόγηση.

Απαγορεύει όμως συγκεκριμένες πρακτικές κοινωνικής βαθμολόγησης. Το άρθρο 5 απαγορεύει, υπό τις προϋποθέσεις που ορίζει, συστήματα Τεχνητής Νοημοσύνης που αξιολογούν ή ταξινομούν ανθρώπους σε βάθος χρόνου με βάση κοινωνική συμπεριφορά ή γνωστά, συναγόμενα ή προβλεπόμενα προσωπικά χαρακτηριστικά, όταν η κοινωνική βαθμολογία οδηγεί σε δυσμενή μεταχείριση σε κοινωνικό πλαίσιο άσχετο με εκείνο στο οποίο δημιουργήθηκαν τα δεδομένα ή σε μεταχείριση αδικαιολόγητη ή δυσανάλογη.

Ας αφήσουμε για λίγο τη νομική γλώσσα.

Η βασική ιδέα είναι απλή: δεν επιτρέπεται να παίρνουμε μια αξιολόγηση του ανθρώπου από ένα πεδίο της ζωής του και να τη μετατρέπουμε ανεξέλεγκτα σε κριτήριο για ένα άλλο, άσχετο πεδίο.

8. Ένα παράδειγμα δείχνει τη διαφορά

Ας υποθέσουμε ότι κάποιος ζητά δάνειο. Έχει σοβαρό ιστορικό αθέτησης οικονομικών υποχρεώσεων. Η τράπεζα συνεκτιμά αυτό το γεγονός για να αποφασίσει αν θα του δανείσει χρήματα. Εδώ υπάρχει προφανής σύνδεση: οικονομική συμπεριφορά/ πιστωτικός κίνδυνος/πιστωτική απόφαση.

Τώρα ας αλλάξουμε το παράδειγμα. Το ίδιο χαμηλό score χρησιμοποιείται αύριο για να κριθεί αν ο άνθρωπος θα έχει πρόσβαση σε μια βασική υπηρεσία άσχετη προς τον πιστωτικό κίνδυνο. Ή για να αποφασιστεί αν είναι κατάλληλος για μια θέση εργασίας που δεν έχει σχέση με οικονομική διαχείριση. Ή για να του αποδοθεί γενικά η ιδιότητα του «μη αξιόπιστου».

Εδώ έχει συμβεί μια θεμελιώδης μεταβολή. Δεν αξιολογείται πλέον μια συναλλαγή. Αξιολογείται ο άνθρωπος και η αξιολόγηση τον ακολουθεί από το ένα κοινωνικό πεδίο στο άλλο. Αυτό είναι ακριβώς το σημείο στο οποίο η συζήτηση παύει να αφορά απλώς το credit scoring και αρχίζει να πλησιάζει τη λογική του social scoring.

9. Ο φτωχός δεν είναι πολίτης χαμηλότερης αξιοπιστίας

Υπάρχει όμως και μια βαθύτερη κοινωνική διάσταση. Τα συστήματα πιστοληπτικής αξιολόγησης έχουν την τάση να μετατρέπουν οικονομικά γεγονότα σε δείκτες κινδύνου.

Αυτό είναι κατανοητό όταν ο σκοπός είναι η εκτίμηση μιας συγκεκριμένης πίστωσης. Γίνεται όμως επικίνδυνο εάν ο δείκτης αποκτήσει ευρύτερη κοινωνική σημασία.

Ο άνθρωπος με χαμηλό εισόδημα έχει εκ των πραγμάτων μικρότερα περιθώρια να απορροφήσει μια οικονομική κρίση. Μια απόλυση, μια αύξηση ενοικίου ή μια οικογενειακή ανάγκη μπορεί να τον οδηγήσει ευκολότερα σε καθυστέρηση. Η καθυστέρηση επηρεάζει το οικονομικό του προφίλ. Το χειρότερο προφίλ μπορεί να δυσκολέψει την πρόσβαση σε χρηματοδότηση. Η ακριβότερη ή δυσκολότερη χρηματοδότηση επιδεινώνει ακόμη περισσότερο την οικονομική του θέση. Και έτσι μπορεί να δημιουργηθεί ένας φαύλος κύκλος αλγοριθμικής μειονεξίας.

Γι' αυτό χρειάζεται μια αρχή που θα πρέπει να θεωρούμε αδιαπραγμάτευτη: η φτώχεια είναι οικονομική κατάσταση. Δεν είναι ελάττωμα προσωπικότητας. Και η αδυναμία πληρωμής δεν πρέπει ποτέ να μετατραπεί σε γενικό τεκμήριο κοινωνικής αναξιοπιστίας.

10. Δεν προστατεύονται μόνο τα δεδομένα. Προστατεύεται ο άνθρωπος.

Συχνά συζητούμε όλα αυτά αποκλειστικά ως ζήτημα «προσωπικών δεδομένων». Είναι όμως κάτι περισσότερο. Το Σύνταγμα προστατεύει την αξία του ανθρώπου, την ελεύθερη ανάπτυξη της προσωπικότητας και, ειδικότερα στην ψηφιακή εποχή, την προστασία από τη συλλογή, επεξεργασία και χρήση προσωπικών δεδομένων.

Πίσω από τα δεδομένα υπάρχει ένα πρόσωπο. Και όταν από δεκάδες επιμέρους δεδομένα δημιουργείται μια συνοπτική ψηφιακή κρίση —Α, Β, C ή D— υπάρχει πάντοτε ο κίνδυνος να ξεχαστεί αυτή η διάκριση.

Ο άνθρωπος είναι πολύ περισσότερα από το οικονομικό ιστορικό του. Έχει διαδρομή. Έχει εξαιρέσεις. Έχει μεταβολές στη ζωή του. Έχει δυνατότητα να αλλάξει.

Ο αλγόριθμος όμως χρειάζεται κατηγορίες. Και το δίκαιο υπάρχει ακριβώς για να εμποδίζει τις κατηγορίες αυτές να μετατραπούν σε ψηφιακές ταυτότητες από τις οποίες ο άνθρωπος δεν μπορεί να ξεφύγει.

11. Οι κόκκινες γραμμές πρέπει να μπουν πριν χρειαστούν

Δεν αρκεί λοιπόν να μας διαβεβαιώνουν ότι το σημερινό σύστημα χρησιμοποιείται μόνο για συγκεκριμένους οικονομικούς σκοπούς. Αυτό είναι σημαντικό, αλλά δεν αρκεί.

Χρειάζεται να γνωρίζουμε και τι δεν θα επιτρέπεται να γίνει αύριο. Κατά τη γνώμη μου, ένα πραγματικά ασφαλές θεσμικό πλαίσιο πρέπει να στηρίζεται τουλάχιστον σε ορισμένες αδιαπραγμάτευτες αρχές:

Πρώτον: καμία πιστοληπτική βαθμολογία δεν πρέπει να μετατραπεί σε γενικό δείκτη αξιοπιστίας του πολίτη.

Δεύτερον: η βαθμολογία δεν πρέπει να χρησιμοποιείται για την πρόσβαση σε βασικά αγαθά, κοινωνικά δικαιώματα ή υπηρεσίες που δεν έχουν ουσιαστική σχέση με τον πιστωτικό κίνδυνο.

Τρίτον: δεδομένα πολιτικών πεποιθήσεων, θρησκευτικής ζωής, κοινωνικής συμπεριφοράς, διαδικτυακής δραστηριότητας ή άλλων άσχετων χαρακτηριστικών δεν πρέπει να εισέλθουν ποτέ σε σύστημα οικονομικής αξιολόγησης.

Τέταρτον: κάθε πολίτης πρέπει να μπορεί να γνωρίζει τα ουσιώδη δεδομένα και τους βασικούς παράγοντες που οδήγησαν στη βαθμολογία του.

Πέμπτον: πρέπει να υπάρχει γρήγορος μηχανισμός διόρθωσης λανθασμένων δεδομένων και επανυπολογισμού της βαθμολογίας.

Έκτον: όταν μια αυτοματοποιημένη κρίση παράγει σοβαρές συνέπειες, πρέπει να υπάρχει πραγματική ανθρώπινη επανεξέταση και δυνατότητα αποτελεσματικής αμφισβήτησης.

Και, τέλος, όπου ο νόμος μιλά για συγκατάθεση, πρέπει να υπάρχει πραγματικό δικαίωμα άρνησης. Διαφορετικά η προαιρετικότητα υπάρχει μόνο στα χαρτιά.

12. Το «όχι» πρέπει να γραφτεί στο νόμο πριν χρειαστεί να το πει ο πολίτης

Στην ψηφιακή εποχή κάνουμε συχνά το ίδιο λάθος. Κατασκευάζουμε πρώτα την υποδομή. Την επεκτείνουμε επειδή είναι χρήσιμη. Συνδέουμε μαζί της νέες υπηρεσίες επειδή είναι πρακτικό. Και μόνο όταν εμφανιστούν οι πρώτες καταχρήσεις αρχίζουμε να συζητούμε για τα όρια.

Στην πιστοληπτική βαθμολόγηση έχουμε ακόμη τη δυνατότητα να αντιστρέψουμε αυτή τη σειρά. Να καθορίσουμε τα όρια πριν εμφανιστεί η ανάγκη να τα υπερασπιστούμε. Ο GDPR και ο AI Act προσφέρουν ήδη ισχυρές εγγυήσεις.

Αλλά δεν πρέπει να αρκεστούμε σε μια γενική επίκλησή τους. Χρειάζονται σαφείς εθνικοί κανόνες που να αποκλείουν τη διολίσθηση από την πιστοληπτική αξιολόγηση προς τη γενικευμένη αξιολόγηση του προσώπου.

Γιατί η ασφαλέστερη εγγύηση δεν είναι η διαβεβαίωση: «Δεν σκοπεύουμε να χρησιμοποιήσουμε το σύστημα έτσι». Η ασφαλέστερη εγγύηση είναι ο κανόνας: «Δεν επιτρέπεται να χρησιμοποιηθεί έτσι».

Από το δικαίωμα στα δεδομένα στο δικαίωμα να παραμένεις πρόσωπο

Το βαθύτερο ζήτημα, τελικά, δεν είναι τεχνολογικό. Ούτε καν αποκλειστικά νομικό. Είναι ανθρωπολογικό.

Τι είναι ο πολίτης μέσα στον νέο ψηφιακό κόσμο; Ένα πρόσωπο που χρησιμοποιεί την τεχνολογία; Ή ένα σύνολο δεδομένων που η τεχνολογία συλλέγει, συσχετίζει, προβλέπει και τελικά αξιολογεί;

Το δίκαιο οφείλει να δώσει σαφή απάντηση.

Ο άνθρωπος μπορεί να έχει οικονομικό ιστορικό. Μπορεί να έχει χρέη. Μπορεί να έχει κάνει λάθη. Μπορεί να έχει ακόμη και χαμηλή πιστοληπτική ικανότητα. Δεν παύει γι' αυτό να είναι φορέας της ίδιας αξίας, της ίδιας ελευθερίας και των ίδιων θεμελιωδών δικαιωμάτων.

Γι' αυτό και η μεγάλη πρόκληση της ψηφιακής εποχής δεν είναι μόνο να προστατεύσουμε τα προσωπικά μας δεδομένα. Είναι να προστατεύσουμε κάτι βαθύτερο: το δικαίωμα του ανθρώπου να μη συμπυκνωθεί σε ένα ψηφιακό προφίλ και να μη γίνει η βαθμολογία του η κοινωνική του ταυτότητα.

Γιατί σε ένα κράτος δικαίου ο αλγόριθμος μπορεί να υπολογίζει. Μπορεί να προβλέπει. Μπορεί να εισηγείται. Δεν μπορεί όμως να είναι ο τελικός κριτής της αξίας του ανθρώπου.