Διαχρονική εξέλιξη της νομικής σκέψης και τεχνητή νοημοσύνη

04 Ιουλίου 2026

Του Κυριάκου Κυριαζόπουλου

«Περίγραμμα για τη διαχρονική εξέλιξη της νομικής σκέψης και την τεχνητή νοημοσύνη».

Προλεγόμενα

Η εμφάνιση της τεχνητής νοημοσύνης αποτελεί αναμφίβολα μία από τις σημαντικότερες εξελίξεις της σύγχρονης εποχής. Η ταχύτητα με την οποία τα αλγοριθμικά συστήματα εισέρχονται στη δημόσια διοίκηση, στη δικαιοσύνη, στην οικονομία, στην επιστήμη και γενικότερα στη λήψη αποφάσεων έχει δημιουργήσει την εντύπωση ότι η ανθρωπότητα βρίσκεται ενώπιον ενός απολύτως νέου φαινομένου, το οποίο απαιτεί την ανάπτυξη εξ ολοκλήρου νέων νομικών εργαλείων και πρωτόγνωρων θεωρητικών προσεγγίσεων. Πράγματι, οι συζητήσεις γύρω από την ευθύνη των αυτόνομων συστημάτων, την προστασία των προσωπικών δεδομένων, την αλγοριθμική διαφάνεια, την απαγόρευση των διακρίσεων, την αυτοματοποίηση της διοικητικής λειτουργίας και την υποστήριξη της δικαστικής κρίσεως μέσω συστημάτων τεχνητής νοημοσύνης φαίνεται, εκ πρώτης όψεως, να συγκροτούν ένα εντελώς καινούργιο γνωστικό αντικείμενο, αποκομμένο από την ιστορική εξέλιξη της νομικής επιστήμης.

Μία προσεκτικότερη, όμως, ιστορική και φιλοσοφική εξέταση οδηγεί σε διαφορετικό συμπέρασμα. Η τεχνητή νοημοσύνη δεν αποτελεί απλώς μία ακόμη τεχνολογική καινοτομία που επηρεάζει την εφαρμογή του δικαίου. Πολύ περισσότερο, λειτουργεί ως αφορμή για την επανεμφάνιση θεμελιωδών ερωτημάτων τα οποία συνοδεύουν τη νομική σκέψη ήδη από τη γέννησή της. Πίσω από κάθε συζήτηση για τους αλγορίθμους, για τα μεγάλα γλωσσικά μοντέλα, για τα συστήματα μηχανικής μάθησης ή για τις αυτοματοποιημένες διαδικασίες λήψεως αποφάσεων αναδύονται εκ νέου τα κλασικά προβλήματα της φιλοσοφίας του δικαίου: ποια είναι η φύση του δικαίου, από πού αντλεί τη δεσμευτικότητά του, ποια είναι η σχέση του με την πολιτική εξουσία, ποιος είναι ο ρόλος της ανθρώπινης κρίσεως, ποια είναι η σημασία της ερμηνείας, πώς διακρίνεται η νομιμότητα από τη δικαιοσύνη και μέχρι ποιου σημείου μπορεί η τεχνική ορθολογικότητα να υποκαταστήσει την ανθρώπινη φρόνηση.

Ακριβώς για τον λόγο αυτόν, η τεχνητή νοημοσύνη δεν πρέπει να αντιμετωπισθεί αποκλειστικά ως νέο αντικείμενο θετικού δικαίου ούτε μόνο ως πεδίο τεχνολογικής ρυθμίσεως. Η ουσιαστικότερη σημασία της βρίσκεται στο ότι επαναφέρει στο επίκεντρο της θεωρητικής συζητήσεως τα πλέον θεμελιώδη ζητήματα της ιστορίας της νομικής σκέψεως. Υπό το φως αυτό, η ιστορική εξέταση δεν αποτελεί απλώς μία εισαγωγική αναδρομή ή μία διδακτική αναφορά στους μεγάλους σταθμούς της νομικής επιστήμης. Αντιθέτως, αποτελεί τον αναγκαίο ερμηνευτικό ορίζοντα μέσα στον οποίο καθίσταται δυνατή η κατανόηση των σημερινών προκλήσεων.

Η παρούσα μονογραφία στηρίζεται ακριβώς σε αυτή τη βασική παραδοχή. Αντί να εξετάζει την τεχνητή νοημοσύνη ως αποκομμένο αντικείμενο, επιδιώκει να ανασυνθέσει τη διαχρονική πορεία της νομικής σκέψεως από τις πρώτες μορφές κοινωνικής κανονιστικότητας μέχρι τις πλέον σύγχρονες θεωρίες περί ανθρωπίνων δικαιωμάτων και αλγοριθμικής διακυβερνήσεως. Η ιστορική αυτή ανασύνθεση δεν αποσκοπεί στην απλή παρουσίαση των μεγάλων σχολών της νομικής φιλοσοφίας ούτε στην περιγραφική απαρίθμηση θεωρητικών ρευμάτων. Στόχος της είναι να αναδείξει ότι κάθε σημαντική περίοδος της ιστορίας του δικαίου διατύπωσε απαντήσεις σε προβλήματα τα οποία σήμερα επανέρχονται με διαφορετική μορφή εξαιτίας της τεχνητής νοημοσύνης.

Η εξέλιξη της νομικής σκέψεως αποκαλύπτει ότι η ιστορία του δικαίου δεν είναι μία γραμμική συσσώρευση γνώσεων αλλά μία συνεχής διαλεκτική ανάμεσα στη σταθερότητα και στη μεταβολή. Κάθε εποχή επαναδιατυπώνει τα ίδια βασικά ερωτήματα χρησιμοποιώντας διαφορετικό ιστορικό λεξιλόγιο και διαφορετικά θεσμικά εργαλεία. Έτσι, ενώ οι αρχαϊκές κοινωνίες αναζητούσαν τρόπους περιορισμού της βίας μέσω κανονιστικών μορφών συνοχής, η κλασική ελληνική σκέψη διερεύνησε τη σχέση μεταξύ φύσεως και νόμου, η ρωμαϊκή επιστήμη ανέπτυξε την τεχνική δομή της νομικής συλλογιστικής, η χριστιανική και μεσαιωνική παράδοση επανέφερε την έννοια της υπέρτερης δικαιοσύνης, η νεωτερικότητα ανέδειξε την κυριαρχία και τα ατομικά δικαιώματα, ο Διαφωτισμός προέβαλε την ορθολογική γενικότητα του νόμου, ο θετικισμός επιχείρησε να θεμελιώσει την εγκυρότητα των κανόνων, ο νομικός ρεαλισμός έστρεψε την προσοχή στη δικαστική πρακτική, ενώ οι σύγχρονες ερμηνευτικές και κριτικές θεωρίες ανέδειξαν τη σημασία των αρχών, της επιχειρηματολογίας και των κοινωνικών σχέσεων ισχύος.

Η τεχνητή νοημοσύνη εισέρχεται ακριβώς μέσα σε αυτή τη μακραίωνη ιστορική συζήτηση. Δεν δημιουργεί ένα νέο σύμπαν εννοιών, αλλά επαναδιαμορφώνει το περιβάλλον μέσα στο οποίο καλούνται να λειτουργήσουν έννοιες ήδη γνωστές στη νομική παράδοση. Η σχέση μεταξύ κανόνα και συγκεκριμένης περιπτώσεως, η διάκριση μεταξύ τυπικής και ουσιαστικής δικαιοσύνης, η σημασία της αιτιολογίας, η έννοια της ευθύνης, η δημόσια λογοδοσία της εξουσίας, η προστασία της ανθρώπινης αξιοπρέπειας και η ανάγκη θεσμικού ελέγχου αποκτούν νέα πρακτική διάσταση, χωρίς όμως να παύουν να αποτελούν τις ίδιες θεμελιώδεις θεωρητικές κατηγορίες που διαμόρφωσαν την ιστορία της νομικής επιστήμης.

Η μελέτη αυτή υιοθετεί, συνεπώς, μία μεθοδολογική επιλογή η οποία διαφοροποιείται από μεγάλο μέρος της σύγχρονης βιβλιογραφίας. Δεν επιδιώκει να εντοπίσει απλώς ιστορικούς «προδρόμους» της τεχνητής νοημοσύνης ούτε να παρουσιάσει μία ιστορία της τεχνολογίας. Αντιθέτως, χρησιμοποιεί τη διαχρονική εξέλιξη της νομικής σκέψεως ως ερμηνευτικό εργαλείο για την κατανόηση των σημερινών προβλημάτων. Η ιστορική γνώση αποκτά έτσι θεωρητική λειτουργία. Επιτρέπει να διαπιστωθεί ότι οι σύγχρονες διαμάχες σχετικά με την αλγοριθμική λήψη αποφάσεων, τη χρήση των predictive systems, την αυτοματοποίηση της διοίκησης ή την εφαρμογή μεγάλων γλωσσικών μοντέλων στη νομική πράξη δεν αποτελούν απομονωμένα τεχνολογικά ζητήματα, αλλά ειδικές εκφάνσεις βαθύτερων αντιπαραθέσεων που διατρέχουν ολόκληρη την ιστορία της νομικής θεωρίας.

Υπό το πρίσμα αυτό, η τεχνητή νοημοσύνη λειτουργεί ως καταλύτης που αποκαλύπτει τις εσωτερικές εντάσεις της ίδιας της νομικής σκέψεως. Φέρνει εκ νέου στο προσκήνιο την αντίθεση μεταξύ φορμαλισμού και πρακτικής φρονήσεως, μεταξύ θετικισμού και φυσικού δικαίου, μεταξύ συστηματικής τυποποιήσεως και ερμηνευτικής δημιουργικότητας, μεταξύ λειτουργικής αποτελεσματικότητας και ουσιαστικής δικαιοσύνης, μεταξύ τεχνικής ορθολογικότητας και ανθρώπινης ευθύνης. Με τον τρόπο αυτόν καθίσταται εμφανές ότι η πραγματική πρόκληση δεν συνίσταται στην απλή προσαρμογή του δικαίου στις νέες τεχνολογίες, αλλά στην ανανέωση της ίδιας της θεωρητικής αυτοσυνειδησίας της νομικής επιστήμης.

Η ιστορία της νομικής σκέψεως αποδεικνύει ότι κάθε μεγάλη τεχνολογική, κοινωνική ή πολιτική μεταβολή υποχρέωσε το δίκαιο να επανεξετάσει τις ίδιες τις προϋποθέσεις της ύπαρξής του. Το ίδιο συμβαίνει και σήμερα. Η τεχνητή νοημοσύνη δεν αναιρεί την ανάγκη της νομικής θεωρίας· αντιθέτως, καθιστά αναγκαία μία βαθύτερη επιστροφή στις ιστορικές και φιλοσοφικές βάσεις της. Μόνον εφόσον κατανοηθεί η μακρά εξελικτική πορεία της έννοιας του δικαίου μπορεί να αξιολογηθεί ορθά μέχρι ποίου σημείου η αλγοριθμική τεχνολογία αποτελεί μέσο υπηρετήσεως της δικαιοσύνης και από ποιο σημείο αρχίζει να απειλεί τις ίδιες τις θεμελιώδεις προϋποθέσεις της έννομης τάξεως.

Με αυτή τη μεθοδολογική αφετηρία αρχίζει η παρούσα μονογραφία, η οποία θα ακολουθήσει διαχρονικά την εξέλιξη της νομικής σκέψεως, από τις πρώτες μορφές κανονιστικότητας μέχρι τα πλέον σύγχρονα ζητήματα της τεχνητής νοημοσύνης, επιδιώκοντας να καταδείξει ότι η ιστορία του δικαίου δεν αποτελεί παρελθόν της νομικής επιστήμης αλλά το αναγκαίο θεωρητικό της μέλλον.

ΚΕΦΑΛΑΙΟ Α΄
Οι πρώιμες μορφές κανονιστικότητας και το δίκαιο ως κοινωνική τεχνολογία της τάξεως

Η ιστορία της νομικής σκέψεως δεν αρχίζει με τη διατύπωση αφηρημένων θεωριών περί δικαίου ούτε με τη συστηματική φιλοσοφική διερεύνηση της έννοιας της δικαιοσύνης. Πολύ πριν από την εμφάνιση της φιλοσοφίας, των νομοθετικών σωμάτων και των οργανωμένων κρατικών μηχανισμών, οι ανθρώπινες κοινότητες είχαν ήδη αναπτύξει μορφές κανονιστικής οργανώσεως, οι οποίες εξασφάλιζαν τη συνοχή της συλλογικής ζωής και περιόριζαν τη διάχυτη βία που χαρακτηρίζει κάθε κοινωνία στην οποία δεν έχουν ακόμη διαμορφωθεί σταθεροί θεσμοί. Οι πρώτες αυτές μορφές κανονιστικότητας δεν αποτελούσαν ακόμη δίκαιο με τη σύγχρονη έννοια του όρου. Δεν υπήρχε σαφής διάκριση μεταξύ νομικού κανόνα, ηθικής επιταγής, θρησκευτικής εντολής, εθιμικής πρακτικής και πολιτικής εξουσίας. Όλες αυτές οι διαστάσεις συγκροτούσαν μία ενιαία κανονιστική πραγματικότητα, μέσα στην οποία η διατήρηση της κοινότητας αποτελούσε τον υπέρτατο σκοπό.

Η αρχαϊκή κοινωνία δεν αντιλαμβανόταν την παράβαση ως απλή παραβίαση ενός κανόνα συμπεριφοράς. Η παραβίαση είχε πολύ ευρύτερη σημασία. Διατάρασσε την ισορροπία ολόκληρης της κοινότητας, δημιουργούσε κατάσταση ακαθαρσίας, προκαλούσε ρήξη με την παράδοση των προγόνων και, συγχρόνως, θεωρούνταν ότι διασάλευε την ίδια τη σχέση της κοινωνίας με το ιερό. Για τον λόγο αυτόν, η αποκατάσταση της τάξεως δεν επιτυγχανόταν μόνο μέσω της επιβολής κυρώσεων αλλά και μέσω τελετουργιών εξιλεώσεως, διαδικασιών συμφιλιώσεως ή μορφών αποκαταστάσεως της συλλογικής ισορροπίας. Το δίκαιο γεννιέται, επομένως, όχι ως αφηρημένο σύστημα λογικών κανόνων αλλά ως θεσμός διαχειρίσεως της κοινωνικής συγκρούσεως.

Η παρατήρηση αυτή έχει ιδιαίτερη σημασία για τη σύγχρονη θεωρία της τεχνητής νοημοσύνης. Συχνά παρουσιάζεται η εντύπωση ότι οι αλγόριθμοι αποτελούν απλώς εξελιγμένα εργαλεία υπολογισμού, τα οποία βελτιώνουν την αποτελεσματικότητα των διοικητικών ή δικαστικών διαδικασιών. Η ιστορική όμως εμπειρία δείχνει ότι κάθε τεχνολογία οργανώσεως της κοινωνικής ζωής είναι συγχρόνως και τεχνολογία παραγωγής κανονιστικότητας. Δεν περιορίζεται στην εφαρμογή προϋπαρχόντων κανόνων αλλά συμβάλλει ενεργά στον καθορισμό του τι θεωρείται φυσιολογικό, επιτρεπτό, επικίνδυνο ή αποκλίνον. Υπό την έννοια αυτή, η τεχνητή νοημοσύνη δεν αποτελεί μόνο μέσο υπολογισμού αλλά και νέο μηχανισμό συγκροτήσεως της κοινωνικής τάξεως.

Η ιστορία των πρώιμων κοινωνιών καθιστά σαφές ότι κάθε μορφή κανονιστικής οργανώσεως εμπεριέχει πάντοτε μία συγκεκριμένη αντίληψη περί του ανθρώπου και της κοινότητας. Οι αρχαϊκές κοινωνίες δεν επιδίωκαν απλώς την αποτροπή της βίας. Επιδίωκαν τη διατήρηση μιας συγκεκριμένης μορφής κοινωνικής συνοχής, η οποία στηριζόταν στην κοινή παράδοση, στη συγγένεια, στη συλλογική μνήμη και στην κοινή θρησκευτική εμπειρία. Η κανονιστικότητα δεν είχε ακόμη αποκτήσει αυτονομία· αποτελούσε έκφραση ολόκληρου του κοινωνικού και πολιτισμικού οργανισμού.

Ανάλογη λειτουργία παρατηρείται, υπό διαφορετικές βεβαίως ιστορικές συνθήκες, και στα σύγχρονα αλγοριθμικά συστήματα. Κάθε μοντέλο μηχανικής μάθησης, κάθε σύστημα ταξινομήσεως δεδομένων και κάθε μηχανισμός αξιολογήσεως κινδύνου στηρίζεται σε προηγούμενες επιλογές σχετικά με το ποια δεδομένα θεωρούνται σημαντικά, ποιες μεταβλητές θα χρησιμοποιηθούν, ποιες κατηγορίες θα δημιουργηθούν και ποιο αποτέλεσμα θα χαρακτηρισθεί επιθυμητό. Οι επιλογές αυτές δεν αποτελούν τεχνικά ουδέτερες πράξεις. Αντιθέτως, ενσωματώνουν αξιολογικές προϋποθέσεις, κοινωνικές ιεραρχήσεις και πολιτικές προτεραιότητες. Ακριβώς όπως οι αρχαϊκές κοινωνίες όριζαν τα όρια μεταξύ της τάξεως και της αταξίας μέσω των εθίμων και των τελετουργιών τους, έτσι και τα σύγχρονα αλγοριθμικά συστήματα συμβάλλουν στον καθορισμό των ορίων μεταξύ του φυσιολογικού και του αποκλίνοντος, μεταξύ του αξιόπιστου και του επικίνδυνου, μεταξύ του επιτρεπτού και του μη αποδεκτού.

Η αναλογία αυτή δεν σημαίνει ασφαλώς ότι οι σύγχρονοι αλγόριθμοι αποτελούν απλή επανάληψη των αρχαϊκών θεσμών. Σημαίνει, όμως, ότι τόσο οι αρχαϊκές μορφές κανονιστικότητας όσο και οι σύγχρονες ψηφιακές τεχνολογίες επιτελούν μία κοινή λειτουργία: οργανώνουν την κοινωνική πραγματικότητα μέσω κατηγοριοποιήσεων, ταξινομήσεων και διαδικασιών ελέγχου. Η τεχνολογία μεταβάλλεται· η θεμελιώδης κανονιστική λειτουργία παραμένει εντυπωσιακά σταθερή.

Η εξέλιξη αυτή αποκτά ακόμη μεγαλύτερη σημασία όταν εμφανίζεται η γραπτή νομοθεσία. Η μετάβαση από την αποκλειστικά προφορική παράδοση στη δημόσια καταγραφή των κανόνων συνιστά μία από τις σημαντικότερες τομές ολόκληρης της ιστορίας του δικαίου. Η γραφή επιτρέπει στον κανόνα να αποκτήσει σταθερότητα, διάρκεια και δημοσιότητα. Ο νόμος παύει να εξαρτάται αποκλειστικά από τη μνήμη των γερόντων, των ιερέων ή των αρχηγών της κοινότητας και μετατρέπεται σε δημόσιο σημείο αναφοράς, προσβάσιμο σε όλους όσοι ανήκουν στην πολιτική κοινότητα.

Η σημασία αυτής της μεταβολής δεν εξαντλείται στη μεγαλύτερη ασφάλεια δικαίου που προσφέρει η γραπτή μορφή. Η γραφή καθιστά δυνατή τη συστηματική ανάλυση, τη σύγκριση, την ερμηνεία και τελικώς την ανάπτυξη της νομικής επιστήμης. Χωρίς τη σταθερότητα του γραπτού κειμένου δεν θα μπορούσε να υπάρξει συστηματική δογματική επεξεργασία ούτε ανάπτυξη εννοιολογικών κατηγοριών. Η ιστορία της νομικής επιστήμης είναι αδιανόητη χωρίς την προηγούμενη ιστορία της νομικής γραφής.

Η ίδια αυτή ιστορική προϋπόθεση αποτελεί σήμερα τη βάση λειτουργίας των συστημάτων τεχνητής νοημοσύνης. Τα σύγχρονα συστήματα επεξεργασίας φυσικής γλώσσας, οι μηχανισμοί εξορύξεως νομικών δεδομένων, οι εφαρμογές legal analytics και τα μεγάλα γλωσσικά μοντέλα προϋποθέτουν την ύπαρξη ενός τεράστιου σώματος κειμένων, νομοθεσίας, νομολογίας και θεωρίας, το οποίο μπορεί να υποβληθεί σε επεξεργασία. Με άλλα λόγια, η τεχνητή νοημοσύνη δεν δημιουργεί εκ του μηδενός το αντικείμενό της. Βασίζεται σε μία ιστορική διαδικασία πολλών χιλιετιών, κατά την οποία το δίκαιο μετατράπηκε σταδιακά σε συστηματοποιημένο σώμα κειμένων, εννοιών και κανονιστικών δομών.

Η ιστορική αυτή διαπίστωση οδηγεί, ωστόσο, και σε μία δεύτερη, εξίσου σημαντική συνέπεια. Η τυποποίηση του δικαίου ουδέποτε ταυτίσθηκε με την πραγματοποίηση της δικαιοσύνης. Η ύπαρξη γραπτών νόμων δεν απέκλεισε ποτέ την κοινωνική ανισότητα, την πολιτική αυθαιρεσία ή τη θεσμική καταπίεση. Αντιθέτως, πολλές φορές η ίδια η συστηματικότητα των κανόνων χρησιμοποιήθηκε για τη νομιμοποίηση βαθύτατα άνισων κοινωνικών σχέσεων. Η ιστορία διδάσκει, συνεπώς, ότι η σαφήνεια, η σταθερότητα και η συνέπεια των κανόνων αποτελούν αναγκαίες αλλά όχι επαρκείς προϋποθέσεις της δικαιοσύνης.

Το ίδιο ακριβώς ισχύει και για την τεχνητή νοημοσύνη. Η δυνατότητα παραγωγής συνεπών αποτελεσμάτων, η ομοιόμορφη εφαρμογή προκαθορισμένων κριτηρίων και η στατιστική ακρίβεια των προβλέψεων δεν αρκούν από μόνες τους για να θεμελιώσουν την κανονιστική ορθότητα μιας αποφάσεως. Ένα αλγοριθμικό σύστημα μπορεί να είναι απολύτως συνεπές και συγχρόνως βαθύτατα άδικο, εάν οι προϋποθέσεις πάνω στις οποίες οικοδομήθηκε αντανακλούν ιστορικές προκαταλήψεις, κοινωνικές ανισότητες ή εσφαλμένες αξιολογικές παραδοχές. Η ιστορία των πρώτων μορφών κανονιστικότητας μάς υπενθυμίζει έτσι μία θεμελιώδη αλήθεια, η οποία διατρέχει ολόκληρη την εξέλιξη της νομικής σκέψεως: κάθε τεχνολογία οργανώσεως της κοινωνικής ζωής, όσο εξελιγμένη και αν είναι, οφείλει να αξιολογείται όχι μόνο με βάση την αποτελεσματικότητά της αλλά πρωτίστως με βάση το είδος της δικαιοσύνης που υπηρετεί.

Έτσι, ήδη από τις απαρχές της ιστορίας του δικαίου αναδεικνύεται ένα μοτίβο που θα συνοδεύσει όλες τις μεταγενέστερες θεωρητικές εξελίξεις. Το δίκαιο δεν είναι ποτέ απλή τεχνική διαχειρίσεως της κοινωνικής πραγματικότητας. Είναι πάντοτε συγχρόνως τρόπος συγκροτήσεως της κοινότητας, μορφή οργανώσεως της εξουσίας και έκφραση μιας συγκεκριμένης αντιλήψεως περί του ανθρώπου. Η διαπίστωση αυτή θα αποκτήσει ακόμη βαθύτερο φιλοσοφικό περιεχόμενο όταν η ελληνική σκέψη μετατρέψει το δίκαιο από πρακτική κοινωνική εμπειρία σε αντικείμενο συστηματικού θεωρητικού στοχασμού, εγκαινιάζοντας μία νέα εποχή στην ιστορία της νομικής φιλοσοφίας.

ΚΕΦΑΛΑΙΟ Β΄
Η ελληνική τομή: φύσις, νόμος και η γέννηση της νομικής φιλοσοφίας

Η μετάβαση από τις αρχαϊκές μορφές κανονιστικότητας στην ελληνική φιλοσοφική σκέψη συνιστά μία από τις βαθύτερες τομές στην ιστορία του δικαίου. Για πρώτη φορά το δίκαιο παύει να αντιμετωπίζεται αποκλειστικά ως στοιχείο της παραδόσεως ή ως αναπόσπαστο μέρος της θρησκευτικής και πολιτικής ζωής και μετατρέπεται σε αντικείμενο αυτόνομου θεωρητικού στοχασμού. Η ελληνική φιλοσοφία δεν αρκείται πλέον στην περιγραφή των ισχυόντων κανόνων ούτε στην αναπαραγωγή των καθιερωμένων θεσμών. Θέτει το ερώτημα γιατί οι κανόνες δεσμεύουν, ποια είναι η σχέση τους με τη φύση, ποια είναι η προέλευσή τους, αν εκφράζουν πραγματική δικαιοσύνη ή απλώς την ισχύ των κυρίαρχων ομάδων και, τελικώς, ποια είναι τα όρια της ανθρώπινης νομοθετικής εξουσίας. Με τον τρόπο αυτό γεννιέται η νομική φιλοσοφία ως αυτοτελής μορφή θεωρητικής έρευνας.

Η σημασία της ελληνικής τομής δεν περιορίζεται στην ιστορία των ιδεών. Τα ερωτήματα που διατυπώθηκαν κατά την κλασική περίοδο εξακολουθούν να αποτελούν τον πυρήνα των σύγχρονων συζητήσεων για την τεχνητή νοημοσύνη. Η αντιπαράθεση σχετικά με το αν οι αλγόριθμοι είναι ουδέτεροι ή αν ενσωματώνουν προϋπάρχουσες αξιολογικές επιλογές, η συζήτηση για τη σχέση μεταξύ τεχνικής αποτελεσματικότητας και ουσιαστικής δικαιοσύνης, καθώς και η προβληματική περί της δυνατότητας αυτοματοποιημένης λήψεως αποφάσεων αποτελούν, στην πραγματικότητα, νέες μορφές παλαιών φιλοσοφικών αντιπαραθέσεων, οι οποίες εμφανίσθηκαν ήδη κατά την περίοδο της κλασικής ελληνικής σκέψεως.

Η πρώτη μεγάλη τομή πραγματοποιείται με τους σοφιστές. Η σοφιστική κίνηση απομακρύνεται από την αντίληψη σύμφωνα με την οποία οι νόμοι αποτελούν αυτονόητη έκφραση μιας υπερβατικής τάξεως και αναδεικνύει τον ιστορικό και συμβατικό χαρακτήρα τους. Η διάκριση μεταξύ φύσεως και νόμου επιτρέπει για πρώτη φορά να τεθεί με συστηματικό τρόπο το ερώτημα αν ο ισχύων κανόνας ανταποκρίνεται πράγματι στη δικαιοσύνη ή αν αποτελεί απλώς προϊόν πολιτικής αποφάσεως. Η σχετικότητα των νόμων, η διαφοροποίησή τους μεταξύ διαφορετικών πόλεων και η εξάρτησή τους από συγκεκριμένες κοινωνικές και πολιτικές συνθήκες οδηγούν στη διαπίστωση ότι η κανονιστικότητα δεν μπορεί πλέον να θεωρείται αυτονόητη ή αδιαμφισβήτητη.

Η σοφιστική αυτή προσέγγιση αποκτά εξαιρετική επικαιρότητα στην εποχή της τεχνητής νοημοσύνης. Συχνά παρουσιάζονται οι αλγόριθμοι ως ουδέτερα μαθηματικά εργαλεία, απαλλαγμένα από τις αδυναμίες και τις προκαταλήψεις του ανθρώπου. Η φιλοσοφική εμπειρία των σοφιστών, όμως, υπενθυμίζει ότι καμία μορφή κανονιστικής οργανώσεως δεν είναι απαλλαγμένη από τις συνθήκες μέσα στις οποίες παράγεται. Όπως οι ανθρώπινοι νόμοι αποτελούν προϊόν συγκεκριμένων κοινωνικών επιλογών, έτσι και τα αλγοριθμικά μοντέλα ενσωματώνουν αποφάσεις σχετικά με τα δεδομένα που θα χρησιμοποιηθούν, τις κατηγορίες που θα δημιουργηθούν, τις μεταβλητές που θα αξιολογηθούν και τα αποτελέσματα που θα θεωρηθούν επιθυμητά. Η μαθηματική μορφή ενός αλγορίθμου δεν αναιρεί τον ιστορικό χαρακτήρα των προϋποθέσεών του. Αντιθέτως, συχνά καθιστά δυσκολότερη την αναγνώρισή τους.

Η σοφιστική σκέψη, επομένως, εισάγει ένα στοιχείο κριτικής αυτοσυνειδησίας, το οποίο παραμένει απολύτως επίκαιρο. Η τεχνητή νοημοσύνη δεν πρέπει να θεωρείται φυσικό φαινόμενο ούτε αντικειμενικός μηχανισμός παραγωγής αποφάσεων. Αποτελεί ανθρώπινο δημιούργημα, ενσωματώνει ανθρώπινες επιλογές και λειτουργεί μέσα σε συγκεκριμένες κοινωνικές και θεσμικές δομές. Η αναγνώριση αυτής της πραγματικότητας αποτελεί απαραίτητη προϋπόθεση κάθε σοβαρής θεωρίας περί αλγοριθμικής δικαιοσύνης.

Απέναντι στη σχετικιστική τάση των σοφιστών, ο Σωκράτης μετατοπίζει τη συζήτηση σε διαφορετικό επίπεδο. Το ενδιαφέρον του δεν επικεντρώνεται πρωτίστως στην ιστορική προέλευση των νόμων αλλά στη σχέση τους με τη συνείδηση και την ηθική ευθύνη του ανθρώπου. Η στάση του απέναντι στην ίδια του την καταδίκη αποτελεί μία από τις πλέον χαρακτηριστικές στιγμές ολόκληρης της ιστορίας της πολιτικής και νομικής φιλοσοφίας. Η επιλογή του να μην διαφύγει από τη φυλακή, παρά τη δυνατότητα που του προσφέρθηκε, εκφράζει την πεποίθηση ότι η έννομη τάξη δεν αποτελεί απλώς εξωτερικό μηχανισμό εξαναγκασμού αλλά σχέση αμοιβαίας δεσμεύσεως μεταξύ του πολίτη και της κοινότητας.

Η σωκρατική προβληματική αποκτά νέα σημασία όταν μεταφερθεί στο πεδίο της τεχνητής νοημοσύνης. Στις σύγχρονες κοινωνίες, ο πολίτης καλείται ολοένα και συχνότερα να συμμορφωθεί προς αποφάσεις οι οποίες παράγονται ή υποστηρίζονται από σύνθετα αλγοριθμικά συστήματα. Ανακύπτει, επομένως, το ερώτημα ποιο είναι το αντικείμενο της υπακοής. Υπακούει κανείς σε ανθρώπινη κρίση, σε κρατική εξουσία, σε θεσμικά κατοχυρωμένη διαδικασία ή σε μαθηματική πρόβλεψη που παράγεται από ένα σύστημα μηχανικής μάθησης; Η σωκρατική παράδοση υπενθυμίζει ότι η νομιμότητα δεν εξαντλείται στην αποτελεσματικότητα της διαδικασίας. Προϋποθέτει πάντοτε μία μορφή ηθικής και πολιτικής νομιμοποιήσεως, χωρίς την οποία η υπακοή μετατρέπεται σε απλή υποταγή.

Η θεωρητική κορύφωση της ελληνικής σκέψεως πραγματοποιείται στον Πλάτωνα. Για τον Πλάτωνα, η δικαιοσύνη δεν ταυτίζεται ποτέ με την απλή εφαρμογή προκαθορισμένων κανόνων. Αποτελεί κατάσταση αρμονίας τόσο της ψυχής όσο και της πολιτείας. Ο νόμος διαθέτει παιδαγωγική αποστολή· αποβλέπει στη διαμόρφωση του ενάρετου πολίτη και όχι μόνο στη ρύθμιση εξωτερικών συμπεριφορών. Η αντίληψη αυτή εισάγει μία κρίσιμη διάσταση, η οποία συχνά απουσιάζει από τον σύγχρονο τεχνοκρατικό λόγο περί τεχνητής νοημοσύνης.

Η αξιολόγηση ενός αλγοριθμικού συστήματος δεν μπορεί να εξαντλείται στην εξέταση της ακρίβειας ή της ταχύτητάς του. Οφείλει να επεκτείνεται και στο ερώτημα ποιον σκοπό υπηρετεί και ποια μορφή πολιτικής και κοινωνικής τάξεως συμβάλλει στη διαμόρφωσή του. Ένα σύστημα εξαιρετικά αποτελεσματικό στην πρόβλεψη εγκληματικής συμπεριφοράς ή στην κατανομή διοικητικών πόρων δεν μπορεί να θεωρηθεί αυτομάτως δίκαιο, εάν οι στόχοι που υπηρετεί συγκρούονται με την ανθρώπινη αξιοπρέπεια, την ισότητα ή τη δημοκρατική αυτονομία. Η πλατωνική θεωρία υποδεικνύει ότι η τεχνική ορθότητα δεν επαρκεί για να θεμελιώσει την κανονιστική ορθότητα.

Η βαθύτερη, όμως, συμβολή της ελληνικής φιλοσοφίας στη σύγχρονη θεωρία της τεχνητής νοημοσύνης προέρχεται από τον Αριστοτέλη. Η αριστοτελική θεωρία του δικαίου συγκεντρώνει όλες σχεδόν τις έννοιες που εξακολουθούν να αποτελούν τον πυρήνα της σημερινής συζητήσεως. Ο περίφημος χαρακτηρισμός του νόμου ως «λόγου χωρίς πάθος» φαίνεται αρχικά να υποστηρίζει την ιδέα μιας απρόσωπης, λογικής και συνεπούς εφαρμογής των κανόνων. Πράγματι, οι υποστηρικτές της εκτεταμένης χρήσεως της τεχνητής νοημοσύνης προβάλλουν συχνά το επιχείρημα ότι τα αλγοριθμικά συστήματα μπορούν να περιορίσουν την ανθρώπινη μεροληψία, να εξαλείψουν τις συναισθηματικές επιδράσεις και να διασφαλίσουν μεγαλύτερη ομοιομορφία στη λήψη αποφάσεων.

Η ίδια, όμως, η αριστοτελική θεωρία εισάγει ταυτόχρονα το ισχυρότερο ίσως επιχείρημα κατά της πλήρους αυτοματοποιήσεως της νομικής κρίσεως. Η έννοια της επιείκειας αποτελεί τον μηχανισμό μέσω του οποίου ο Αριστοτέλης αναγνωρίζει ότι κάθε γενικός κανόνας παρουσιάζει αναπόφευκτα όρια. Καμία γενική διατύπωση δεν είναι δυνατόν να προβλέψει όλες τις ιδιαιτερότητες των πραγματικών περιστάσεων. Εξαιτίας αυτής της αδυναμίας απαιτείται η πρακτική φρόνηση, δηλαδή η ικανότητα του δικαστή να διαπιστώνει πότε η αυστηρή εφαρμογή του γενικού κανόνα οδηγεί σε αποτέλεσμα αντίθετο προς τη δικαιοσύνη.

Η επιείκεια δεν αποτελεί εξαίρεση στον νόμο ούτε έκφραση αυθαίρετης επιείκειας. Αντιθέτως, αποτελεί ανώτερη μορφή εφαρμογής του ίδιου του δικαίου, διότι αποκαθιστά εκεί όπου η αναπόφευκτη γενικότητα του κανόνα δημιουργεί αδικία. Η διάκριση αυτή αποκτά εξαιρετική σημασία στην εποχή της τεχνητής νοημοσύνης. Τα σύγχρονα υπολογιστικά συστήματα μπορούν να ενσωματώσουν ολοένα περισσότερες μεταβλητές, να αναγνωρίσουν σύνθετα πρότυπα και να βελτιώνουν συνεχώς την προγνωστική τους ικανότητα. Ωστόσο, όσο εξελιγμένα και αν καταστούν, εξακολουθούν να λειτουργούν μέσω κατηγοριοποιήσεων και γενικεύσεων. Η επιείκεια, αντίθετα, προϋποθέτει την ικανότητα να αναγνωρίζεται η μοναδικότητα της συγκεκριμένης περιπτώσεως και να αξιολογείται η σημασία της μέσα στο συνολικό κανονιστικό πλαίσιο.

Εδώ ακριβώς αποκαλύπτεται ένα από τα βαθύτερα φιλοσοφικά όρια της αλγοριθμικής δικαιοσύνης. Η πρακτική φρόνηση δεν συνίσταται στην απλή επεξεργασία περισσότερων πληροφοριών ούτε στην αύξηση της υπολογιστικής ισχύος. Αποτελεί μορφή κρίσεως, η οποία συνδυάζει εμπειρία, αξιακή αξιολόγηση, θεσμική κατανόηση και ευθύνη απέναντι στο συγκεκριμένο ανθρώπινο πρόσωπο. Η ελληνική φιλοσοφία καταλήγει έτσι σε μία διαπίστωση που εξακολουθεί να αποτελεί ίσως το σημαντικότερο θεωρητικό όριο κάθε προσπάθειας πλήρους αυτοματοποιήσεως του δικαίου: η λογική του κανόνα είναι αναγκαία για τη λειτουργία της έννομης τάξεως, αλλά η δικαιοσύνη ολοκληρώνεται μόνο όταν η γενικότητα του κανόνα συναντήσει την ανθρώπινη κρίση που μπορεί να διακρίνει τη μοναδικότητα της συγκεκριμένης περιπτώσεως.

Με αυτή την παρακαταθήκη ολοκληρώνεται η ελληνική θεμελίωση της νομικής φιλοσοφίας. Οι έννοιες της φύσεως, του νόμου, της δικαιοσύνης, της επιείκειας, της πρακτικής φρονήσεως και της σχέσεως μεταξύ κανόνα και συγκεκριμένης περιπτώσεως θα αποτελέσουν έκτοτε το σταθερό θεωρητικό υπόβαθρο κάθε μεταγενέστερης εξελίξεως. Η επόμενη μεγάλη ιστορική περίοδος θα μεταφέρει αυτές τις φιλοσοφικές κατακτήσεις στο πεδίο της συστηματικής νομικής επιστήμης, όπου η ρωμαϊκή παράδοση θα μετασχηματίσει το δίκαιο σε ολοκληρωμένη τεχνική της νομικής συλλογιστικής και της εννοιολογικής οργανώσεως.

ΚΕΦΑΛΑΙΟ Γ΄
Ρώμη και η γέννηση της νομικής επιστήμης: το δίκαιο ως τεχνική του λόγου και της ερμηνείας

Η ελληνική φιλοσοφία θεμελίωσε τις μεγάλες έννοιες της δικαιοσύνης, της φύσεως, του νόμου και της πολιτικής κοινότητας. Η ρωμαϊκή παράδοση, αντίθετα, δεν ενδιαφέρθηκε πρωτίστως να διατυπώσει μία συνολική φιλοσοφία του δικαίου. Η ιδιοτυπία της έγκειται στο ότι μετέτρεψε το δίκαιο σε αυτοτελή επιστήμη, με ιδιαίτερη μεθοδολογία, αυστηρή εννοιολογική οργάνωση και εξαιρετικά ανεπτυγμένες τεχνικές ερμηνείας. Ενώ οι Έλληνες διερεύνησαν κυρίως το ερώτημα τι είναι το δίκαιο, οι Ρωμαίοι ανέπτυξαν το ερώτημα πώς εφαρμόζεται το δίκαιο με συστηματικό, συνεπή και λογικά ελέγξιμο τρόπο. Η μετάβαση αυτή αποτελεί μία από τις σημαντικότερες στιγμές στην ιστορία της νομικής σκέψεως, διότι δημιουργεί τις προϋποθέσεις για την ανάπτυξη της νομικής επιστήμης ως ιδιαίτερου γνωστικού αντικειμένου.

Η ρωμαϊκή νομική παράδοση χαρακτηρίζεται από μία αξιοσημείωτη ισορροπία ανάμεσα στην πρακτική ανάγκη και στη θεωρητική αφαίρεση. Οι μεγάλοι jurists δεν αντιμετωπίζουν το δίκαιο ούτε ως απλή πολιτική βούληση ούτε ως καθαρή φιλοσοφική ιδέα. Το αντιλαμβάνονται ως ars, ως τέχνη, δηλαδή ως μορφή επιστημονικής γνώσεως που απαιτεί μεθοδολογία, πειθαρχία, λογική συνέπεια και συνεχή άσκηση της κρίσεως. Η περίφημη έννοια της ars iuris εκφράζει ακριβώς αυτή τη σύνθεση. Το δίκαιο δεν είναι αυτοματισμός ούτε τυχαία πρακτική. Είναι τεχνική της ορθής κρίσεως.

Η επιλογή αυτή αποδείχθηκε καθοριστική για ολόκληρη τη μεταγενέστερη ευρωπαϊκή νομική παράδοση. Η δημιουργία αφηρημένων εννοιών, η ανάπτυξη γενικών κατηγοριών, η διάκριση μεταξύ διαφόρων τύπων δικαιωμάτων, υποχρεώσεων και εννόμων σχέσεων, η επεξεργασία συστηματικών μεθόδων ερμηνείας και η οργάνωση της νομικής επιχειρηματολογίας συγκροτούν ένα εννοιολογικό οικοδόμημα, το οποίο εξακολουθεί μέχρι σήμερα να αποτελεί το θεμέλιο των περισσότερων ηπειρωτικών εννόμων τάξεων.

Η σημασία αυτής της εξελίξεως για τη σύγχρονη τεχνητή νοημοσύνη είναι εξαιρετικά μεγάλη. Η λειτουργία κάθε προηγμένου συστήματος νομικής επεξεργασίας δεδομένων προϋποθέτει ότι το αντικείμενό του διαθέτει επαρκή εννοιολογική οργάνωση. Ένας αλγόριθμος δεν μπορεί να επεξεργασθεί ένα εντελώς άμορφο σύνολο κοινωνικών πληροφοριών. Προϋποθέτει την ύπαρξη κατηγοριών, ορισμών, εννοιολογικών σχέσεων και σχετικά σταθερών δομών. Με άλλα λόγια, η τεχνητή νοημοσύνη λειτουργεί αποτελεσματικά ακριβώς επειδή η ιστορική εξέλιξη του δικαίου, και ιδίως η ρωμαϊκή νομική επιστήμη, μετέβαλε σταδιακά το δίκαιο σε συστηματοποιημένο γνωστικό πεδίο.

Η διαπίστωση αυτή οδηγεί συχνά στην εντύπωση ότι η ρωμαϊκή νομική επιστήμη αποτελεί τον άμεσο πρόδρομο των σύγχρονων αλγοριθμικών εφαρμογών. Πράγματι, υπάρχουν εμφανείς αναλογίες. Η ρωμαϊκή μέθοδος στηρίζεται στην ταξινόμηση, στην εννοιολογική ανάλυση, στη λογική συνέπεια και στη συστηματική επεξεργασία των νομικών σχέσεων. Τα ίδια χαρακτηριστικά επιδιώκουν και τα σύγχρονα συστήματα legal analytics, τα νομικά expert systems και πολλές εφαρμογές τεχνητής νοημοσύνης που χρησιμοποιούνται στη νομική έρευνα.

Η αναλογία αυτή, όμως, δεν πρέπει να οδηγήσει σε παρανόηση. Η ρωμαϊκή ars iuris δεν ταυτίζεται ποτέ με μηχανικό φορμαλισμό. Αντιθέτως, η τεχνική διάσταση του δικαίου παραμένει πάντοτε άρρηκτα συνδεδεμένη με την ανθρώπινη ερμηνεία. Οι Ρωμαίοι νομοδιδάσκαλοι δεν θεωρούν ότι οι κανόνες εφαρμόζονται αυτομάτως. Αντιλαμβάνονται ότι κάθε συγκεκριμένη υπόθεση απαιτεί αξιολόγηση των πραγματικών περιστατικών, επιλογή της κατάλληλης κατηγορίας, σύγκριση με προηγούμενες περιπτώσεις και τελικώς διαμόρφωση ενός συλλογισμού που να μπορεί να δικαιολογηθεί λογικά.

Η σημασία της interpretatio είναι χαρακτηριστική. Η ερμηνεία δεν θεωρείται δευτερεύουσα λειτουργία, αλλά αναπόσπαστο μέρος της ίδιας της νομικής επιστήμης. Το δίκαιο δεν εξαντλείται στο γραπτό κείμενο. Ούτε η εφαρμογή του συνίσταται στην απλή αντιστοίχιση κανόνων και πραγματικών περιστατικών. Ο νομικός καλείται να κατανοήσει τον σκοπό του κανόνα, να αξιολογήσει τη σχέση του με άλλες διατάξεις και να εντάξει τη συγκεκριμένη υπόθεση στη συνολική λογική της έννομης τάξεως.

Ακριβώς εδώ εντοπίζεται μία ουσιώδης διαφορά ανάμεσα στη ρωμαϊκή νομική παράδοση και σε ορισμένες σύγχρονες μορφές αλγοριθμικής επεξεργασίας. Τα περισσότερα υπολογιστικά μοντέλα τείνουν να αντιμετωπίζουν τη νομική πληροφορία ως σύνολο δεδομένων προς ταξινόμηση. Η ταξινόμηση αυτή μπορεί να είναι εξαιρετικά σύνθετη και να στηρίζεται σε εκατομμύρια παραδείγματα. Παραμένει, όμως, κατά βάση διαδικασία στατιστικής αναγνώρισης προτύπων. Η ρωμαϊκή interpretatio, αντίθετα, είναι πάντοτε πράξη κανονιστικής επιχειρηματολογίας. Δεν αποβλέπει απλώς στην πρόβλεψη ενός αποτελέσματος αλλά στη δικαιολόγησή του.

Η διάκριση αυτή αποκτά ιδιαίτερη σημασία κατά την εξέταση της αιτιολογίας των δικαστικών αποφάσεων. Στη ρωμαϊκή σκέψη, η ορθότητα μιας λύσεως δεν εξαρτάται μόνο από το τελικό συμπέρασμα αλλά και από τη λογική διαδρομή που οδηγεί σε αυτό. Η ratio decidendi αποτελεί τον πυρήνα της νομικής συλλογιστικής. Εκφράζει την αιτιολογημένη σύνδεση μεταξύ κανόνα και συγκεκριμένης υποθέσεως και επιτρέπει τον δημόσιο έλεγχο της ορθότητας της αποφάσεως.

Η απαίτηση αυτή παραμένει θεμελιώδης και στη σύγχρονη εποχή. Ένα σύστημα τεχνητής νοημοσύνης μπορεί να καταλήξει σε αποτέλεσμα το οποίο στατιστικώς εμφανίζεται ιδιαίτερα πιθανό. Το ερώτημα, όμως, που τίθεται από τη νομική επιστήμη δεν είναι μόνο αν το αποτέλεσμα είναι πιθανό ή αποτελεσματικό. Είναι αν μπορεί να αιτιολογηθεί κατά τρόπο θεσμικά ελέγξιμο. Η αιτιολόγηση αποτελεί αναπόσπαστο στοιχείο της νομιμότητας. Δεν είναι μεταγενέστερη προσθήκη στην απόφαση αλλά ουσιώδες μέρος της ίδιας της δικαιοδοτικής λειτουργίας.

Η ρωμαϊκή εμπειρία επιτρέπει έτσι να κατανοηθεί καλύτερα και ένα ακόμη σύγχρονο πρόβλημα, το οποίο συχνά χαρακτηρίζεται ως πρόβλημα της «εξηγησιμότητας» (explainability) των αλγοριθμικών συστημάτων. Στον δημόσιο διάλογο η εξηγησιμότητα παρουσιάζεται συχνά ως τεχνικό χαρακτηριστικό των αλγορίθμων. Στην πραγματικότητα, όμως, αποτελεί κατεξοχήν νομική απαίτηση. Η έννομη τάξη δεν αρκείται στη σωστή λειτουργία ενός μηχανισμού. Απαιτεί η λειτουργία αυτή να μπορεί να αιτιολογηθεί κατά τρόπο που να επιτρέπει την αμφισβήτηση, την επανεξέταση και τον δικαστικό έλεγχο.

Από τη σκοπιά αυτή, η ιστορία της ρωμαϊκής νομικής επιστήμης αποκτά εξαιρετική επικαιρότητα. Η μεγάλη συμβολή της δεν έγκειται μόνο στη δημιουργία ενός συστηματικού σώματος εννοιών αλλά κυρίως στην καθιέρωση της ιδέας ότι η νομική τεχνική είναι πάντοτε τεχνική δημόσιας αιτιολογήσεως. Ο νομικός δεν περιορίζεται να βρίσκει λύσεις· οφείλει να εξηγεί γιατί η συγκεκριμένη λύση είναι δικαιολογημένη μέσα στο σύστημα του δικαίου.

Η διαφορά αυτή επιτρέπει να διατυπωθεί μία γενικότερη παρατήρηση σχετικά με τη σχέση μεταξύ τεχνικής και δικαιοσύνης. Η τεχνική διάσταση του δικαίου είναι αναμφίβολα αναγκαία. Χωρίς εννοιολογική ακρίβεια, χωρίς λογική συνέπεια και χωρίς μεθοδολογική πειθαρχία, η έννομη τάξη θα κατέληγε σε αυθαίρετη άσκηση εξουσίας. Η τεχνική, όμως, δεν αποτελεί αυτοσκοπό. Υπηρετεί πάντοτε μία ευρύτερη κανονιστική επιδίωξη, δηλαδή την πραγμάτωση της δικαιοσύνης μέσω θεσμικά ελέγξιμων διαδικασιών.

Η παρακαταθήκη της ρωμαϊκής νομικής επιστήμης αποκτά έτσι ιδιαίτερη σημασία για κάθε σύγχρονη θεωρία της τεχνητής νοημοσύνης. Μας υπενθυμίζει ότι η συστηματοποίηση του δικαίου αποτελεί αναγκαία προϋπόθεση της αλγοριθμικής επεξεργασίας, αλλά συγχρόνως αναδεικνύει τα όρια κάθε τεχνολογικής προσεγγίσεως που επιχειρεί να αντικαταστήσει την ερμηνεία με τον αυτοματισμό. Το δίκαιο είναι ασφαλώς τεχνική· είναι όμως τεχνική της ανθρώπινης κρίσεως και όχι μηχανισμός μηχανικής παραγωγής αποτελεσμάτων.

Η ιστορική αυτή σύνθεση θα γνωρίσει νέα μεταμόρφωση με την εμφάνιση του χριστιανισμού και της μεσαιωνικής σκέψεως. Εκεί η έννοια της τεχνικής ορθότητας θα υποταχθεί εκ νέου στην αναζήτηση ενός ανώτερου μέτρου δικαιοσύνης, μέσα από τη θεωρία του φυσικού νόμου, του κοινού αγαθού και της ηθικής θεμελιώσεως της πολιτικής εξουσίας.

ΚΕΦΑΛΑΙΟ Δ΄
Χριστιανική και μεσαιωνική σκέψη: φυσικός νόμος, κοινό αγαθό και ανώτερο μέτρο δικαιοσύνης

Η μετάβαση από τη ρωμαϊκή νομική επιστήμη στη χριστιανική και μεσαιωνική σκέψη δεν συνιστά απλή ιστορική διαδοχή ούτε αντικατάσταση ενός συστήματος ιδεών από ένα άλλο. Αντιθέτως, αποτελεί μία δημιουργική σύνθεση, μέσα στην οποία η υψηλή τεχνική της ρωμαϊκής νομικής παραδόσεως συναντά τη βαθιά ηθική και θεολογική προβληματική του χριστιανισμού. Η συνάντηση αυτή μεταβάλλει ουσιωδώς τον τρόπο με τον οποίο νοείται πλέον το δίκαιο. Η έννοια της νομιμότητας παύει να εξαντλείται στη θεσμική εγκυρότητα ή στη συστηματική οργάνωση των κανόνων και εντάσσεται σε μία ευρύτερη αντίληψη περί δικαιοσύνης, ανθρώπινου προσώπου και κοινού αγαθού. Η μεταβολή αυτή θα ασκήσει βαθύτατη επιρροή σε ολόκληρη τη δυτική νομική παράδοση και εξακολουθεί να αποτελεί, ακόμη και σήμερα, έναν από τους σημαντικότερους θεωρητικούς άξονες της συζητήσεως για την τεχνητή νοημοσύνη.

Η χριστιανική σκέψη εισάγει στο δίκαιο μία διάσταση που απουσίαζε από τις περισσότερες προγενέστερες αντιλήψεις. Το πρόσωπο δεν αντιμετωπίζεται πλέον απλώς ως μέλος της πολιτικής κοινότητας ούτε αποκλειστικά ως φορέας δικαιωμάτων και υποχρεώσεων. Αναγνωρίζεται ως ον προικισμένο με εσωτερική αξία, ελευθερία και συνείδηση. Η σχέση μεταξύ δικαίου και ανθρώπου αποκτά έτσι προσωπικό χαρακτήρα. Η υπακοή στον νόμο δεν αποτελεί μόνο συμμόρφωση προς εξωτερικούς κανόνες αλλά συνδέεται με την εσωτερική ευθύνη της συνειδήσεως.

Η νέα αυτή προοπτική γίνεται εμφανής ήδη στο έργο του Αυγουστίνου. Η περίφημη θέση ότι ένα κράτος χωρίς δικαιοσύνη δεν διαφέρει ουσιωδώς από μία οργανωμένη ληστρική συμμορία δεν αποτελεί απλώς θεολογική διακήρυξη. Εκφράζει μία βαθιά θεωρητική μετατόπιση. Η πολιτική ισχύς δεν νομιμοποιείται αυτομάτως από την αποτελεσματικότητά της ούτε από τη δυνατότητά της να επιβάλλει υπακοή. Η νομιμότητα εξαρτάται από τη σχέση της εξουσίας προς τη δικαιοσύνη. Επομένως, το δίκαιο δεν μπορεί να ταυτισθεί με οποιαδήποτε έκφραση οργανωμένης κρατικής βουλήσεως. Υπάρχει πάντοτε ένα ανώτερο κριτήριο, με βάση το οποίο η ίδια η έννομη τάξη υπόκειται σε αξιολόγηση.

Η θέση αυτή παρουσιάζει αξιοσημείωτη επικαιρότητα στην εποχή της τεχνητής νοημοσύνης. Οι σύγχρονες αλγοριθμικές υποδομές εμφανίζονται συχνά ως ουδέτερα μέσα βελτιστοποιήσεως της δημόσιας διοικήσεως, της δικαιοσύνης ή της οικονομικής δραστηριότητας. Όμως η αυγουστινιανή σκέψη υπενθυμίζει ότι η αποτελεσματικότητα δεν αρκεί για να νομιμοποιήσει μία μορφή εξουσίας. Ένα σύστημα μπορεί να λειτουργεί με εξαιρετική ακρίβεια, να επεξεργάζεται τεράστιους όγκους δεδομένων και να παράγει συνεπείς αποφάσεις· εάν όμως οι αποφάσεις αυτές προσβάλλουν την ανθρώπινη αξιοπρέπεια ή διαιωνίζουν μορφές αδικίας, τότε η τεχνική αρτιότητα δεν αρκεί για να θεμελιώσει τη νομιμότητά τους.

Η θεωρητική αυτή κατεύθυνση αποκτά πλήρη συστηματική διατύπωση στο έργο του Θωμά Ακινάτη. Ο Ακινάτης επιχειρεί να ενοποιήσει την αριστοτελική φιλοσοφία με τη χριστιανική θεολογία και δημιουργεί μία από τις πλέον επιδραστικές θεωρίες του δικαίου στην ευρωπαϊκή ιστορία. Η διάκριση μεταξύ αιώνιου νόμου, φυσικού νόμου, ανθρώπινου νόμου και θείου νόμου δεν αποτελεί απλή ταξινόμηση διαφορετικών μορφών κανονιστικότητας. Εκφράζει μία ολόκληρη αντίληψη περί της σχέσεως μεταξύ θεσπισμένων κανόνων και αντικειμενικής δικαιοσύνης.

Ο ανθρώπινος νόμος αποκτά εγκυρότητα όχι μόνο επειδή θεσπίσθηκε από την αρμόδια πολιτική εξουσία αλλά επειδή αποβλέπει στο κοινό αγαθό και συμφωνεί προς τις επιταγές του ορθού λόγου. Εάν απομακρυνθεί από αυτές τις προϋποθέσεις, τότε εξακολουθεί ίσως να διατηρεί τη μορφή του νόμου, αλλά παύει να ανταποκρίνεται στην ουσία του. Η περίφημη διατύπωση του Ακινάτη ότι ο άδικος νόμος αποτελεί διαστροφή του νόμου δεν σημαίνει άρνηση της θεσμικής τάξεως· σημαίνει ότι η έννοια του δικαίου περιλαμβάνει πάντοτε μία αξιολογική διάσταση, η οποία δεν μπορεί να εξαλειφθεί.

Η σημασία της μεσαιωνικής αυτής παραδόσεως για τη θεωρία της τεχνητής νοημοσύνης είναι ιδιαίτερα μεγάλη. Στον σύγχρονο κανονιστικό λόγο εμφανίζονται συνεχώς έννοιες όπως η ανθρώπινη εποπτεία, η διαφάνεια, η εξηγησιμότητα, η μη διάκριση, η προστασία της ανθρώπινης αξιοπρέπειας, η δυνατότητα αμφισβητήσεως των αποφάσεων και η λογοδοσία των συστημάτων τεχνητής νοημοσύνης. Συχνά οι έννοιες αυτές παρουσιάζονται ως αποκλειστικά σύγχρονες απαιτήσεις, οι οποίες προκύπτουν από τη ραγδαία τεχνολογική εξέλιξη. Στην πραγματικότητα, όμως, αποτελούν νεότερες εκφράσεις μιας πολύ παλαιότερης θεωρητικής παραδόσεως, σύμφωνα με την οποία η εγκυρότητα μιας μορφής εξουσίας δεν εξαρτάται αποκλειστικά από την αποτελεσματικότητα ή τη νομιμότητα της διαδικασίας αλλά και από τη συμφωνία της προς υπέρτερες αρχές δικαιοσύνης.

Η παρατήρηση αυτή αποκτά ιδιαίτερη σημασία όταν εξετάζεται το ζήτημα της αυτονομίας των αλγοριθμικών συστημάτων. Όσο περισσότερο οι διαδικασίες λήψεως αποφάσεων μεταφέρονται σε σύνθετα συστήματα μηχανικής μάθησης, τόσο εντονότερα εμφανίζεται ο πειρασμός να αξιολογείται η ορθότητα αποκλειστικά με βάση τη λειτουργική επιτυχία. Εάν το σύστημα προβλέπει αποτελεσματικά, εάν μειώνει τα σφάλματα, εάν αυξάνει την ταχύτητα των διαδικασιών, τότε θεωρείται επιτυχημένο. Η μεσαιωνική θεωρία, όμως, επιμένει ότι κάθε μορφή εξουσίας πρέπει να αξιολογείται και υπό το πρίσμα του σκοπού που υπηρετεί. Δεν αρκεί να εξετάζεται ο τρόπος λειτουργίας της· απαιτείται να εξετάζεται και η κατεύθυνση προς την οποία οδηγεί την πολιτική κοινότητα.

Η έννοια του κοινού αγαθού αποκτά εδώ κεντρική σημασία. Στη σύγχρονη τεχνοκρατική σκέψη κυριαρχεί συχνά η αντίληψη ότι η βελτιστοποίηση των διαδικασιών αποτελεί αφ’ εαυτής επαρκή στόχο της δημόσιας διοικήσεως. Όμως το κοινό αγαθό δεν ταυτίζεται με τη μέγιστη δυνατή αποτελεσματικότητα. Αφορά τη συνολική ποιότητα της κοινής ζωής, τη διατήρηση της ελευθερίας, την προστασία της αξιοπρέπειας του προσώπου, την ισότητα ενώπιον του νόμου, την κοινωνική συνοχή και την εμπιστοσύνη προς τους θεσμούς. Ένα αλγοριθμικό σύστημα μπορεί να βελτιώνει ορισμένους ποσοτικούς δείκτες λειτουργίας της διοικήσεως και συγχρόνως να υπονομεύει βαθύτερες προϋποθέσεις της δημοκρατικής πολιτείας.

Από την άποψη αυτή, η μεσαιωνική σκέψη λειτουργεί ως αντίβαρο απέναντι στον σύγχρονο τεχνοκρατισμό. Δεν αρνείται την αξία της τεχνικής ούτε υποτιμά τη σημασία της ορθολογικής οργανώσεως των θεσμών. Υπενθυμίζει, όμως, ότι κάθε τεχνική οφείλει να υπηρετεί έναν ευρύτερο κανονιστικό σκοπό. Η τεχνολογία δεν μπορεί να αυτονομηθεί από την ηθική και πολιτική αξιολόγηση των συνεπειών της.

Η ίδια προβληματική εμφανίζεται και στο ζήτημα της ανθρώπινης εποπτείας. Η απαίτηση να παραμένει πάντοτε δυνατή η παρέμβαση του ανθρώπου στις διαδικασίες λήψεως αποφάσεων δεν αποτελεί απλή εγγύηση ασφαλείας απέναντι σε τεχνικά σφάλματα. Εκφράζει μία βαθύτερη ανθρωπολογική παραδοχή, σύμφωνα με την οποία η τελική ευθύνη για τη δικαιοσύνη των αποφάσεων δεν μπορεί να μεταβιβασθεί ολοκληρωτικά σε απρόσωπους μηχανισμούς. Η έννομη τάξη προϋποθέτει πάντοτε την ύπαρξη υπευθύνων προσώπων, τα οποία αναλαμβάνουν τη λογοδοσία των αποφάσεών τους.

Η χριστιανική και μεσαιωνική παράδοση, επομένως, προσθέτει στην ιστορία της νομικής σκέψεως μία νέα θεμελιώδη διάσταση. Η νομιμότητα δεν εξαντλείται ούτε στην ύπαρξη κανόνων ούτε στη λογική συνοχή της έννομης τάξεως. Ούτε η τεχνική αρτιότητα ούτε η συστηματική οργάνωση αποτελούν αφ’ εαυτών επαρκή κριτήρια δικαιοσύνης. Πάνω από την τυπική εγκυρότητα υπάρχει πάντοτε το ερώτημα του σκοπού, της αξιοπρέπειας του ανθρώπου και του κοινού αγαθού.

Η θεωρητική αυτή παρακαταθήκη θα μετασχηματισθεί εκ νέου κατά τη νεωτερικότητα. Η ανάδυση του σύγχρονου κράτους, η θεωρία της κυριαρχίας, η ανάπτυξη του κοινωνικού συμβολαίου και η σταδιακή θεμελίωση των ατομικών δικαιωμάτων θα μεταβάλουν ριζικά το πλαίσιο μέσα στο οποίο νοείται πλέον η έννομη τάξη. Τα ερωτήματα, όμως, που διατύπωσε η μεσαιωνική σκέψη θα εξακολουθήσουν να συνοδεύουν κάθε μεταγενέστερη θεωρία του δικαίου, υπενθυμίζοντας ότι καμία τεχνική μορφή οργανώσεως της κοινωνίας δεν μπορεί να θεωρηθεί αυτάρκης όταν αποκόπτεται από τη δικαιοσύνη την οποία οφείλει να υπηρετεί.

ΚΕΦΑΛΑΙΟ Ε΄
Νεωτερικότητα: κυριαρχία, δικαιώματα και η νέα θεμελίωση της έννομης τάξεως

Η μετάβαση από τη μεσαιωνική στη νεότερη εποχή σηματοδοτεί μία από τις βαθύτερες μεταβολές στην ιστορία της νομικής σκέψεως. Η διάλυση της ενότητας του μεσαιωνικού κόσμου, η συγκρότηση του κυρίαρχου κράτους, οι θρησκευτικοί πόλεμοι, η ανάδυση της επιστημονικής μεθόδου και η σταδιακή διαμόρφωση των πρώτων φιλελεύθερων θεωριών μεταβάλλουν ριζικά όχι μόνο τη δομή της πολιτικής εξουσίας αλλά και τον τρόπο με τον οποίο γίνεται αντιληπτή η ίδια η έννοια του δικαίου. Ενώ η μεσαιωνική παράδοση τοποθετούσε στο επίκεντρο το κοινό αγαθό και την υπαγωγή του ανθρώπινου νόμου σε μία υπέρτερη κανονιστική τάξη, η νεωτερικότητα αναζητεί νέα θεμελίωση της έννομης τάξεως μέσα από την έννοια της κυριαρχίας, της ατομικής ελευθερίας και της κοινωνικής συμβάσεως.

Η μεταβολή αυτή δεν αποτελεί απλή αντικατάσταση ενός θεωρητικού σχήματος από ένα άλλο. Αντιπροσωπεύει αλλαγή ολόκληρου του τρόπου κατανοήσεως της πολιτικής κοινότητας. Η μεσαιωνική κοινωνία αντιλαμβανόταν το δίκαιο ως μέρος μιας αντικειμενικής ηθικής τάξεως, η οποία προϋπήρχε της κρατικής εξουσίας. Η νεωτερική σκέψη, αντίθετα, επιδιώκει να εξηγήσει πώς είναι δυνατή η συγκρότηση έννομης τάξεως σε έναν κόσμο όπου η θρησκευτική και ηθική ενότητα έχει πλέον διαρραγεί. Το ερώτημα μετατοπίζεται από την αναζήτηση της αντικειμενικής δικαιοσύνης προς την αναζήτηση σταθερών θεσμών που να μπορούν να διασφαλίσουν ειρήνη, ασφάλεια και προβλεψιμότητα.

Η θεωρία του Hobbes αποτελεί την πρώτη μεγάλη συστηματική απάντηση στο νέο αυτό πρόβλημα. Η εμπειρία του εμφυλίου πολέμου οδηγεί τον Άγγλο φιλόσοφο στη διαπίστωση ότι χωρίς ισχυρή πολιτική εξουσία η ανθρώπινη κοινωνία οδηγείται αναπόφευκτα σε κατάσταση αμοιβαίας ανασφάλειας. Το δίκαιο αποκτά έτσι νέα αποστολή. Δεν αποτελεί πλέον πρωτίστως έκφραση της αρετής ούτε μηχανισμό τελειοποιήσεως του ανθρώπου. Μετατρέπεται σε θεσμικό μέσο περιορισμού της συγκρούσεως και εγγύησης της συλλογικής επιβιώσεως.

Η χομπσιανή αυτή θεώρηση παρουσιάζει εντυπωσιακές αναλογίες με πολλές σύγχρονες εφαρμογές της τεχνητής νοημοσύνης. Μεγάλο μέρος των αλγοριθμικών συστημάτων που χρησιμοποιούνται σήμερα στη δημόσια διοίκηση, στην αστυνόμευση, στη διαχείριση κινδύνου ή στην πρόβλεψη εγκληματικής συμπεριφοράς στηρίζεται ακριβώς στην επιδίωξη της ασφαλείας μέσω της προγνωστικής αναλύσεως. Η λογική τους είναι χαρακτηριστικά προληπτική. Αντί να αντιμετωπίζουν απλώς ήδη εκδηλωμένες παραβιάσεις, επιχειρούν να προβλέψουν μελλοντικές συμπεριφορές και να μειώσουν την αβεβαιότητα μέσω στατιστικών εκτιμήσεων.

Η ιστορική αυτή αντιστοιχία δεν είναι τυχαία. Η τεχνητή νοημοσύνη ενισχύει σημαντικά μία αντίληψη του δικαίου σύμφωνα με την οποία ο πρωταρχικός σκοπός της έννομης τάξεως είναι η αποτελεσματική διαχείριση του κοινωνικού κινδύνου. Όσο ακριβέστερη γίνεται η πρόβλεψη, τόσο ισχυρότερος εμφανίζεται ο πειρασμός να μετατοπισθεί το κέντρο βάρους από την απονομή δικαιοσύνης στη διαχείριση της πιθανότητας μελλοντικών παραβάσεων. Το δίκαιο κινδυνεύει έτσι να μεταβληθεί από σύστημα κρίσεως συγκεκριμένων πράξεων σε μηχανισμό συνεχούς αξιολογήσεως πιθανών συμπεριφορών.

Η εξέλιξη αυτή αναδεικνύει έναν από τους σημαντικότερους κινδύνους της σύγχρονης αλγοριθμικής διακυβερνήσεως. Η λογική της ασφαλείας διαθέτει εσωτερική δυναμική επεκτάσεως. Όσο περισσότερο αυξάνεται η δυνατότητα συλλογής δεδομένων και προγνώσεως, τόσο ισχυρότερη γίνεται η τάση προς συνεχή επιτήρηση, διαρκή ταξινόμηση και προληπτική παρέμβαση. Η τεχνολογία μπορεί έτσι να ενισχύσει μορφές εξουσίας πολύ ευρύτερες από εκείνες που είχαν ποτέ στη διάθεσή τους τα παραδοσιακά κράτη.

Ακριβώς απέναντι σε αυτή την προοπτική αποκτά ιδιαίτερη σημασία η φιλελεύθερη παράδοση του Locke. Ενώ ο Hobbes τοποθετεί στο επίκεντρο την ασφάλεια, ο Locke θεμελιώνει την πολιτική κοινότητα στην προστασία των φυσικών δικαιωμάτων του ανθρώπου. Η κρατική εξουσία δεν υπάρχει για τον εαυτό της ούτε νομιμοποιείται αποκλειστικά από την αποτελεσματικότητά της. Υπάρχει προκειμένου να διαφυλάσσει την ελευθερία, την ιδιοκτησία και την προσωπική αυτονομία των πολιτών. Η κυριαρχία υπόκειται πλέον σε ουσιαστικούς περιορισμούς.

Η σημασία της θεωρίας αυτής για την τεχνητή νοημοσύνη είναι εξαιρετικά μεγάλη. Τα περισσότερα σύγχρονα ζητήματα που αφορούν την προστασία προσωπικών δεδομένων, την ψηφιακή ιδιωτικότητα, τη χρήση βιομετρικών πληροφοριών, την αυτοματοποιημένη λήψη διοικητικών αποφάσεων και τη διαρκή παρακολούθηση των πολιτών μπορούν να θεωρηθούν ως νέες μορφές της παλαιάς φιλελεύθερης προβληματικής. Το βασικό ερώτημα παραμένει αμετάβλητο: μέχρι ποιο σημείο επιτρέπεται η επέκταση της κρατικής ή ιδιωτικής εξουσίας χωρίς να θίγεται ο πυρήνας της ανθρώπινης ελευθερίας;

Η τεχνητή νοημοσύνη καθιστά το ερώτημα αυτό ακόμη πιο σύνθετο. Η συλλογή δεδομένων πραγματοποιείται πλέον με τρόπους οι οποίοι συχνά παραμένουν αόρατοι για τον ίδιο τον πολίτη. Οι αξιολογήσεις κινδύνου, οι αυτοματοποιημένες ταξινομήσεις και οι μηχανισμοί εξατομικευμένης προβλέψεως μπορούν να επηρεάσουν ουσιωδώς τη ζωή του χωρίς να υπάρχει πάντοτε πλήρης επίγνωση της λειτουργίας τους. Η φιλελεύθερη απαίτηση περιορισμού της εξουσίας αποκτά, συνεπώς, νέα διάσταση. Δεν αφορά μόνο τις παραδοσιακές κρατικές παρεμβάσεις αλλά και τις σύνθετες ψηφιακές υποδομές που επηρεάζουν καθημερινά την άσκηση θεμελιωδών δικαιωμάτων.

Η τρίτη μεγάλη νεωτερική συμβολή προέρχεται από τον Rousseau. Η θεωρία της γενικής βουλήσεως μεταφέρει τη συζήτηση από την προστασία των ατομικών δικαιωμάτων στη δημοκρατική νομιμοποίηση της ίδιας της έννομης τάξεως. Ο νόμος είναι αληθινά δεσμευτικός μόνον όταν αποτελεί έκφραση της πολιτικής αυτονομίας των πολιτών. Η υπακοή στον νόμο δεν σημαίνει υποταγή σε ξένη βούληση αλλά συμμετοχή σε μία συλλογική διαδικασία αυτονομοθετήσεως.

Η προβληματική αυτή αποκτά ιδιαίτερη επικαιρότητα στη σύγχρονη ψηφιακή κοινωνία. Μεγάλο μέρος των κανόνων που επηρεάζουν πλέον την καθημερινή ζωή των ανθρώπων δεν παράγεται αποκλειστικά από τα δημοκρατικά νομοθετικά σώματα. Διαμορφώνεται μέσω ιδιωτικών ψηφιακών πλατφορμών, μηχανισμών αυτοματοποιημένης αξιολογήσεως, αλγοριθμικών συστημάτων συστάσεων και τεχνολογικών υποδομών που λειτουργούν σε παγκόσμια κλίμακα. Ανακύπτει έτσι το ερώτημα αν η πολιτική κοινότητα εξακολουθεί να αυτοκαθορίζεται ή αν σημαντικό μέρος της κανονιστικής ισχύος μεταφέρεται σε ιδιωτικά τεχνολογικά κέντρα λήψεως αποφάσεων.

Η εξέλιξη αυτή υπερβαίνει κατά πολύ το επίπεδο της ατομικής προστασίας των δικαιωμάτων. Αγγίζει τον ίδιο τον πυρήνα της δημοκρατικής θεωρίας. Εάν οι σημαντικότερες κοινωνικές επιλογές επηρεάζονται από αλγοριθμικά συστήματα των οποίων ο σχεδιασμός, η λειτουργία και οι προτεραιότητες καθορίζονται εκτός των δημοκρατικών διαδικασιών, τότε τίθεται υπό αμφισβήτηση όχι μόνο η ατομική ελευθερία αλλά και η συλλογική πολιτική αυτονομία.

Η νεωτερική σκέψη καταλήγει, επομένως, σε μία νέα σύνθεση. Το δίκαιο εμφανίζεται ταυτόχρονα ως μηχανισμός ασφαλείας, ως εγγύηση ατομικών δικαιωμάτων και ως έκφραση δημοκρατικής αυτονομοθετήσεως. Οι τρεις αυτές διαστάσεις δεν βρίσκονται πάντοτε σε αρμονία. Συχνά συγκρούονται μεταξύ τους, δημιουργώντας εντάσεις που εξακολουθούν να χαρακτηρίζουν και τις σύγχρονες έννομες τάξεις. Η τεχνητή νοημοσύνη δεν δημιουργεί τις εντάσεις αυτές· τις καθιστά όμως περισσότερο ορατές και περισσότερο έντονες.

Η ιστορική εμπειρία της νεωτερικότητας οδηγεί έτσι σε ένα ουσιώδες συμπέρασμα. Η τεχνολογική πρόοδος δεν μπορεί να αξιολογείται αποκλειστικά με βάση την αύξηση της αποτελεσματικότητας ή της προβλεπτικής ικανότητας. Οφείλει να εντάσσεται σε ένα πολύ ευρύτερο πλαίσιο, μέσα στο οποίο συνεκτιμώνται η προστασία της ελευθερίας, η διατήρηση των θεμελιωδών δικαιωμάτων, η δημοκρατική νομιμοποίηση της εξουσίας και η δυνατότητα των πολιτών να παραμένουν πραγματικοί συνδιαμορφωτές της έννομης τάξεως μέσα στην οποία ζουν.

Η επόμενη ιστορική περίοδος θα επιχειρήσει να απαντήσει στα ίδια αυτά προβλήματα μέσω της πίστεως στη δύναμη του ορθού λόγου. Ο Διαφωτισμός θα αναδείξει τη γενικότητα, τη σαφήνεια και την προβλεψιμότητα του νόμου ως τις κατεξοχήν εγγυήσεις απέναντι στην αυθαιρεσία, δημιουργώντας έτσι το θεωρητικό υπόβαθρο πάνω στο οποίο θα οικοδομηθεί αργότερα η ιδέα της απρόσωπης αλγοριθμικής ορθολογικότητας.

ΚΕΦΑΛΑΙΟ ΣΤ΄
Διαφωτισμός, νομικός φορμαλισμός και το ιδανικό της απρόσωπης ορθολογικότητας

Ο Διαφωτισμός αποτελεί μία από τις πλέον καθοριστικές περιόδους στην ιστορία της νομικής σκέψεως, διότι μεταβάλλει ριζικά όχι μόνο το περιεχόμενο των θεσμών αλλά και την ίδια τη μεθοδολογία με την οποία προσεγγίζεται το δίκαιο. Εάν η μεσαιωνική παράδοση έθεσε στο επίκεντρο τη σχέση του ανθρώπινου νόμου προς μία ανώτερη ηθική τάξη και η νεωτερικότητα ανέδειξε την έννοια της κυριαρχίας και των ατομικών δικαιωμάτων, ο Διαφωτισμός επιχειρεί να οικοδομήσει μία έννομη τάξη η οποία θα στηρίζεται πρωτίστως στη δύναμη του ορθού λόγου. Η αυθεντία της παραδόσεως, της θρησκευτικής εξουσίας ή της ιστορικής συνηθείας υποχωρεί σταδιακά και αντικαθίσταται από την απαίτηση κάθε θεσμός να μπορεί να δικαιολογηθεί με κριτήρια καθολικής λογικότητας.

Η νέα αυτή θεώρηση δεν περιορίζεται στη φιλοσοφία. Επηρεάζει αποφασιστικά τη νομοθεσία, τη δικαστική λειτουργία και τη συνολική οργάνωση του κράτους. Η σαφήνεια, η γενικότητα, η προβλεψιμότητα και η δημοσιότητα του νόμου αναδεικνύονται σε θεμελιώδεις αρχές της έννομης τάξεως. Η αυθαιρεσία του άρχοντα ή του δικαστή θεωρείται πλέον η μεγαλύτερη απειλή για την ελευθερία του πολίτη. Αντίδοτο απέναντι στην αυθαιρεσία δεν είναι η προσωπική αρετή του κυβερνώντος αλλά η αντικειμενική λειτουργία κανόνων οι οποίοι είναι εκ των προτέρων γνωστοί, εφαρμόζονται κατά τρόπο ομοιόμορφο και δεσμεύουν εξίσου όλους.

Η σημασία της ιστορικής αυτής μεταβολής για τη σύγχρονη τεχνητή νοημοσύνη είναι εξαιρετικά μεγάλη. Μεγάλο μέρος της επιχειρηματολογίας υπέρ της αλγοριθμικής λήψεως αποφάσεων στηρίζεται ακριβώς σε διαφωτιστικά ιδεώδη. Υποστηρίζεται ότι οι αλγόριθμοι εφαρμόζουν τους ίδιους κανόνες σε όλους, περιορίζουν τις προσωπικές προκαταλήψεις, εξασφαλίζουν συνέπεια, αυξάνουν την προβλεψιμότητα και καθιστούν την κρατική δράση περισσότερο αντικειμενική. Η βασική υπόσχεση της τεχνητής νοημοσύνης εμφανίζεται έτσι ως συνέχεια ενός μακρού ιστορικού προγράμματος, το οποίο αποσκοπεί στην αντικατάσταση της προσωπικής αυθαιρεσίας από την απρόσωπη ορθολογικότητα.

Η ιστορική αυτή συνέχεια είναι αναμφίβολα υπαρκτή. Η επιδίωξη της ομοιόμορφης εφαρμογής του νόμου αποτελεί μία από τις σημαντικότερες κατακτήσεις του Διαφωτισμού και εξακολουθεί να αποτελεί ουσιώδη προϋπόθεση κάθε κράτους δικαίου. Η ισότητα ενώπιον του νόμου θα ήταν αδύνατη εάν κάθε δικαστής ή κάθε διοικητικός υπάλληλος εφάρμοζε διαφορετικά κριτήρια ανάλογα με τις προσωπικές του αντιλήψεις. Η επιθυμία περιορισμού της υποκειμενικότητας αποτελεί, συνεπώς, απολύτως θεμιτό στόχο.

Ωστόσο, ο ίδιος ο Διαφωτισμός περιέχει στοιχεία που επιτρέπουν μία πολύ πιο σύνθετη αξιολόγηση της τεχνητής νοημοσύνης. Η λογικότητα δεν εξαντλείται ποτέ στη συνέπεια των αποτελεσμάτων. Προϋποθέτει επίσης τη δυνατότητα κατανόησης των διαδικασιών μέσω των οποίων παράγονται τα αποτελέσματα αυτά. Η δημόσια χρήση του λόγου αποτελεί θεμελιώδη αρχή της διαφωτιστικής σκέψεως. Ο πολίτης δεν καλείται απλώς να αποδέχεται αποφάσεις επειδή είναι αποτελεσματικές. Δικαιούται να γνωρίζει τους λόγους που τις θεμελιώνουν, να τις εξετάζει, να τις αμφισβητεί και να συμμετέχει στον δημόσιο διάλογο σχετικά με την ορθότητά τους.

Η διάσταση αυτή αποκτά εξαιρετική σημασία όταν εξετάζονται τα λεγόμενα συστήματα «μαύρου κουτιού» (black box systems). Πολλά από τα πλέον προηγμένα μοντέλα μηχανικής μάθησης χαρακτηρίζονται από εξαιρετικά υψηλή υπολογιστική απόδοση αλλά συγχρόνως από περιορισμένη δυνατότητα ερμηνείας των εσωτερικών διαδικασιών τους. Η τελική πρόβλεψη μπορεί να είναι εξαιρετικά ακριβής, χωρίς όμως να είναι πάντοτε σαφές γιατί το σύστημα οδηγήθηκε στη συγκεκριμένη απόφαση.

Από καθαρά τεχνική άποψη, η δυσκολία αυτή μπορεί να θεωρηθεί αποδεκτή εφόσον το αποτέλεσμα παραμένει αξιόπιστο. Από νομική και πολιτική άποψη, όμως, το πρόβλημα είναι πολύ βαθύτερο. Η έννομη τάξη δεν ενδιαφέρεται μόνο για την ορθότητα του αποτελέσματος αλλά και για τη νομιμότητα της διαδικασίας μέσω της οποίας αυτό παράγεται. Η δυνατότητα δημόσιου ελέγχου αποτελεί ουσιώδες στοιχείο του κράτους δικαίου. Μία εξουσία που δεν μπορεί να εξηγηθεί καθίσταται εξαιρετικά δύσκολο να ελεγχθεί, ακόμη και όταν ενεργεί με τις καλύτερες προθέσεις.

Το σημείο αυτό αποκαλύπτει μία ενδιαφέρουσα εσωτερική ένταση του ίδιου του διαφωτιστικού προγράμματος. Από τη μία πλευρά, ο Διαφωτισμός επιδιώκει την αντικειμενικότητα, τη γενικότητα και τη συνέπεια των κανόνων. Από την άλλη πλευρά, απαιτεί δημοσιότητα, διαφάνεια και δυνατότητα λογοδοσίας της εξουσίας. Οι δύο αυτές επιδιώξεις συμβαδίζουν όσο η λογική των αποφάσεων παραμένει κατανοητή. Όταν όμως η τεχνική πολυπλοκότητα καθιστά αδύνατη την κατανόηση της ίδιας της διαδικασίας λήψεως αποφάσεων, τότε εμφανίζεται μία νέα μορφή αντιφάσεως. Η εξαιρετικά προηγμένη τεχνολογική ορθολογικότητα μπορεί να αποδειχθεί πολιτικά αντιδιαφωτιστική.

Η παρατήρηση αυτή δεν αποτελεί απλή θεωρητική ανησυχία. Η χρήση αλγοριθμικών συστημάτων στη δικαιοσύνη, στη φορολογική διοίκηση, στις προσλήψεις, στην αξιολόγηση πιστοληπτικής ικανότητας, στην κοινωνική πρόνοια και στη διαχείριση μεταναστευτικών ροών δημιουργεί ήδη περιπτώσεις στις οποίες οι πολίτες επηρεάζονται ουσιωδώς από αποφάσεις των οποίων δυσκολεύονται να κατανοήσουν τη λογική. Εάν ο πολίτης αδυνατεί να πληροφορηθεί για ποιο λόγο αξιολογήθηκε ως υψηλού κινδύνου, για ποιο λόγο απορρίφθηκε η αίτησή του ή για ποιο λόγο του αποδόθηκε συγκεκριμένη διοικητική μεταχείριση, τότε η ίδια η δυνατότητα αποτελεσματικής δικαστικής προστασίας περιορίζεται σημαντικά.

Η ιστορική εμπειρία του Διαφωτισμού υπενθυμίζει ότι η νομιμότητα προϋποθέτει πολύ περισσότερα από τη μαθηματική συνέπεια. Απαιτεί επίσης την ύπαρξη θεσμών οι οποίοι επιτρέπουν στον πολίτη να γνωρίζει, να ελέγχει και να αμφισβητεί την άσκηση της εξουσίας. Η δημόσια αιτιολόγηση των αποφάσεων δεν αποτελεί διοικητική τυπικότητα αλλά ουσιώδη εγγύηση της πολιτικής ελευθερίας.

Η ίδια προβληματική συνδέεται και με μία ακόμη σημαντική πτυχή της διαφωτιστικής σκέψεως, δηλαδή με την καθολικότητα του νόμου. Ο νόμος οφείλει να εφαρμόζεται χωρίς διακρίσεις και χωρίς προνομιακή μεταχείριση συγκεκριμένων ομάδων. Η αρχή αυτή αποτελεί μία από τις σημαντικότερες κατακτήσεις της νεότερης συνταγματικής παραδόσεως. Η τεχνητή νοημοσύνη υπόσχεται ότι μπορεί να υπηρετήσει αποτελεσματικά την καθολικότητα αυτή, επειδή εφαρμόζει τα ίδια υπολογιστικά πρότυπα σε όλους.

Η πραγματικότητα, όμως, αποδεικνύεται περισσότερο σύνθετη. Η ιστορική εξέλιξη των αλγοριθμικών συστημάτων έχει καταδείξει ότι ακόμη και όταν η μαθηματική διαδικασία είναι ενιαία, τα δεδομένα πάνω στα οποία εκπαιδεύεται μπορεί να ενσωματώνουν ιστορικές ανισότητες, κοινωνικές προκαταλήψεις ή θεσμικές στρεβλώσεις. Η ομοιόμορφη εφαρμογή ενός στρεβλού μοντέλου δεν παράγει ισότητα αλλά γενικευμένη αναπαραγωγή της ανισότητας. Με τον τρόπο αυτό αποκαλύπτεται ότι η διαφωτιστική ιδέα της γενικότητας του νόμου προϋποθέτει πάντοτε και ουσιαστική ισότητα των όρων μέσα στους οποίους εφαρμόζεται.

Η εξέλιξη αυτή οδηγεί σε μία βαθύτερη κατανόηση της σχέσεως μεταξύ Διαφωτισμού και τεχνητής νοημοσύνης. Η ΑΙ δεν αποτελεί ούτε φυσική ολοκλήρωση ούτε άρνηση του διαφωτιστικού προγράμματος. Αντιθέτως, λειτουργεί ως δοκιμασία των ίδιων των αρχών του. Μας υποχρεώνει να επανεξετάσουμε τι σημαίνει πραγματικά αντικειμενικότητα, ουδετερότητα, λογικότητα και ισότητα όταν οι αποφάσεις παράγονται μέσα από εξαιρετικά πολύπλοκα υπολογιστικά συστήματα.

Έτσι, ο Διαφωτισμός δεν προσφέρει μόνο επιχειρήματα υπέρ της χρήσεως της τεχνητής νοημοσύνης. Παρέχει συγχρόνως και τα σημαντικότερα θεωρητικά κριτήρια για τον έλεγχο των ορίων της. Η απαίτηση της διαφάνειας, της δημόσιας λογοδοσίας, της δυνατότητας αμφισβητήσεως και της θεσμικής ελεγκτικότητας εξακολουθεί να αποτελεί αναγκαία προϋπόθεση κάθε μορφής έννομης εξουσίας, ανεξαρτήτως του αν αυτή ασκείται από ανθρώπους ή υποστηρίζεται από αλγοριθμικά συστήματα.

Η ιστορική αυτή πορεία θα οδηγήσει, κατά τον δέκατο ένατο και τον εικοστό αιώνα, στην ανάπτυξη του νομικού θετικισμού. Η επιδίωξη της συστηματικότητας και της τυπικής εγκυρότητας θα λάβει πλέον την πληρέστερη θεωρητική της μορφή, δημιουργώντας το πλαίσιο μέσα στο οποίο θα εμφανισθεί αργότερα η ιδέα της πλήρους τυποποιήσεως και αλγοριθμοποιήσεως της νομικής σκέψεως.

ΚΕΦΑΛΑΙΟ Ζ΄
Θετικισμός, εγκυρότητα και αλγοριθμική κανονιστικότητα

Η ιστορική εξέλιξη της νομικής σκέψεως κατά τον δέκατο ένατο αιώνα χαρακτηρίζεται από μία βαθιά μεταβολή της θεωρητικής της αυτοκατανόησης. Ενώ ο Διαφωτισμός είχε ήδη αναδείξει τη σημασία της ορθολογικής νομοθέτησης, της γενικότητας του νόμου και της απρόσωπης λειτουργίας των θεσμών, ο νομικός θετικισμός επιχειρεί να προσδώσει στο δίκαιο ακόμη μεγαλύτερη επιστημονική αυτονομία. Η βασική του επιδίωξη είναι να αποδεσμεύσει τη θεωρία του δικαίου από τις διαρκείς ηθικές, πολιτικές και μεταφυσικές αντιπαραθέσεις και να την οργανώσει ως αυτόνομη επιστήμη, με δικό της αντικείμενο, δικές της μεθόδους και δικά της κριτήρια εγκυρότητας.

Η επιλογή αυτή δεν πρέπει να θεωρηθεί ιστορικό ατύχημα. Ανταποκρίνεται στις ευρύτερες εξελίξεις της νεότερης επιστήμης. Η φυσική, τα μαθηματικά, η χημεία και αργότερα οι κοινωνικές επιστήμες επιδιώκουν όλες να αποκτήσουν αυστηρή μεθοδολογία και σαφές αντικείμενο. Μέσα σε αυτό το επιστημονικό περιβάλλον, και η νομική επιστήμη επιχειρεί να διαμορφώσει έναν χώρο απαλλαγμένο από αξιολογικές αβεβαιότητες, ώστε να μπορεί να λειτουργεί με τη μέγιστη δυνατή συστηματικότητα.

Η πρώτη μεγάλη έκφραση αυτής της τάσεως εμφανίζεται στη θεωρία του John Austin. Για τον Austin, το δίκαιο συνίσταται πρωτίστως σε εντολές του κυρίαρχου, συνοδευόμενες από την απειλή κυρώσεως. Η εγκυρότητα ενός κανόνα δεν εξαρτάται από το αν είναι δίκαιος αλλά από το αν προέρχεται από την αναγνωρισμένη πολιτική εξουσία. Η διάκριση μεταξύ του τι είναι δίκαιο και του τι ισχύει ως δίκαιο αποκτά πλέον κεντρική σημασία. Η θεωρία αυτή επιδιώκει να εξασφαλίσει αντικειμενικότητα στην επιστημονική περιγραφή της έννομης τάξεως, αποφεύγοντας να μετατρέπει κάθε νομική ανάλυση σε ηθική αξιολόγηση.

Η θεμελιώδης αυτή διάκριση θα επηρεάσει βαθιά ολόκληρη τη μεταγενέστερη θεωρία του δικαίου και παρουσιάζει ιδιαίτερο ενδιαφέρον για τη σύγχρονη τεχνητή νοημοσύνη. Ένα μεγάλο μέρος των πρώτων εφαρμογών της νομικής πληροφορικής στηρίχθηκε ακριβώς σε θετικιστικές προϋποθέσεις. Εφόσον το δίκαιο αποτελεί σύνολο έγκυρων κανόνων, οι οποίοι μπορούν να οργανωθούν σε λογικό σύστημα, φαίνεται εύλογη η υπόθεση ότι οι κανόνες αυτοί μπορούν να αναπαρασταθούν σε υπολογιστικές δομές και να εφαρμοσθούν μέσω αυτοματοποιημένων διαδικασιών. Τα πρώτα νομικά expert systems οικοδομήθηκαν ακριβώς πάνω σε αυτή την αντίληψη. Η νομική κρίση αντιμετωπίσθηκε ως διαδικασία επιλογής και εφαρμογής κανόνων, οι οποίοι συνδέονται μεταξύ τους μέσω λογικών σχέσεων.

Η εξέλιξη αυτή ενισχύεται ακόμη περισσότερο από τη θεωρία του Hans Kelsen. Η «Καθαρή Θεωρία του Δικαίου» επιχειρεί να απομακρύνει από την επιστήμη του δικαίου κάθε στοιχείο που δεν ανήκει αυστηρά στο κανονιστικό της αντικείμενο. Η ηθική, η πολιτική, η κοινωνιολογία και η ψυχολογία θεωρούνται διαφορετικά επιστημονικά πεδία, τα οποία δεν πρέπει να συγχέονται με την περιγραφή της έννομης τάξεως. Το δίκαιο αποτελεί σύστημα κανόνων οργανωμένων ιεραρχικά, στο οποίο κάθε κατώτερος κανόνας αντλεί την εγκυρότητά του από ανώτερο κανόνα μέχρι τη θεμελιώδη κανονιστική προϋπόθεση της Grundnorm.

Η κελσενική θεωρία παρουσιάζει εντυπωσιακές αναλογίες με πολλές μορφές σύγχρονης υπολογιστικής αναπαραστάσεως του δικαίου. Η ιδέα μιας ιεραρχημένης δομής κανόνων, οι οποίοι μπορούν να ταξινομηθούν, να συνδεθούν και να εφαρμοσθούν με λογική συνέπεια, ταιριάζει ιδιαίτερα με τις πρώτες γενιές rule-based systems. Η έννομη τάξη εμφανίζεται ως καλά οργανωμένο κανονιστικό σύστημα, του οποίου οι σχέσεις μπορούν να περιγραφούν με μεγάλη ακρίβεια.

Ωστόσο, η ίδια η εξέλιξη της τεχνητής νοημοσύνης ανέδειξε πολύ γρήγορα τα όρια αυτής της προσεγγίσεως. Τα περισσότερα σύγχρονα συστήματα μηχανικής μάθησης δεν λειτουργούν πλέον μέσω άμεσης εφαρμογής κανόνων. Δεν ξεκινούν από μία προκαθορισμένη λογική δομή ούτε εφαρμόζουν πάντοτε ρητές κανονιστικές διατάξεις. Αντιθέτως, εξάγουν πρότυπα από τεράστιους όγκους δεδομένων, δημιουργούν στατιστικά μοντέλα και διαμορφώνουν προβλέψεις βασισμένες σε πιθανότητες. Η λογική τους είναι εμπειρική και προγνωστική περισσότερο παρά αυστηρά κανονιστική.

Η εξέλιξη αυτή δημιουργεί ένα ιδιαίτερα ενδιαφέρον θεωρητικό πρόβλημα. Εάν η λειτουργία ενός συστήματος βασίζεται κυρίως σε στατιστικές συσχετίσεις και όχι σε ρητούς κανόνες, τότε η σχέση του προς την παραδοσιακή έννοια της νομικής εγκυρότητας καθίσταται ασαφής. Το σύστημα μπορεί να επηρεάζει αποφασιστικά τη διοίκηση ή ακόμη και τη δικαιοσύνη, χωρίς όμως να εντάσσεται εύκολα στη θετικιστική αντίληψη περί κανόνα δικαίου.

Το πρόβλημα αυτό εμφανίζεται ιδιαίτερα έντονα στα predictive models. Ένα σύστημα μπορεί να προβλέπει με μεγάλη ακρίβεια την πιθανότητα υποτροπής ενός καταδικασθέντος, την πιθανότητα φοροδιαφυγής ή τον κίνδυνο οικονομικής αφερεγγυότητας. Οι προβλέψεις αυτές μπορεί να επηρεάζουν ουσιαστικά τις αποφάσεις των αρμόδιων αρχών, χωρίς όμως να αποτελούν οι ίδιες νομικούς κανόνες. Βρισκόμαστε έτσι ενώπιον μιας νέας μορφής κανονιστικής επιρροής, η οποία δεν ταυτίζεται ούτε με τον παραδοσιακό κανόνα δικαίου ούτε με την απλή πραγματική πληροφορία.

Η θεωρία του Herbert Hart επιτρέπει να κατανοηθεί βαθύτερα η νέα αυτή πραγματικότητα. Ο Hart διαφοροποιείται από τον Austin υποστηρίζοντας ότι το δίκαιο δεν αποτελεί απλώς σύνολο εντολών αλλά κοινωνική πρακτική. Οι κανόνες υπάρχουν επειδή αναγνωρίζονται και εφαρμόζονται από τους θεσμικούς φορείς της έννομης τάξεως. Ιδιαίτερη σημασία αποκτά ο περίφημος κανόνας αναγνώρισης (rule of recognition), δηλαδή το σύνολο των κοινωνικών κριτηρίων μέσω των οποίων οι λειτουργοί της έννομης τάξεως διαπιστώνουν ποιοι κανόνες είναι έγκυροι.

Η χαρτιανή αυτή σύλληψη παρουσιάζει εξαιρετικό ενδιαφέρον για την εποχή της τεχνητής νοημοσύνης. Το κρίσιμο ερώτημα δεν είναι πλέον μόνο αν οι αλγόριθμοι παράγουν αποτελέσματα αλλά και αν τα αποτελέσματά τους ενσωματώνονται σταδιακά στην ίδια την πρακτική της έννομης τάξεως. Όσο περισσότερο οι δικαστές, οι διοικητικές αρχές και οι δημόσιοι οργανισμοί βασίζουν τις αποφάσεις τους σε αλγοριθμικές αξιολογήσεις, τόσο περισσότερο τα συστήματα αυτά παύουν να αποτελούν απλά βοηθητικά εργαλεία και αποκτούν πραγματική κανονιστική επιρροή.

Η μεταβολή αυτή δεν πραγματοποιείται απαραίτητα μέσω τυπικής νομοθετικής αναγνωρίσεως. Μπορεί να συντελείται σταδιακά, μέσω της καθημερινής διοικητικής πρακτικής. Ένα πληροφοριακό σύστημα που χρησιμοποιείται επί σειρά ετών για την αξιολόγηση φορολογικών κινδύνων, για την κατανομή κοινωνικών παροχών ή για την ιεράρχηση διοικητικών υποθέσεων μπορεί να επηρεάσει ουσιωδώς τον τρόπο λειτουργίας της έννομης τάξεως ακόμη και χωρίς να διαθέτει τυπική κανονιστική ισχύ. Δημιουργείται έτσι μία νέα μορφή «πραγματικής κανονιστικότητας», η οποία δεν στηρίζεται αποκλειστικά σε νομικούς κανόνες αλλά στη διαρκή θεσμική χρήση αλγοριθμικών διαδικασιών.

Η εξέλιξη αυτή αναδεικνύει ταυτόχρονα και τα όρια του κλασικού θετικισμού. Η διάκριση μεταξύ ισχύοντος δικαίου και πραγματικών κοινωνικών διαδικασιών καθίσταται ολοένα δυσκολότερη όταν οι ίδιες οι διαδικασίες παραγωγής αποφάσεων διαμορφώνονται μέσα από πολύπλοκες ψηφιακές υποδομές. Το ερώτημα δεν είναι πλέον μόνο ποιος κανόνας ισχύει αλλά και ποιος μηχανισμός καθοδηγεί στην πράξη την εφαρμογή του.

Η ιστορική πορεία του νομικού θετικισμού οδηγεί έτσι σε ένα ιδιαίτερα σημαντικό συμπέρασμα για τη σύγχρονη θεωρία της τεχνητής νοημοσύνης. Η τυπική εγκυρότητα των κανόνων εξακολουθεί να αποτελεί αναγκαία προϋπόθεση της έννομης τάξεως. Δεν επαρκεί όμως πλέον για να εξηγήσει τον τρόπο με τον οποίο παράγονται οι σύγχρονες μορφές κανονιστικής επιρροής. Η αλγοριθμική διακυβέρνηση δημιουργεί νέα επίπεδα λήψεως αποφάσεων, στα οποία οι στατιστικές προβλέψεις, οι ταξινομήσεις και οι αυτοματοποιημένες αξιολογήσεις διαμορφώνουν ουσιαστικά τη λειτουργία των θεσμών χωρίς να εντάσσονται πάντοτε στις παραδοσιακές κατηγορίες της θεωρίας του δικαίου.

Η επόμενη μεγάλη καμπή στην ιστορία της νομικής σκέψεως θα προέλθει από τον νομικό ρεαλισμό. Ενώ ο θετικισμός επικεντρώθηκε στην εγκυρότητα των κανόνων, ο ρεαλισμός θα μεταφέρει το ενδιαφέρον στην πραγματική λειτουργία των δικαστηρίων και στη συμπεριφορά των δικαστών, ανοίγοντας έναν νέο θεωρητικό ορίζοντα που παρουσιάζει ιδιαίτερη συνάφεια με τα σύγχρονα predictive justice systems.

ΚΕΦΑΛΑΙΟ Η΄
Νομικός ρεαλισμός και predictive justice: από την πρόβλεψη της δικαστικής συμπεριφοράς στην αλγοριθμική πρόγνωση

Η ιστορία της νομικής σκέψεως ακολουθεί σπάνια ευθύγραμμη πορεία. Κάθε θεωρητική κατάκτηση γεννά νέες αμφισβητήσεις, ενώ κάθε προσπάθεια συστηματοποιήσεως της έννομης τάξεως προκαλεί αντιδράσεις που επιδιώκουν να επαναφέρουν στο προσκήνιο στοιχεία τα οποία είχαν υποτιμηθεί. Αυτό ακριβώς συνέβη και κατά τις πρώτες δεκαετίες του εικοστού αιώνα. Η μεγάλη ανάπτυξη του νομικού θετικισμού και του εννοιοκρατικού φορμαλισμού δημιούργησε την εντύπωση ότι η δικαστική απόφαση μπορούσε να παρουσιασθεί ως αποτέλεσμα σχεδόν μηχανικής εφαρμογής προκαθορισμένων κανόνων. Η εικόνα αυτή αμφισβητήθηκε ριζικά από το κίνημα του νομικού ρεαλισμού, το οποίο επιχείρησε να μεταφέρει το ενδιαφέρον από την αφηρημένη δομή των κανόνων στην πραγματική λειτουργία των δικαστηρίων.

Η μετατόπιση αυτή υπήρξε βαθύτατα επαναστατική. Οι ρεαλιστές δεν αρνήθηκαν ότι οι κανόνες υπάρχουν ούτε ότι η έννομη τάξη διαθέτει συστηματική δομή. Υποστήριξαν όμως ότι η κατανόηση του δικαίου προϋποθέτει τη μελέτη του τρόπου με τον οποίο οι κανόνες εφαρμόζονται στην πράξη. Το ενδιαφέρον μεταφέρεται έτσι από το κείμενο του νόμου στη δικαστική απόφαση, από την αφηρημένη κανονιστικότητα στη συγκεκριμένη θεσμική συμπεριφορά. Το δίκαιο παύει να θεωρείται αποκλειστικά σύστημα κανόνων και προσεγγίζεται ως ζωντανή κοινωνική διαδικασία.

Η γνωστότερη ίσως διατύπωση αυτής της νέας προοπτικής προέρχεται από τον Oliver Wendell Holmes, σύμφωνα με τον οποίο το δίκαιο πρέπει να ιδωθεί από τη σκοπιά εκείνου που ενδιαφέρεται να προβλέψει τι πρόκειται να πράξουν τα δικαστήρια. Η περίφημη έννοια της «πρόβλεψης» δεν αποσκοπεί στην υποβάθμιση του δικαίου σε στατιστικό φαινόμενο. Αποσκοπεί στην ανάδειξη της πραγματικότητας ότι η έννομη τάξη αποκτά πρακτικό νόημα μόνο μέσω των θεσμικών αποφάσεων που εφαρμόζουν τους κανόνες στην κοινωνική ζωή.

Η θέση αυτή παρουσιάζει αξιοσημείωτη επικαιρότητα στη σύγχρονη εποχή της τεχνητής νοημοσύνης. Τα συστήματα predictive justice στηρίζονται ακριβώς στην ιδέα ότι η επεξεργασία μεγάλου αριθμού προηγούμενων δικαστικών αποφάσεων επιτρέπει την εξαγωγή προτύπων ικανών να προβλέψουν με σχετική πιθανότητα την έκβαση μελλοντικών διαφορών. Η τεχνολογία φαίνεται έτσι να πραγματοποιεί, με υπολογιστικά μέσα, αυτό που ο Holmes είχε περιγράψει σε θεωρητικό επίπεδο περισσότερο από έναν αιώνα πριν.

Η ομοιότητα αυτή, όσο εντυπωσιακή και αν είναι, δεν πρέπει να αποκρύπτει τις ουσιώδεις διαφορές μεταξύ των δύο προσεγγίσεων. Ο Holmes δεν υποστήριξε ποτέ ότι η πρόβλεψη αποτελεί το ίδιο το δίκαιο ούτε ότι η δικαιοσύνη εξαντλείται στη στατιστική κανονικότητα των δικαστικών αποφάσεων. Η έννοια της πρόβλεψης λειτουργούσε ως αναλυτικό εργαλείο, ως μέσο κατανοήσεως της πραγματικής λειτουργίας των θεσμών. Η σύγχρονη τεχνητή νοημοσύνη, αντίθετα, δημιουργεί τον πειρασμό να μετατραπεί η πρόβλεψη σε κανονιστικό οδηγό της ίδιας της δικαστικής λειτουργίας. Εδώ ακριβώς αρχίζει μία από τις σημαντικότερες θεωρητικές μετατοπίσεις της ψηφιακής εποχής.

Η ιστορική εμπειρία διδάσκει ότι υπάρχει ουσιώδης διαφορά μεταξύ της περιγραφής ενός φαινομένου και της μετατροπής του σε πρότυπο συμπεριφοράς. Ο νομικός ρεαλισμός περιέγραφε τη δικαστική πρακτική προκειμένου να την κατανοήσει. Τα predictive systems κινδυνεύουν να χρησιμοποιούν την παρελθούσα πρακτική ως βάση διαμορφώσεως της μελλοντικής πρακτικής. Η μεταβολή αυτή έχει βαθιές συνέπειες. Όταν μία πρόβλεψη επηρεάζει την ίδια την απόφαση που πρόκειται να ληφθεί, δημιουργείται ένας μηχανισμός αυτοεπιβεβαιώσεως, μέσα στον οποίο το παρελθόν αποκτά αυξανόμενη δύναμη διαμορφώσεως του μέλλοντος.

Το πρόβλημα αυτό γίνεται ιδιαίτερα εμφανές όταν εξετάζονται περιπτώσεις στις οποίες οι προηγούμενες αποφάσεις αντανακλούν ιστορικές ανισότητες ή προκαταλήψεις. Ένα σύστημα το οποίο εκπαιδεύεται αποκλειστικά πάνω σε παρελθούσες πρακτικές ενδέχεται να αναπαράγει τις ίδιες δομές ανισότητας, όχι επειδή είναι προγραμματισμένο να ενεργεί άδικα αλλά επειδή θεωρεί το παρελθόν ως αξιόπιστη βάση για την πρόβλεψη του μέλλοντος. Η ιστορική κανονικότητα μετατρέπεται έτσι σε τεχνολογική αναγκαιότητα.

Η εξέλιξη αυτή αναδεικνύει μία βαθιά φιλοσοφική δυσκολία. Το δίκαιο δεν υπάρχει μόνο για να αναπαράγει την κοινωνική πραγματικότητα αλλά και για να τη μετασχηματίζει. Οι μεγάλες ιστορικές τομές στην προστασία των ανθρωπίνων δικαιωμάτων, στην ισότητα των φύλων, στην απαγόρευση των φυλετικών διακρίσεων ή στην προστασία των κοινωνικά ευάλωτων ομάδων δεν προέκυψαν επειδή αποτύπωσαν πιστά την προηγούμενη πρακτική. Αντιθέτως, πολλές φορές αποτέλεσαν συνειδητή ρήξη με καθιερωμένες μορφές αδικίας. Ένα σύστημα το οποίο αντλεί αποκλειστικά από το ιστορικό παρελθόν δυσκολεύεται να αναγνωρίσει τη νομιμότητα αυτής της δημιουργικής υπερβάσεως.

Το ίδιο πρόβλημα εμφανίζεται και στη δικαστική επιχειρηματολογία. Ο ανθρώπινος δικαστής δεν αξιολογεί μόνο την πιθανότητα μιας λύσεως αλλά και τη συμβατότητά της προς τις αρχές της έννομης τάξεως, προς τις συνταγματικές αξίες και προς την εξελικτική πορεία του δικαίου. Η δικαστική κρίση διαθέτει πάντοτε δημιουργική διάσταση. Δεν περιορίζεται στην πρόβλεψη του τι συνέβη κατά το παρελθόν αλλά εξετάζει ποια λύση δικαιολογείται υπό τις συγκεκριμένες συνθήκες της παρούσας υποθέσεως.

Η διάσταση αυτή αποκτά ιδιαίτερη σημασία όταν εξετάζονται οι λεγόμενες δύσκολες υποθέσεις. Όσο περισσότερο μία διαφορά αποκλίνει από τις συνήθεις περιπτώσεις, τόσο λιγότερο χρήσιμη γίνεται η στατιστική κανονικότητα. Η ιστορική μοναδικότητα της συγκεκριμένης υποθέσεως δεν μπορεί να εξαχθεί μηχανικά από προηγούμενα δεδομένα. Απαιτεί ερμηνεία, στάθμιση και δημιουργική θεσμική κρίση. Ο νομικός ρεαλισμός ουδέποτε αρνήθηκε αυτή την πραγματικότητα· αντίθετα, επιχείρησε να την αναδείξει απέναντι στον φορμαλισμό της εποχής του.

Η σύγχρονη τεχνητή νοημοσύνη επαναφέρει, επομένως, το ίδιο δίλημμα σε νέο επίπεδο. Από τη μία πλευρά, η δυνατότητα επεξεργασίας εκατομμυρίων δικαστικών αποφάσεων παρέχει πολύτιμα εργαλεία για τη μελέτη της νομολογίας, την ανίχνευση τάσεων και την ενίσχυση της ασφάλειας δικαίου. Από την άλλη πλευρά, η υπερβολική εμπιστοσύνη στην προγνωστική δύναμη των αλγορίθμων μπορεί να οδηγήσει σε σταδιακή υποκατάσταση της δημιουργικής δικαστικής κρίσεως από τη στατιστική αναπαραγωγή του παρελθόντος.

Η ιστορία της νομικής σκέψεως δείχνει ότι το δίκαιο δεν εξελίχθηκε ποτέ μέσω απλής επαναλήψεως των ήδη γνωστών λύσεων. Κάθε μεγάλη μεταβολή γεννήθηκε από την ικανότητα των δικαστών, των νομοθετών και των θεωρητικών να υπερβούν δημιουργικά τις κατεστημένες πρακτικές όταν αυτές αποδείχθηκαν ανεπαρκείς. Η προγνωστική ανάλυση μπορεί να αποτελέσει πολύτιμο επιστημονικό εργαλείο. Δεν μπορεί όμως να μετατραπεί σε μοναδικό θεμέλιο της δικαστικής κρίσεως, χωρίς να αλλοιωθεί η ίδια η ιστορική αποστολή του δικαίου ως θεσμού συνεχούς ανανεώσεως της δικαιοσύνης.

Με αυτή τη διαπίστωση ολοκληρώνεται η συμβολή του νομικού ρεαλισμού στη διαχρονική εξέλιξη της νομικής σκέψεως. Η επόμενη μεγάλη θεωρητική καμπή θα προέλθει από την ερμηνευτική θεωρία του Ronald Dworkin, η οποία θα αναδείξει ότι το δίκαιο δεν αποτελεί μόνο σύστημα κανόνων ούτε απλή πρόβλεψη της δικαστικής συμπεριφοράς, αλλά πρωτίστως ενιαία πρακτική αρχών και κανονιστικής δικαιολόγησης. Η συμβολή αυτή αποδεικνύεται αποφασιστική για την κατανόηση των ορίων της τεχνητής νοημοσύνης στις λεγόμενες «δύσκολες υποθέσεις», όπου η στατιστική πρόβλεψη δεν επαρκεί για την παραγωγή δικαιοσύνης.

ΚΕΦΑΛΑΙΟ Θ΄
Ο Ronald Dworkin, οι αρχές και τα όρια της αλγοριθμικής κρίσης στις δύσκολες υποθέσεις

Η ιστορία της νομικής σκέψεως κατά τον εικοστό αιώνα δεν ολοκληρώνεται ούτε με τον θετικισμό ούτε με τον νομικό ρεαλισμό. Οι δύο αυτές μεγάλες θεωρητικές παραδόσεις ανέδειξαν κρίσιμες διαστάσεις του δικαίου, αλλά συγχρόνως άφησαν ανοιχτά σημαντικά ερωτήματα. Ο θετικισμός έδωσε προτεραιότητα στην εγκυρότητα των κανόνων, χωρίς να εξηγήσει επαρκώς τον τρόπο με τον οποίο οι δικαστές επιλύουν υποθέσεις στις οποίες οι κανόνες είναι ασαφείς, αντιφατικοί ή ελλιπείς. Ο νομικός ρεαλισμός, από την άλλη πλευρά, έστρεψε την προσοχή στην πραγματική λειτουργία των δικαστηρίων, χωρίς όμως να διατυπώσει μία ολοκληρωμένη θεωρία περί της κανονιστικής δικαιολόγησης των αποφάσεων. Η θεωρητική σύνθεση αυτών των προβληματισμών επιχειρείται στο έργο του Ronald Dworkin, το οποίο αποτελεί μία από τις σημαντικότερες παρεμβάσεις στη σύγχρονη φιλοσοφία του δικαίου και παρουσιάζει εξαιρετική σημασία για την κατανόηση των ορίων της τεχνητής νοημοσύνης.

Η αφετηρία της dworkinian θεωρίας βρίσκεται στην απόρριψη της αντιλήψεως ότι το δίκαιο ταυτίζεται αποκλειστικά με σύνολο κανόνων. Κατά τον Dworkin, κάθε έννομη τάξη περιλαμβάνει όχι μόνο ρητούς κανόνες αλλά και αρχές, οι οποίες διαθέτουν κανονιστική ισχύ, ακόμη και όταν δεν έχουν διατυπωθεί ρητώς από τον νομοθέτη. Οι αρχές αυτές δεν λειτουργούν όπως οι κανόνες. Δεν εφαρμόζονται με τον τρόπο του «όλα ή τίποτε», αλλά διαθέτουν διαφορετικό βάρος και απαιτούν στάθμιση ανάλογα με τις περιστάσεις κάθε συγκεκριμένης υποθέσεως.

Η διάκριση αυτή αποτελεί σημείο καμπής στην ιστορία της νομικής θεωρίας. Μέχρι τότε, μεγάλο μέρος της συζητήσεως περιστρεφόταν γύρω από το ερώτημα ποιοι κανόνες ισχύουν και πώς εφαρμόζονται. Ο Dworkin μετατοπίζει το ενδιαφέρον προς τη διαδικασία μέσω της οποίας η έννομη τάξη αναζητεί τη βέλτιστη δυνατή δικαιολόγηση των ίδιων της των αποφάσεων. Το δίκαιο παύει να εμφανίζεται ως στατικό σύνολο διατάξεων και αναδεικνύεται ως συνεχής ερμηνευτική πρακτική, μέσα στην οποία κάθε νέα απόφαση καλείται να ενταχθεί αρμονικά στη συνολική ηθική και θεσμική δομή της έννομης τάξεως.

Η θεωρία αυτή αποκτά ιδιαίτερη σημασία για τη σύγχρονη τεχνητή νοημοσύνη, διότι αναδεικνύει μία διάσταση της δικαστικής λειτουργίας η οποία δύσκολα αποδίδεται με αμιγώς υπολογιστικούς όρους. Τα περισσότερα σύγχρονα αλγοριθμικά συστήματα επιτυγχάνουν εξαιρετικές επιδόσεις όταν καλούνται να αναγνωρίσουν πρότυπα, να ταξινομήσουν πληροφορίες, να αναζητήσουν νομολογία ή να προβλέψουν πιθανές εκβάσεις υποθέσεων. Η λειτουργία τους βασίζεται στην αναγνώριση σχέσεων μέσα σε πολύ μεγάλους όγκους δεδομένων. Εκεί όπου όμως η έννομη τάξη απαιτεί στάθμιση θεμελιωδών αρχών, η κατάσταση μεταβάλλεται ουσιωδώς.

Οι λεγόμενες δύσκολες υποθέσεις (hard cases) αποτελούν χαρακτηριστικό παράδειγμα. Πρόκειται για περιπτώσεις στις οποίες δεν υπάρχει σαφής νομοθετική απάντηση ή στις οποίες περισσότεροι κανόνες και περισσότερες αρχές φαίνεται να οδηγούν σε διαφορετικά αποτελέσματα. Σε τέτοιες περιστάσεις, ο δικαστής δεν μπορεί να περιορισθεί σε μηχανική εφαρμογή προκαθορισμένων διατάξεων. Οφείλει να εξετάσει τη συνολική φυσιογνωμία της έννομης τάξεως, να σταθμίσει ανταγωνιστικές αξίες, να αξιολογήσει τη θεσμική συνοχή της λύσεως και να καταλήξει σε απόφαση η οποία όχι μόνο επιλύει τη συγκεκριμένη διαφορά αλλά συγχρόνως ενισχύει τη συνοχή του δικαίου ως ενιαίου κανονιστικού συστήματος.

Η λειτουργία αυτή διαφέρει ριζικά από την απλή στατιστική πρόβλεψη. Ένα σύστημα τεχνητής νοημοσύνης μπορεί να εντοπίσει ότι σε παρόμοιες υποθέσεις τα δικαστήρια έχουν αποφανθεί κατά συγκεκριμένο τρόπο. Η πληροφορία αυτή είναι ασφαλώς χρήσιμη. Δεν απαντά όμως στο κανονιστικό ερώτημα αν η ίδια λύση εξακολουθεί να αποτελεί τη δικαιότερη υπό το φως των ιδιαίτερων περιστάσεων της νέας υποθέσεως ή της εξελίξεως των θεσμικών αρχών της έννομης τάξεως. Η απόσταση μεταξύ πρόβλεψης και δικαιολόγησης γίνεται εδώ απολύτως εμφανής.

Η dworkinian έννοια της «ακεραιότητας» (integrity) καθιστά ακόμη σαφέστερο το πρόβλημα. Ο δικαστής δεν λειτουργεί ως απλός εφαρμοστής μεμονωμένων κανόνων ούτε ως στατιστικός αναλυτής προηγούμενων αποφάσεων. Καλείται να αντιμετωπίζει το δίκαιο ως ενιαίο σύστημα αρχών, μέσα στο οποίο κάθε νέα απόφαση πρέπει να εντάσσεται κατά τρόπο που να διατηρεί τη συνοχή της έννομης τάξεως στο σύνολό της. Η ακεραιότητα δεν αποτελεί απλή συνέπεια μεταξύ αποφάσεων. Αποτελεί εσωτερική αρμονία μεταξύ θεσμών, αξιών και ερμηνευτικών επιλογών.

Η απαίτηση αυτή παρουσιάζει ιδιαίτερη σημασία για την τεχνητή νοημοσύνη. Τα μεγάλα γλωσσικά μοντέλα και τα προηγμένα συστήματα μηχανικής μάθησης είναι σε θέση να αναπαράγουν με εντυπωσιακή επιτυχία υφιστάμενα επιχειρήματα και να συνθέτουν πειστικές νομικές αναλύσεις. Η ικανότητα αυτή, όσο εντυπωσιακή και αν είναι, δεν ταυτίζεται κατ’ ανάγκην με την κανονιστική ακεραιότητα. Η παραγωγή ενός πειστικού επιχειρήματος δεν συνεπάγεται ότι το επιχείρημα αυτό αποτελεί την καλύτερη δυνατή θεσμική δικαιολόγηση της συγκεκριμένης αποφάσεως.

Η διαφορά αυτή συνδέεται με μία βαθύτερη φιλοσοφική διάκριση μεταξύ εξηγήσεως και δικαιολόγησης. Η τεχνητή νοημοσύνη μπορεί να εξηγήσει γιατί ένα συγκεκριμένο αποτέλεσμα εμφανίζεται περισσότερο πιθανό με βάση τα διαθέσιμα δεδομένα. Η δικαστική κρίση, όμως, απαιτεί πολύ περισσότερα. Απαιτεί να αποδειχθεί γιατί η συγκεκριμένη λύση πρέπει να θεωρηθεί ορθή από κανονιστική άποψη, ακόμη και όταν αποκλίνει από προηγούμενες πρακτικές ή ακόμη και όταν ανατρέπει παγιωμένες αντιλήψεις.

Η ιστορία του δικαίου προσφέρει πολυάριθμα παραδείγματα τέτοιων δημιουργικών υπερβάσεων. Σημαντικές αποφάσεις σχετικά με την ισότητα, την ανθρώπινη αξιοπρέπεια, την προστασία των μειονοτήτων ή την εξέλιξη των θεμελιωδών δικαιωμάτων δεν προέκυψαν επειδή αποτελούσαν τη στατιστικώς πιθανότερη λύση. Αντιθέτως, πολλές φορές αποτέλεσαν συνειδητή αναθεώρηση μέχρι τότε κυρίαρχων πρακτικών. Η εξέλιξη αυτή θα ήταν εξαιρετικά δύσκολο να προβλεφθεί αποκλειστικά μέσω αναλύσεως του παρελθόντος.

Η παρατήρηση αυτή δεν μειώνει την αξία της τεχνητής νοημοσύνης στη νομική πράξη. Αντιθέτως, επιτρέπει τον ακριβέστερο προσδιορισμό του ρόλου της. Η ΑΙ μπορεί να αποτελέσει εξαιρετικά αποτελεσματικό εργαλείο χαρτογραφήσεως της νομολογίας, ανιχνεύσεως ερμηνευτικών τάσεων, συγκρίσεως δικαστικών αποφάσεων και υποστηρίξεως της νομικής έρευνας. Μπορεί να ενισχύσει σημαντικά την ποιότητα της προπαρασκευής μιας δικαστικής κρίσεως. Εκείνο όμως που δεν μπορεί να υποκαταστήσει πλήρως είναι η τελική πράξη κανονιστικής ευθύνης, κατά την οποία ο δικαστής αναλαμβάνει προσωπικά την υποχρέωση να δικαιολογήσει δημοσίως γιατί μία συγκεκριμένη λύση είναι η δικαιότερη υπό τις δεδομένες περιστάσεις.

Η ιστορική εξέλιξη της νομικής σκέψεως δείχνει, συνεπώς, ότι το πρόβλημα της τεχνητής νοημοσύνης δεν είναι πρωτίστως τεχνικό. Είναι πρόβλημα θεωρίας του δικαίου. Όσο περισσότερο το δίκαιο νοείται ως μηχανική εφαρμογή κανόνων, τόσο ευκολότερα φαίνεται δυνατή η πλήρης αυτοματοποίησή του. Όσο όμως το δίκαιο κατανοείται ως ερμηνευτική πρακτική αρχών, θεσμικής συνοχής και δημόσιας δικαιολόγησης, τόσο περισσότερο καθίσταται εμφανές ότι η ανθρώπινη κρίση εξακολουθεί να διαδραματίζει αναντικατάστατο ρόλο.

Η συμβολή του Dworkin σηματοδοτεί έτσι μία νέα κορύφωση της διαχρονικής εξελίξεως της νομικής σκέψεως. Η έννομη τάξη δεν εμφανίζεται πλέον ούτε ως απλό σύνολο κανόνων ούτε ως στατιστική κανονικότητα ούτε ως προϊόν καθαρής πολιτικής βουλήσεως. Αναδεικνύεται ως δυναμικό σύστημα αρχών, του οποίου η ενότητα διατηρείται μέσα από τη συνεχή ερμηνευτική προσπάθεια των θεσμικών του οργάνων. Ακριβώς αυτή η διάσταση θα αποτελέσει το σημείο εκκινήσεως των σύγχρονων κριτικών θεωριών, οι οποίες θα αμφισβητήσουν ακόμη και την ίδια την έννοια της ουδετερότητας του δικαίου, ανοίγοντας τη συζήτηση για την αλγοριθμική μεροληψία και τις νέες μορφές ψηφιακής ισχύος.

ΚΕΦΑΛΑΙΟ Ι΄
Κριτικές θεωρίες, αλγοριθμική μεροληψία και η αποδόμηση της ουδετερότητας

Η ιστορική εξέλιξη της νομικής σκέψεως κατά το δεύτερο μισό του εικοστού αιώνα χαρακτηρίζεται από μία ακόμη βαθύτερη μετατόπιση. Ενώ ο θετικισμός επιδίωξε να θεμελιώσει την αντικειμενικότητα του δικαίου μέσω της τυπικής εγκυρότητας των κανόνων και ο Dworkin επανέφερε στο προσκήνιο τη σημασία των αρχών και της ερμηνευτικής συνοχής, οι κριτικές θεωρίες αμφισβήτησαν το ίδιο το αξίωμα της ουδετερότητας του δικαίου. Το ερώτημα δεν είναι πλέον μόνο αν μία απόφαση είναι τυπικά έγκυρη ή ερμηνευτικά δικαιολογημένη. Γίνεται πλέον αναγκαίο να διερευνηθεί αν οι ίδιες οι δομές του δικαίου αναπαράγουν σχέσεις κοινωνικής ισχύος, αποκλεισμού και ανισότητας, ακόμη και όταν εμφανίζονται ως απολύτως ουδέτερες.

Η μεταβολή αυτή αποτελεί ίσως μία από τις σημαντικότερες θεωρητικές εξελίξεις για την κατανόηση της τεχνητής νοημοσύνης. Οι περισσότερες σύγχρονες συζητήσεις γύρω από την αλγοριθμική μεροληψία δεν θα μπορούσαν να διατυπωθούν χωρίς τη θεωρητική παρακαταθήκη των κριτικών νομικών σπουδών, των φεμινιστικών θεωριών του δικαίου, των θεωριών περί φυλετικής ισότητας και των κοινωνιολογικών αναλύσεων της εξουσίας. Όλες αυτές οι προσεγγίσεις συγκλίνουν σε μία βασική διαπίστωση: η ουδετερότητα αποτελεί συχνά ιδεολογική μορφή, η οποία αποκρύπτει τις πραγματικές σχέσεις δυνάμεως που λειτουργούν μέσα στην κοινωνία.

Η διαπίστωση αυτή δεν αφορά αποκλειστικά το δίκαιο. Αφορά κάθε θεσμό που οργανώνει κοινωνικές σχέσεις. Οι κανόνες, οι διαδικασίες, οι διοικητικοί μηχανισμοί και οι τεχνικές αξιολόγησης εμφανίζονται συχνά ως αντικειμενικοί, ενώ στην πραγματικότητα αντανακλούν ιστορικές επιλογές, πολιτισμικές παραδοχές και κοινωνικές ιεραρχήσεις. Η ιστορία του δικαίου αποδεικνύει επανειλημμένως ότι θεσμοί οι οποίοι θεωρούνταν επί αιώνες απολύτως φυσικοί και ουδέτεροι αποκαλύφθηκαν αργότερα ως μηχανισμοί διατήρησης ανισοτήτων.

Η ίδια ιστορική εμπειρία επαναλαμβάνεται σήμερα στο πεδίο της τεχνητής νοημοσύνης. Κατά τα πρώτα χρόνια της αλγοριθμικής επανάστασης επικράτησε ευρέως η αντίληψη ότι οι υπολογιστές, επειδή λειτουργούν μαθηματικά, δεν μπορούν να είναι μεροληπτικοί. Η μαθηματική δομή των αλγορίθμων θεωρήθηκε εγγύηση αντικειμενικότητας. Πολύ σύντομα όμως η πρακτική εφαρμογή των συστημάτων αυτών απέδειξε ότι η πραγματικότητα είναι πολύ πιο σύνθετη.

Η μεροληψία δεν εμφανίζεται αναγκαστικά στο επίπεδο του ίδιου του αλγορίθμου. Μπορεί να ενσωματώνεται ήδη στα δεδομένα εκπαιδεύσεως, στις κατηγορίες που χρησιμοποιούνται, στις μεταβλητές που επιλέγονται, στις ετικέτες που αποδίδονται στα παραδείγματα ή ακόμη και στον ίδιο τον ορισμό του προβλήματος που επιχειρεί να επιλύσει το σύστημα. Κάθε ένα από τα στάδια αυτά αποτελεί ανθρώπινη επιλογή. Καμία από αυτές τις επιλογές δεν είναι απολύτως ουδέτερη.

Η διαπίστωση αυτή μεταβάλλει ριζικά τον τρόπο με τον οποίο πρέπει να αξιολογείται η τεχνητή νοημοσύνη. Το πρόβλημα δεν περιορίζεται πλέον στην τεχνική ακρίβεια των μοντέλων. Ακόμη και ένα σύστημα με εξαιρετικά υψηλή προγνωστική επιτυχία μπορεί να αναπαράγει υφιστάμενες κοινωνικές ανισότητες, εάν έχει εκπαιδευθεί σε δεδομένα που αποτυπώνουν άνισες ιστορικές πρακτικές. Η μαθηματική συνέπεια δεν εξαλείφει την κοινωνική μεροληψία· μπορεί αντιθέτως να της προσδώσει μεγαλύτερη σταθερότητα και ευρύτερη κλίμακα εφαρμογής.

Το στοιχείο αυτό καθιστά την αλγοριθμική μεροληψία ιστορικό και όχι αποκλειστικά τεχνολογικό φαινόμενο. Οι αλγόριθμοι δεν δημιουργούν εξ υπαρχής τις περισσότερες μορφές διακρίσεως. Συχνά λειτουργούν ως μηχανισμοί συμπυκνώσεως και αναπαραγωγής μακροχρόνιων ιστορικών εξελίξεων. Οι κοινωνικές ανισότητες που δημιουργήθηκαν επί δεκαετίες ή ακόμη και επί αιώνες αποκτούν νέα μορφή μέσα από τα στατιστικά πρότυπα που ανιχνεύουν τα συστήματα μηχανικής μάθησης. Η τεχνολογία δεν επινοεί κατ’ ανάγκην νέες διακρίσεις· καθιστά όμως δυνατό να αναπαράγονται με πρωτοφανή ταχύτητα, ακρίβεια και έκταση.

Η ιστορική αυτή διάσταση εξηγεί γιατί η αντιμετώπιση της αλγοριθμικής μεροληψίας δεν μπορεί να περιορισθεί σε καθαρά τεχνικές παρεμβάσεις. Η βελτίωση των datasets, η εξισορρόπηση των δειγμάτων ή η ανάπτυξη νέων μεθόδων στατιστικής διόρθωσης αποτελούν ασφαλώς σημαντικά βήματα. Δεν αρκούν όμως από μόνα τους. Εάν οι ίδιες οι κοινωνικές σχέσεις που παράγουν τα δεδομένα εξακολουθούν να χαρακτηρίζονται από ανισότητες, τότε η τεχνική διόρθωση αντιμετωπίζει μόνο τα συμπτώματα και όχι τις βαθύτερες αιτίες του προβλήματος.

Η παρατήρηση αυτή οδηγεί σε μία ευρύτερη θεωρητική συνέπεια. Η τεχνητή νοημοσύνη δεν μπορεί να αποτελέσει αντικείμενο αποκλειστικά της πληροφορικής ή της μηχανικής. Η κατανόησή της απαιτεί τη συνεργασία της νομικής επιστήμης, της κοινωνιολογίας, της πολιτικής θεωρίας, της φιλοσοφίας, της ιστορίας και της ηθικής. Οι αλγόριθμοι λειτουργούν πάντοτε μέσα σε θεσμούς και οι θεσμοί λειτουργούν πάντοτε μέσα σε ιστορικά διαμορφωμένες κοινωνίες. Η αποκοπή της τεχνολογίας από το ιστορικό και κοινωνικό της πλαίσιο οδηγεί αναπόφευκτα σε ελλιπή κατανόηση των συνεπειών της.

Η σημασία αυτής της διαπίστωσης γίνεται ιδιαίτερα εμφανής στο πεδίο της δημόσιας διοίκησης και της δικαιοσύνης. Όταν ένα αλγοριθμικό σύστημα χρησιμοποιείται για την αξιολόγηση κινδύνου, την κατανομή κοινωνικών παροχών, την επιλογή υποψηφίων ή την υποστήριξη δικαστικών αποφάσεων, δεν λειτουργεί σε κοινωνικό κενό. Οι αποφάσεις του επηρεάζουν πραγματικούς ανθρώπους, οι οποίοι εντάσσονται σε συγκεκριμένες ιστορικές, οικονομικές και πολιτισμικές συνθήκες. Η τυπική ισότητα της υπολογιστικής διαδικασίας δεν συνεπάγεται πάντοτε και ουσιαστική ισότητα των αποτελεσμάτων.

Οι κριτικές θεωρίες αναδεικνύουν επίσης ένα ακόμη ιδιαίτερα σημαντικό στοιχείο, το οποίο συχνά παραβλέπεται στον δημόσιο διάλογο. Η ίδια η επιλογή των προβλημάτων που ανατίθενται στην τεχνητή νοημοσύνη αποτελεί ήδη πολιτική και κανονιστική απόφαση. Δεν είναι ουδέτερο το γεγονός ότι επενδύονται τεράστιοι πόροι στην ανάπτυξη συστημάτων προγνωστικής αστυνόμευσης, αξιολόγησης πιστοληπτικής ικανότητας ή αυτοματοποιημένης επιτήρησης, ενώ πολύ μικρότερη έμφαση δίνεται σε εφαρμογές που ενισχύουν την πρόσβαση στη δικαιοσύνη, την προστασία των κοινωνικά ευάλωτων ομάδων ή τη διαφάνεια της δημόσιας διοίκησης. Η ίδια η κατεύθυνση της τεχνολογικής εξέλιξης αντανακλά κοινωνικές προτεραιότητες και σχέσεις ισχύος.

Η ιστορία της νομικής σκέψεως οδηγεί έτσι σε ένα ιδιαίτερα σημαντικό συμπέρασμα. Η ουδετερότητα δεν μπορεί πλέον να θεωρείται δεδομένο χαρακτηριστικό ούτε του δικαίου ούτε της τεχνητής νοημοσύνης. Αντιθέτως, αποτελεί διαρκές θεσμικό ζητούμενο, το οποίο απαιτεί συνεχή δημόσιο έλεγχο, κριτική αξιολόγηση και θεσμικές εγγυήσεις. Η αντικειμενικότητα δεν είναι ιδιότητα που διαθέτουν αυτομάτως οι τεχνικές διαδικασίες. Είναι αποτέλεσμα πολύπλοκων θεσμικών επιλογών, οι οποίες πρέπει να παραμένουν διαφανείς και ανοιχτές στη δημοκρατική αμφισβήτηση.

Με την ανάδειξη της αλγοριθμικής μεροληψίας ολοκληρώνεται ένας ακόμη σημαντικός σταθμός της διαχρονικής εξελίξεως της νομικής σκέψεως. Το ενδιαφέρον μετατοπίζεται πλέον προς δύο θεμελιώδεις έννοιες που αποκτούν ιδιαίτερη σημασία στην ψηφιακή εποχή: την ευθύνη και τη λογοδοσία. Διότι όσο περισσότερο οι αποφάσεις παράγονται μέσα από πολύπλοκα τεχνολογικά συστήματα, τόσο επιτακτικότερο γίνεται το ερώτημα ποιος τελικώς ευθύνεται για τις συνέπειές τους και με ποιον τρόπο μπορεί να διατηρηθεί η δομή της νομικής ευθύνης μέσα σε ένα περιβάλλον όπου η ανθρώπινη και η αλγοριθμική δράση αλληλοδιαπλέκονται διαρκώς.

ΚΕΦΑΛΑΙΟ ΙΑ΄
Ευθύνη, πρόσωπο, αιτιολογία και λογοδοσία στην εποχή της τεχνητής νοημοσύνης

Η ιστορία της νομικής σκέψεως αποδεικνύει ότι ελάχιστες έννοιες υπήρξαν τόσο σταθερές όσο η έννοια της ευθύνης. Από τις πρώτες μορφές κανονιστικότητας μέχρι τις πλέον σύγχρονες θεωρίες περί ανθρωπίνων δικαιωμάτων, η έννομη τάξη οργανώνεται πάντοτε γύρω από την ιδέα ότι κάθε πράξη μπορεί να αποδοθεί σε συγκεκριμένο φορέα, ότι κάθε απόφαση προέρχεται από πρόσωπο ή θεσμό που διαθέτει αναγνωρίσιμη αρμοδιότητα και ότι κάθε άσκηση εξουσίας συνοδεύεται από υποχρέωση αιτιολογήσεως και δυνατότητα λογοδοσίας. Η διαχρονική αυτή σταθερότητα δεν αποτελεί τυχαίο χαρακτηριστικό της νομικής παραδόσεως. Συνιστά μία από τις θεμελιώδεις προϋποθέσεις του ίδιου του κράτους δικαίου.

Η εμφάνιση της τεχνητής νοημοσύνης δημιουργεί, ίσως περισσότερο από οποιαδήποτε άλλη προηγούμενη τεχνολογική εξέλιξη, μία βαθιά αμφισβήτηση αυτής της ιστορικής δομής. Οι αλγοριθμικές αποφάσεις δεν παράγονται πάντοτε μέσω ευθέως αναγνωρίσιμης ανθρώπινης κρίσεως. Αντιθέτως, συχνά αποτελούν προϊόν αλληλεπιδράσεως προγραμματιστών, οργανισμών, παρόχων δεδομένων, διαδικασιών μηχανικής μάθησης, συνεχών ενημερώσεων λογισμικού και σύνθετων υπολογιστικών υποδομών. Η παραδοσιακή εικόνα της έννομης σχέσεως, μέσα στην οποία ένας συγκεκριμένος φορέας αποφασίζει και αναλαμβάνει προσωπικά την ευθύνη της αποφάσεώς του, καθίσταται ολοένα δυσκολότερο να εφαρμοσθεί χωρίς προσαρμογές.

Η μεταβολή αυτή δεν αφορά μόνο την αστική ή ποινική ευθύνη για ζημιογόνες πράξεις. Αφορά συνολικά τη θεωρία του δικαίου. Η ίδια η έννοια της κανονιστικής αποδόσεως τίθεται υπό πίεση. Όταν μία διοικητική απόφαση στηρίζεται ουσιωδώς σε αλγοριθμική αξιολόγηση, όταν μία δικαστική κρίση επηρεάζεται από σύστημα predictive justice ή όταν μία οικονομική συναλλαγή απορρίπτεται λόγω αυτοματοποιημένου υπολογισμού κινδύνου, γεννάται το ερώτημα σε ποιον ακριβώς πρέπει να αποδοθεί η τελική απόφαση. Είναι υπεύθυνος ο προγραμματιστής; Ο οργανισμός που χρησιμοποιεί το σύστημα; Ο φορέας που το εκπαίδευσε; Ο χρήστης που το ενεργοποίησε; Ή μήπως όλοι συμμετέχουν με διαφορετικό τρόπο στη διαμόρφωση του αποτελέσματος;

Η δυσκολία αυτή δεν είναι αποκλειστικά πρακτική. Αποκαλύπτει μία βαθύτερη ιστορική μετατόπιση. Η κλασική νομική σκέψη οικοδομήθηκε γύρω από την έννοια του προσώπου ως φορέα δικαιωμάτων, υποχρεώσεων και ευθύνης. Από το ρωμαϊκό δίκαιο μέχρι τη σύγχρονη συνταγματική θεωρία, το πρόσωπο αποτελεί το σημείο αναφοράς της έννομης τάξεως. Η τεχνητή νοημοσύνη, όμως, λειτουργεί μέσω κατανεμημένων διαδικασιών, στις οποίες η παραγωγή ενός αποτελέσματος δεν μπορεί πάντοτε να αποδοθεί σε μία μοναδική βούληση. Η ιστορική αυτή εξέλιξη δημιουργεί μία ένταση ανάμεσα στη δομή των ψηφιακών συστημάτων και στη δομή της νομικής ευθύνης.

Η απάντηση στο πρόβλημα αυτό δεν μπορεί να αναζητηθεί στην αναγνώριση νομικής προσωπικότητας στα ίδια τα συστήματα τεχνητής νοημοσύνης. Παρότι κατά καιρούς διατυπώθηκαν σχετικές προτάσεις, η διαχρονική εξέλιξη της νομικής σκέψεως οδηγεί προς διαφορετική κατεύθυνση. Η ευθύνη δεν συνδέεται μόνο με την παραγωγή αποτελεσμάτων αλλά και με την ηθική και θεσμική δυνατότητα λογοδοσίας. Το πρόσωπο δεν είναι απλώς φορέας ενεργειών· είναι φορέας λόγου. Μπορεί να εξηγήσει, να δικαιολογήσει, να μεταβάλει στάση, να αναλάβει τις συνέπειες των πράξεών του και να υποβληθεί σε δημόσιο έλεγχο. Η τεχνητή νοημοσύνη, όσο εξελιγμένη και αν είναι, δεν διαθέτει αυτή τη μορφή κανονιστικής αυτοσυνειδησίας.

Ακριβώς γι’ αυτό η ιστορία του δικαίου επιμένει στη διατήρηση της ανθρώπινης ευθύνης ακόμη και όταν χρησιμοποιούνται εξαιρετικά πολύπλοκα τεχνολογικά μέσα. Η χρήση εργαλείων δεν αίρει τη λογοδοσία εκείνου που αποφασίζει να τα χρησιμοποιήσει. Η αρχή αυτή εμφανίζεται ήδη στις πρώτες μορφές του ιδιωτικού δικαίου και διατηρείται μέχρι τις σύγχρονες θεωρίες περί κρατικής ευθύνης. Η τεχνολογία μπορεί να μεταβάλει τον τρόπο λήψεως των αποφάσεων· δεν μπορεί όμως να εξαφανίσει την ανάγκη ύπαρξης υπεύθυνου φορέα της αποφάσεως.

Ιδιαίτερη σημασία αποκτά στο πλαίσιο αυτό η έννοια της αιτιολογίας. Η απαίτηση αιτιολογημένης αποφάσεως διατρέχει ολόκληρη την ιστορία της ευρωπαϊκής νομικής παραδόσεως. Από τη ρωμαϊκή ratio decidendi μέχρι τις σύγχρονες συνταγματικές εγγυήσεις, η αιτιολόγηση δεν θεωρείται διακοσμητικό στοιχείο της δικαστικής ή διοικητικής λειτουργίας. Αποτελεί ουσιώδη προϋπόθεση της νομιμότητας. Η εξουσία δικαιολογείται επειδή μπορεί να εξηγήσει τους λόγους των επιλογών της.

Η σημασία της αρχής αυτής γίνεται ακόμη μεγαλύτερη στην εποχή της τεχνητής νοημοσύνης. Η λεγόμενη explainability δεν αποτελεί απλώς τεχνική ιδιότητα ενός πληροφοριακού συστήματος. Αποτελεί σύγχρονη έκφραση μιας ιστορικής νομικής αρχής, σύμφωνα με την οποία κάθε πρόσωπο που υφίσταται έννομες συνέπειες δικαιούται να γνωρίζει γιατί λήφθηκε η συγκεκριμένη απόφαση. Το δικαίωμα αυτό συνδέεται άμεσα με το δικαίωμα ακροάσεως, με την αποτελεσματική δικαστική προστασία, με την αρχή της ισότητας και με τον δημόσιο έλεγχο της εξουσίας.

Εάν μία απόφαση δεν μπορεί να εξηγηθεί, τότε καθίσταται εξαιρετικά δυσχερής και η αμφισβήτησή της. Ο ενδιαφερόμενος δεν γνωρίζει ποιο στοιχείο των δεδομένων του θεωρήθηκε κρίσιμο, ποιο κριτήριο αξιολογήθηκε ως σημαντικότερο ή ποια λογική οδήγησε στο τελικό αποτέλεσμα. Χωρίς γνώση των λόγων της αποφάσεως, η δυνατότητα αποτελεσματικής προσβολής της περιορίζεται δραστικά. Κατ’ αυτόν τον τρόπο, η έλλειψη αιτιολογίας δεν αποτελεί μόνο πρόβλημα διαφάνειας αλλά και πρόβλημα δικαστικής προστασίας.

Η ιστορική εμπειρία δείχνει ότι κάθε μορφή εξουσίας που αποσπάται από την υποχρέωση αιτιολογήσεως τείνει να απομακρύνεται και από τη δημοκρατική λογοδοσία. Το ίδιο ισχύει και για τα αλγοριθμικά συστήματα. Όσο περισσότερο η λειτουργία τους παραμένει αδιαφανής, τόσο δυσκολότερος καθίσταται ο ουσιαστικός έλεγχος της επιρροής τους πάνω στην έννομη τάξη. Η τεχνολογική πολυπλοκότητα δεν μπορεί να αποτελέσει λόγο απαλλαγής από τη νομική υποχρέωση αιτιολογήσεως· αντιθέτως, καθιστά την απαίτηση αυτή ακόμη επιτακτικότερη.

Η διαχρονική εξέλιξη της νομικής σκέψεως οδηγεί έτσι σε μία σαφή θεωρητική θέση. Η τεχνητή νοημοσύνη μπορεί να μετασχηματίσει τις διαδικασίες λήψεως αποφάσεων, δεν μπορεί όμως να μετασχηματίσει τις θεμελιώδεις αρχές της λογοδοσίας. Η ευθύνη εξακολουθεί να προϋποθέτει ανθρώπινο φορέα, η νομιμότητα εξακολουθεί να απαιτεί αιτιολογία και η δημοκρατική πολιτεία εξακολουθεί να προϋποθέτει δυνατότητα δημόσιου ελέγχου κάθε μορφής εξουσίας. Η τεχνολογία οφείλει να προσαρμόζεται στις αρχές αυτές και όχι οι αρχές να υποχωρούν ενώπιον της τεχνολογικής πολυπλοκότητας.

Η προβληματική αυτή οδηγεί φυσιολογικά στο τελευταίο μεγάλο στάδιο της διαχρονικής εξελίξεως της νομικής σκέψεως. Η σύγχρονη θεωρία των ανθρωπίνων δικαιωμάτων επιχειρεί να συγκροτήσει ένα συνολικό κανονιστικό πλαίσιο μέσα στο οποίο η τεχνητή νοημοσύνη θα μπορεί να αναπτύσσεται χωρίς να διακυβεύονται οι θεμελιώδεις αξίες του κράτους δικαίου, της δημοκρατίας και της ανθρώπινης αξιοπρέπειας.

ΚΕΦΑΛΑΙΟ ΙΒ΄
Ανθρώπινα δικαιώματα και τα σύγχρονα κανονιστικά όρια της τεχνητής νοημοσύνης

Η ιστορική πορεία που εξετάσθηκε στα προηγούμενα κεφάλαια οδηγεί αναπόφευκτα στη σύγχρονη εποχή των ανθρωπίνων δικαιωμάτων. Εάν η αρχαία ελληνική σκέψη διατύπωσε τα πρώτα φιλοσοφικά ερωτήματα περί δικαιοσύνης, η ρωμαϊκή επιστήμη διαμόρφωσε τη συστηματική τεχνική του δικαίου, η μεσαιωνική θεωρία ανέδειξε το κοινό αγαθό και τον φυσικό νόμο, η νεωτερικότητα θεμελίωσε την κρατική κυριαρχία και τα ατομικά δικαιώματα, ο Διαφωτισμός πρόβαλε τη λογική και τη γενικότητα του νόμου, ο θετικισμός επεξεργάσθηκε την έννοια της εγκυρότητας, ο ρεαλισμός ανέδειξε τη σημασία της πραγματικής λειτουργίας των θεσμών, ενώ οι ερμηνευτικές και οι κριτικές θεωρίες επανέφεραν στο επίκεντρο τις αρχές, τη δικαιολόγηση και τις σχέσεις ισχύος, τότε η θεωρία των ανθρωπίνων δικαιωμάτων εμφανίζεται ως το σημείο στο οποίο όλες αυτές οι ιστορικές διαδρομές συγκλίνουν και αποκτούν νέα ενότητα.

Η σύγχρονη προστασία των ανθρωπίνων δικαιωμάτων δεν αποτελεί μία ακόμη ειδική κατηγορία κανόνων του θετικού δικαίου. Αντιπροσωπεύει μία νέα αντίληψη για την ίδια τη δομή της έννομης τάξεως. Ο άνθρωπος δεν αντιμετωπίζεται πλέον μόνο ως υποκείμενο δικαίου ούτε μόνο ως πολίτης ενός συγκεκριμένου κράτους. Αναγνωρίζεται ως φορέας απαραβίαστης αξίας, η οποία προηγείται κάθε μορφής πολιτικής, διοικητικής ή τεχνολογικής οργανώσεως. Η εξέλιξη αυτή μεταβάλλει ριζικά και τον τρόπο αξιολογήσεως της τεχνητής νοημοσύνης.

Η δημόσια συζήτηση γύρω από την ΑΙ συχνά επικεντρώνεται στην αποτελεσματικότητα, στην καινοτομία ή στην οικονομική ανάπτυξη. Όλες αυτές οι διαστάσεις είναι ασφαλώς σημαντικές. Η ιστορία όμως της νομικής σκέψεως υπενθυμίζει ότι η τεχνολογική πρόοδος δεν μπορεί να αποτελεί αυτοτελές κριτήριο νομιμοποιήσεως. Η τεχνολογία αποκτά κανονιστική νομιμοποίηση μόνο όταν εντάσσεται σε ένα θεσμικό πλαίσιο το οποίο προστατεύει τον άνθρωπο ως σκοπό και όχι ως απλό αντικείμενο επεξεργασίας δεδομένων.

Ακριβώς γι’ αυτό η γλώσσα των ανθρωπίνων δικαιωμάτων κατέχει σήμερα κεντρική θέση σε όλα σχεδόν τα διεθνή και ευρωπαϊκά κανονιστικά κείμενα που αφορούν την τεχνητή νοημοσύνη. Η προστασία της ιδιωτικής ζωής, η ανθρώπινη αξιοπρέπεια, η ισότητα, η απαγόρευση των διακρίσεων, η προστασία των προσωπικών δεδομένων, η αποτελεσματική δικαστική προστασία, η ελευθερία της έκφρασης, η ελευθερία της σκέψης και η δημοκρατική συμμετοχή δεν εμφανίζονται πλέον ως παράλληλοι περιορισμοί της τεχνολογίας. Αποτελούν τις ίδιες τις προϋποθέσεις της νόμιμης χρήσεώς της.

Η εξέλιξη αυτή παρουσιάζει ιδιαίτερο ιστορικό ενδιαφέρον. Η θεωρία των ανθρωπίνων δικαιωμάτων λειτουργεί κατά κάποιον τρόπο ως σύγχρονη μορφή του φυσικού δικαίου, χωρίς όμως να ταυτίζεται με τις κλασικές φυσικοδικαιικές θεωρίες. Εκεί όπου ο Ακινάτης αναζητούσε το ανώτερο μέτρο δικαιοσύνης στον φυσικό νόμο και στον ορθό λόγο, η σύγχρονη έννομη τάξη το αναζητεί στην καθολική προστασία της ανθρώπινης αξιοπρέπειας και των θεμελιωδών δικαιωμάτων. Η ιστορική συνέχεια είναι εμφανής, παρότι το φιλοσοφικό λεξιλόγιο έχει μεταβληθεί.

Η τεχνητή νοημοσύνη καθιστά την εξέλιξη αυτή ακόμη πιο αναγκαία. Τα προηγμένα υπολογιστικά συστήματα διαθέτουν πρωτοφανή δυνατότητα συλλογής, συνδυασμού και αναλύσεως πληροφοριών. Η δυνατότητα αυτή δημιουργεί νέες μορφές ισχύος, οι οποίες υπερβαίνουν κατά πολύ τις δυνατότητες των παραδοσιακών διοικητικών μηχανισμών. Η συνεχής παρακολούθηση, η προγνωστική ανάλυση συμπεριφορών, η αυτοματοποιημένη ταξινόμηση των πολιτών, η δημιουργία προφίλ και η εξαγωγή συμπερασμάτων για τις προσωπικές τους επιλογές μεταβάλλουν ουσιαστικά την ισορροπία μεταξύ ατόμου και εξουσίας.

Η προστασία της ιδιωτικότητας αποκτά έτσι νέο περιεχόμενο. Δεν αφορά πλέον μόνο την αποτροπή παράνομης δημοσιοποιήσεως πληροφοριών. Αφορά την ίδια τη δυνατότητα του ανθρώπου να διαμορφώνει ελεύθερα την προσωπικότητά του χωρίς να βρίσκεται υπό διαρκή υπολογιστική αξιολόγηση. Η διαρκής αλγοριθμική παρακολούθηση δεν επηρεάζει μόνο την εξωτερική συμπεριφορά. Μπορεί να μεταβάλει σταδιακά και την εσωτερική αυτοαντίληψη του ανθρώπου, δημιουργώντας ένα περιβάλλον μέσα στο οποίο η ελευθερία περιορίζεται όχι μέσω άμεσου εξαναγκασμού αλλά μέσω συνεχούς ψηφιακής αξιολόγησης.

Ανάλογη σημασία αποκτά και η αρχή της ισότητας. Η ιστορία της νομικής σκέψεως κατέδειξε επανειλημμένως ότι η τυπική ίση μεταχείριση δεν αρκεί πάντοτε για την πραγματοποίηση της δικαιοσύνης. Η τεχνητή νοημοσύνη επιβεβαιώνει με νέο τρόπο αυτή τη διαπίστωση. Ένα αλγοριθμικό σύστημα μπορεί να εφαρμόζει απολύτως ενιαία διαδικασία σε όλους τους πολίτες και συγχρόνως να παράγει συστηματικά δυσμενή αποτελέσματα για ορισμένες κοινωνικές ομάδες, επειδή οι ιστορικές ανισότητες έχουν ήδη ενσωματωθεί στα δεδομένα εκπαιδεύσεώς του. Η πραγματική ισότητα απαιτεί συνεπώς διαρκή αξιολόγηση όχι μόνο της διαδικασίας αλλά και των αποτελεσμάτων της.

Η έννοια της ανθρώπινης εποπτείας αποκτά επίσης νέα σημασία. Συχνά παρουσιάζεται ως τεχνική απαίτηση ασφαλείας, σύμφωνα με την οποία ένας άνθρωπος πρέπει να μπορεί να παρεμβαίνει όταν το σύστημα παρουσιάζει σφάλμα. Η ιστορία της νομικής σκέψεως δείχνει ότι η λειτουργία της είναι πολύ βαθύτερη. Η ανθρώπινη εποπτεία αποτελεί έκφραση της αρχής ότι η τελική κανονιστική ευθύνη δεν μπορεί να αποσπασθεί από το ανθρώπινο πρόσωπο. Ακόμη και όταν η τεχνητή νοημοσύνη συμμετέχει ουσιωδώς στη διαδικασία λήψεως αποφάσεων, η τελική κρίση οφείλει να παραμένει ενταγμένη σε θεσμούς ανθρώπινης λογοδοσίας.

Το ίδιο ισχύει και για τη δυνατότητα αμφισβητήσεως των αλγοριθμικών αποφάσεων. Το δικαίωμα προσφυγής ενώπιον ανεξάρτητου δικαστηρίου ή άλλου αρμόδιου οργάνου δεν αποτελεί απλή διαδικαστική εγγύηση. Συνιστά θεμελιώδη προϋπόθεση της δημοκρατικής νομιμότητας. Καμία μορφή εξουσίας δεν μπορεί να θεωρηθεί συμβατή με το κράτος δικαίου εάν οι αποφάσεις της δεν μπορούν να ελεγχθούν και να αναθεωρηθούν.

Η σύγχρονη θεωρία των ανθρωπίνων δικαιωμάτων οδηγεί, επομένως, σε μία συνολική αναθεώρηση του τρόπου με τον οποίο πρέπει να αξιολογείται η τεχνητή νοημοσύνη. Το βασικό ερώτημα δεν είναι αν οι αλγόριθμοι είναι περισσότερο ή λιγότερο αποτελεσματικοί από τον άνθρωπο. Το ουσιώδες ερώτημα είναι αν η χρήση τους διατηρεί αναλλοίωτες τις θεμελιώδεις αρχές που συγκροτούν τη δημοκρατική έννομη τάξη. Η αποτελεσματικότητα αποτελεί ασφαλώς σημαντικό αγαθό. Δεν αποτελεί όμως το υπέρτατο αγαθό του δικαίου.

Από τη σκοπιά αυτή καθίσταται εμφανές ότι η τεχνητή νοημοσύνη δεν εισάγει απλώς νέα τεχνικά ζητήματα. Υποχρεώνει τη νομική επιστήμη να επανεξετάσει τη σχέση μεταξύ τεχνολογίας και ανθρωπολογίας, μεταξύ αποτελεσματικότητας και δικαιοσύνης, μεταξύ εξουσίας και αξιοπρέπειας. Η ιστορία της νομικής σκέψεως αποκαλύπτει ότι κάθε μεγάλη ιστορική περίοδος χρειάσθηκε να επαναπροσδιορίσει την ισορροπία αυτή. Η δική μας εποχή δεν αποτελεί εξαίρεση.

Με την ολοκλήρωση της εξετάσεως των ανθρωπίνων δικαιωμάτων φθάνουμε στο τελευταίο στάδιο της παρούσας μελέτης. Απομένει πλέον να συντεθεί η συνολική εικόνα της διαχρονικής εξελίξεως της νομικής σκέψεως και να αξιολογηθεί οριστικά η θέση της τεχνητής νοημοσύνης μέσα σε αυτήν, προκειμένου να διαπιστωθεί αν η ΑΙ αποτελεί ρήξη με την ιστορία του δικαίου ή, αντιθέτως, το νεότερο κεφάλαιο μιας ιστορίας που εξακολουθεί να περιστρέφεται γύρω από τα ίδια διαχρονικά ερωτήματα περί δικαιοσύνης, ελευθερίας και ανθρώπινης ευθύνης.

ΚΕΦΑΛΑΙΟ ΙΓ΄
Συνολικά συμπεράσματα – Η τεχνητή νοημοσύνη ως νέα φάση της διαχρονικής εξελίξεως της νομικής σκέψεως

Η διαχρονική αναδρομή που προηγήθηκε καθιστά εμφανές ότι η τεχνητή νοημοσύνη δεν μπορεί να κατανοηθεί επαρκώς ως απλό τεχνολογικό επίτευγμα ούτε ως ακόμη ένα νέο αντικείμενο νομικής ρυθμίσεως. Η σημασία της υπερβαίνει κατά πολύ τα όρια της πληροφορικής, της μηχανικής ή ακόμη και της θετικής νομοθεσίας. Η τεχνητή νοημοσύνη αποτελεί γεγονός βαθύτατα θεωρητικό, διότι επαναφέρει στο επίκεντρο όλα σχεδόν τα θεμελιώδη ερωτήματα που διαμόρφωσαν την ιστορία της νομικής σκέψεως από την αρχαιότητα μέχρι σήμερα.

Η εξέταση των πρώιμων μορφών κανονιστικότητας κατέδειξε ότι το δίκαιο γεννήθηκε ως τεχνολογία οργανώσεως της κοινωνικής συμβιώσεως. Πολύ πριν εμφανισθεί η συστηματική νομική θεωρία, οι ανθρώπινες κοινότητες αναζητούσαν μηχανισμούς περιορισμού της βίας, σταθεροποιήσεως των κοινωνικών σχέσεων και αποκαταστάσεως της συλλογικής ειρήνης. Η λειτουργία αυτή δεν έχει εξαφανισθεί. Αντιθέτως, η τεχνητή νοημοσύνη εισάγει νέες μορφές κοινωνικής οργανώσεως, στις οποίες η ταξινόμηση, η πρόβλεψη και η αξιολόγηση συμπεριφορών αποκτούν πρωτοφανή έκταση. Το αρχικό πρόβλημα της κανονιστικής οργανώσεως επανεμφανίζεται σήμερα με διαφορετικά τεχνικά μέσα αλλά με ουσιαστικά παρόμοιο θεωρητικό περιεχόμενο.

Η ελληνική φιλοσοφία υπήρξε η πρώτη μεγάλη στιγμή κατά την οποία το δίκαιο έγινε αντικείμενο αυτοσυνείδητου στοχασμού. Η διάκριση μεταξύ φύσεως και νόμου, η αναζήτηση της δικαιοσύνης πέρα από τη θεσπισμένη νομιμότητα, η έννοια της επιείκειας και η αριστοτελική θεωρία της πρακτικής φρονήσεως εξακολουθούν να αποτελούν τα σημαντικότερα θεωρητικά όρια κάθε σχεδίου πλήρους αυτοματοποιήσεως της δικαστικής κρίσεως. Η τεχνητή νοημοσύνη μπορεί να υποστηρίξει τη λογική εφαρμογή των κανόνων· δυσκολεύεται όμως να αναπαραγάγει εκείνη τη μορφή φρονήσεως μέσω της οποίας ο δικαστής αναγνωρίζει τη μοναδικότητα της συγκεκριμένης περιπτώσεως και διορθώνει τις αναπόφευκτες ατέλειες της γενικότητας του νόμου.

Η ρωμαϊκή νομική επιστήμη δίδαξε ότι το δίκαιο είναι συγχρόνως τεχνική και ερμηνεία. Η εννοιολογική συστηματοποίηση, η λογική ακρίβεια και η μεθοδολογική πειθαρχία αποτελούν αναγκαίες προϋποθέσεις κάθε ώριμης έννομης τάξεως. Η τεχνητή νοημοσύνη αξιοποιεί ακριβώς αυτή τη μακραίωνη συστηματοποίηση του δικαίου. Ταυτόχρονα όμως η ίδια η ρωμαϊκή παράδοση υπενθυμίζει ότι η τεχνική του δικαίου δεν υπήρξε ποτέ μηχανική διαδικασία. Η interpretatio αποτελούσε πάντοτε δημιουργική πνευματική δραστηριότητα και όχι απλή εφαρμογή προκαθορισμένων σχημάτων. Η διάκριση αυτή εξακολουθεί να αποτελεί το σημαντικότερο όριο της αμιγώς αλγοριθμικής νομικής σκέψεως.

Η χριστιανική και μεσαιωνική παράδοση προσέθεσε μία ακόμη αποφασιστική διάσταση. Το δίκαιο δεν υπάρχει μόνο για να οργανώνει αποτελεσματικά την κοινωνική ζωή αλλά και για να υπηρετεί μία ανώτερη αντίληψη περί δικαιοσύνης, ανθρώπινης αξιοπρέπειας και κοινού αγαθού. Η διαπίστωση αυτή αποκτά ιδιαίτερη σημασία σήμερα, διότι η δημόσια συζήτηση γύρω από την τεχνητή νοημοσύνη τείνει συχνά να περιορίζεται σε κριτήρια αποδοτικότητας, ακρίβειας ή οικονομικής ωφελιμότητας. Η ιστορία της νομικής σκέψεως υπενθυμίζει ότι η αποτελεσματικότητα αποτελεί πάντοτε μέσο και όχι σκοπό της έννομης τάξεως.

Η νεωτερικότητα ανέδειξε την κρατική κυριαρχία, τα φυσικά δικαιώματα και τη δημοκρατική αυτονομία ως νέες βάσεις νομιμοποιήσεως της πολιτικής εξουσίας. Στη σύγχρονη ψηφιακή κοινωνία τα ίδια ερωτήματα επανεμφανίζονται με νέα μορφή. Ποιος ασκεί πραγματικά εξουσία όταν κρίσιμες κοινωνικές λειτουργίες μεταφέρονται σε αλγοριθμικές υποδομές; Ποιος ελέγχει τις διαδικασίες μέσω των οποίων λαμβάνονται οι αποφάσεις; Πώς προστατεύονται τα θεμελιώδη δικαιώματα όταν η επεξεργασία των δεδομένων πραγματοποιείται σε παγκόσμια τεχνολογικά δίκτυα; Τα ερωτήματα αυτά δεν είναι διαφορετικά από εκείνα που απασχόλησαν τη νεωτερική πολιτική φιλοσοφία. Διαφέρουν μόνο ως προς τα τεχνολογικά μέσα μέσα από τα οποία εκδηλώνονται.

Ο Διαφωτισμός εισήγαγε την ιδέα της απρόσωπης ορθολογικότητας, της γενικότητας του νόμου και της δημοσιότητας της εξουσίας. Η τεχνητή νοημοσύνη φαίνεται αρχικά να αποτελεί φυσική συνέχιση αυτού του προγράμματος, καθώς υπόσχεται μεγαλύτερη συνέπεια, μικρότερη αυθαιρεσία και αυξημένη προβλεψιμότητα. Η ίδια όμως η διαφωτιστική παράδοση επιβάλλει και τα όριά της. Καμία μορφή ορθολογικότητας δεν μπορεί να θεωρηθεί συμβατή με το κράτος δικαίου εάν δεν επιτρέπει δημόσιο έλεγχο, διαφάνεια και δυνατότητα κατανόησης των διαδικασιών μέσω των οποίων ασκείται η εξουσία. Η αδιαφάνεια των πολύπλοκων αλγοριθμικών μοντέλων δεν αποτελεί απλώς τεχνική δυσκολία· συνιστά πρόκληση απέναντι σε μία από τις θεμελιώδεις αρχές της νεότερης δημοκρατικής πολιτείας.

Ο νομικός θετικισμός, ο ρεαλισμός και η ερμηνευτική θεωρία του Dworkin συμπληρώνουν τη συνολική εικόνα. Ο θετικισμός απέδειξε τη σημασία της κανονιστικής εγκυρότητας. Ο ρεαλισμός υπενθύμισε ότι το δίκαιο υπάρχει κυρίως μέσα από τη θεσμική πράξη των δικαστηρίων. Ο Dworkin ανέδειξε ότι η τελική δικαστική κρίση αποτελεί πάντοτε πράξη ερμηνευτικής δικαιολογήσεως και όχι απλή εφαρμογή κανόνων ή στατιστικών προτύπων. Η τεχνητή νοημοσύνη επιβεβαιώνει συγχρόνως και τις τρεις αυτές θεωρητικές παραδόσεις, αλλά δεν μπορεί να ταυτισθεί πλήρως με καμία από αυτές. Η λειτουργία της υπερβαίνει το επίπεδο της τυπικής εφαρμογής κανόνων, χωρίς όμως να κατορθώνει να υποκαταστήσει ολοκληρωτικά τη δημιουργική ερμηνεία που χαρακτηρίζει τη δικαστική λειτουργία.

Οι κριτικές θεωρίες και η προβληματική της αλγοριθμικής μεροληψίας κατέδειξαν ότι ούτε το δίκαιο ούτε η τεχνολογία είναι ποτέ απολύτως ουδέτερα. Οι αλγόριθμοι δεν υπάρχουν εκτός ιστορίας. Εκπαιδεύονται σε ιστορικά δεδομένα, λειτουργούν μέσα σε συγκεκριμένους θεσμούς και επηρεάζονται από κοινωνικές επιλογές που προηγούνται της τεχνικής τους υλοποιήσεως. Η αντιμετώπιση της αλγοριθμικής μεροληψίας προϋποθέτει, συνεπώς, όχι μόνο τεχνικές διορθώσεις αλλά και βαθιά ιστορική και κοινωνική αυτογνωσία.

Η ανάλυση της ευθύνης, της αιτιολογίας και της λογοδοσίας οδήγησε σε ένα ακόμη κρίσιμο συμπέρασμα. Η έννομη τάξη δεν μπορεί να λειτουργήσει χωρίς δυνατότητα αποδόσεως ευθύνης σε αναγνωρίσιμα πρόσωπα ή θεσμούς. Η τεχνητή νοημοσύνη ενδέχεται να μετασχηματίζει τον τρόπο λήψεως των αποφάσεων· δεν μπορεί όμως να καταργήσει την απαίτηση ύπαρξης υπεύθυνου φορέα που να αναλαμβάνει τη δημόσια λογοδοσία τους. Η αρχή αυτή αποτελεί ιστορική σταθερά ολόκληρης της δυτικής νομικής παραδόσεως.

Τέλος, η θεωρία των ανθρωπίνων δικαιωμάτων προσφέρει το κανονιστικό πλαίσιο μέσα στο οποίο μπορούν να συντεθούν όλες οι προηγούμενες ιστορικές κατακτήσεις. Η ανθρώπινη αξιοπρέπεια, η ιδιωτικότητα, η ισότητα, η ελευθερία, η δικαστική προστασία, η δημοκρατική λογοδοσία και ο σεβασμός της προσωπικότητας δεν αποτελούν εμπόδια στην τεχνολογική πρόοδο. Αποτελούν τις ίδιες τις προϋποθέσεις της νομιμοποιήσεώς της. Η τεχνητή νοημοσύνη δεν μπορεί να θεωρηθεί συμβατή με το κράτος δικαίου επειδή είναι τεχνολογικά προηγμένη· μπορεί να θεωρηθεί συμβατή μόνο στον βαθμό που παραμένει ενταγμένη σε ένα θεσμικό περιβάλλον το οποίο διαφυλάσσει τις θεμελιώδεις αξίες της έννομης τάξεως.

Η συνολική ιστορική αναδρομή επιτρέπει, επομένως, τη διατύπωση ενός τελικού συμπεράσματος ιδιαίτερης θεωρητικής σημασίας. Η τεχνητή νοημοσύνη δεν καταργεί τη διαχρονική εξέλιξη της νομικής σκέψεως ούτε δημιουργεί μία απολύτως νέα επιστήμη του δικαίου. Αντιθέτως, καθιστά περισσότερο αναγκαία από ποτέ τη βαθιά γνώση της ιστορίας της νομικής φιλοσοφίας. Όσο περισσότερο οι τεχνολογικές δυνατότητες αυξάνονται, τόσο περισσότερο γίνεται φανερό ότι τα αποφασιστικά ερωτήματα παραμένουν τα ίδια: τι είναι δικαιοσύνη, ποια είναι τα όρια της εξουσίας, πώς προστατεύεται η ανθρώπινη αξιοπρέπεια, ποια είναι η σχέση μεταξύ κανόνα και κρίσεως, ποιος λογοδοτεί για τις αποφάσεις και ποια είναι η θέση του ανθρώπου μέσα στην έννομη τάξη.

Η μεγαλύτερη ίσως διδασκαλία που προσφέρει η ιστορία της νομικής σκέψεως είναι ότι καμία τεχνολογική επανάσταση δεν κατόρθωσε ποτέ να αντικαταστήσει τις θεμελιώδεις κανονιστικές αρχές του δικαίου. Μεταβλήθηκαν οι θεσμοί, οι μορφές εξουσίας, οι τεχνικές εφαρμογής των κανόνων και τα μέσα οργανώσεως της κοινωνικής ζωής. Παρέμεινε όμως σταθερή η ανάγκη το δίκαιο να αποτελεί όχι απλώς σύστημα αποτελεσματικών διαδικασιών αλλά έκφραση δικαιοσύνης, ελευθερίας και ανθρώπινης ευθύνης.

Η τεχνητή νοημοσύνη αποτελεί, συνεπώς, όχι το τέλος της ιστορίας της νομικής σκέψεως αλλά το νεότερο και ίσως το απαιτητικότερο κεφάλαιό της. Η πρόκληση της εποχής μας δεν είναι να αποφασίσουμε αν ο άνθρωπος θα αντικατασταθεί από τη μηχανή. Είναι να διασφαλίσουμε ότι η τεχνολογία θα παραμείνει εργαλείο του δικαίου και δεν θα μετατραπεί σε αυτόνομο κριτήριο της δικαιοσύνης. Μόνον εφόσον η ιστορική εμπειρία, η φιλοσοφική θεμελίωση και οι αρχές του κράτους δικαίου εξακολουθήσουν να καθοδηγούν την ανάπτυξη της τεχνητής νοημοσύνης, θα είναι δυνατόν η νέα αυτή τεχνολογία να υπηρετήσει τον άνθρωπο χωρίς να υπονομεύσει τις ίδιες τις αξίες πάνω στις οποίες οικοδομήθηκε διαχρονικά η έννομη τάξη.