Τεχνητή Νοημοσύνη και Δημοκρατία

 Τεχνητή Νοημοσύνη και Δημοκρατία

Φαίη Μακαντάση

Πριν λίγες ημέρες, στις 16 Μαΐου, κλήθηκε να καταθέσει στο Κογκρέσο των ΗΠΑ ο Σαμ Άλτμαν, Διευθύνων Σύμβουλος του εργαστηρίου Τεχνητής Νοημοσύνης (Artificial Intelligence – AI) “OpenAI”, το οποίο δημιούργησε το –γνωστό πλέον σε όλους μας– ChatGPT

Στην πολύ ενδιαφέρουσα κατάθεσή του, ο κ. Άλτμαν ανέφερε χαρακτηριστικά: «Καθώς αυτή η τεχνολογία αναπτύσσεται, κατανοούμε πως οι άνθρωποι ανησυχούν πολύ για το πώς θα μπορούσε να αλλάξει τον τρόπο ζωής μας. Ανησυχούμε κι εμείς.»

Τι είναι, όμως, αυτό που προξενεί την ανησυχία ακόμα και του ίδιου του δημιουργού του κορυφαίου συστήματος AI που έχει γίνει δημοσίως γνωστό; Θα απογοητεύσουμε, δυστυχώς, τους λάτρεις των σεναρίων επιστημονικής φαντασίας, καθώς δεν είναι το ενδεχόμενο μια αρκετά εξελιγμένη τεχνητή νοημοσύνη να υποδουλώσει την ανθρωπότητα. Δεν αποκλείεται αυτό να συνιστά κίνδυνο, κάποια στιγμή στο απώτερο μέλλον, αλλά σήμερα υπάρχουν πολύ διαφορετικοί και πιο απτοί κίνδυνοι από τη νέα τεχνολογική επανάσταση που επαγγέλλεται η AI. Υπάρχουν προοπτικές αυτή να αποτελέσει μια τομή για την ανθρώπινη γνώση, αντίστοιχη της εφεύρεσης του τυπογραφείου, ή ένα πολύ ισχυρό εργαλείο με τη δυνατότητα να γίνει όπλο στα λάθος χέρια, παρόμοιο με την πυρηνική ενέργεια.

Η ταχεία πρόοδος της AI φέρνει, λοιπόν, μαζί της τόσο πολύ σημαντικές νέες προοπτικές όσο και πολύ σημαντικές νέες προκλήσεις για τις κοινωνίες παγκοσμίως. Προκλήσεις που περιλαμβάνουν γενικά τις ραγδαίες αλλαγές των αναγκών ανθρώπινης εργασίας στις οικονομίες, τα νέα ηθικά ζητήματα και διλήμματα που ανακύπτουν, τα ζητήματα ιδιωτικότητας και διαχείρισης ατομικών δεδομένων, τα ζητήματα ασφαλείας και άλλα πολλά ακόμα. Είναι προφανές ότι όλα αυτά τα ζητήματα δύνανται να επηρεάσουν, έμμεσα ή ακόμα και άμεσα, την ίδια τη δημοκρατία.

Ίσως το πιο θεμελιώδες ζήτημα των συστημάτων AI στο πλαίσιο μιας δημοκρατίας είναι η διασφάλιση της λογοδοσίας για τις αποφάσεις που αυτά λαμβάνουν. Καθώς οι αλγόριθμοι AI γίνονται ολοένα και πιο πολύπλοκοι, στοχαστικοί και αυτόνομοι, καθίσταται ολοένα και πιο δύσκολο να προσδιοριστούν οι διαδικασίες λήψης των αποφάσεών τους και να αποδοθούν ευθύνες. Το γεγονός ότι ορισμένα συστήματα AI συμπεριφέρονται ως «μαύρα κουτιά» εγείρει σημαντικές ανησυχίες για την έλλειψη διαφάνειας, τη μεροληψία αποφάσεων και το ενδεχόμενο προκατειλημμένων ή ακόμα και ανήθικων αποτελεσμάτων. Γίνεται, επομένως, απαραίτητη η δημιουργία ενός ρυθμιστικού πλαισίου το οποίο θα υποχρεώνει τα συστήματα AI να υιοθετούν συγκεκριμένα πρότυπα που διασφαλίζουν τη διαφάνεια, τον έλεγχο και τη λογοδοσία τους.

Διαφάνεια, όμως, απαιτείται και στο στάδιο της ανάπτυξης και της «εκπαίδευσης» ενός συστήματος AI. Οι αλγόριθμοι τεχνητής νοημοσύνης είναι τόσο αμερόληπτοι όσο είναι και τα δεδομένα στα οποία εκπαιδεύονται. Εάν τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των συστημάτων AI είναι μεροληπτικά ή αντανακλούν κοινωνικές προκαταλήψεις, η AI μπορεί ακούσια να διαιωνίσει και να ενισχύσει αυτά τα φαινόμενα. Για τον μετριασμό αυτών των –εν πολλοίς αναπόφευκτων– προβλημάτων χρειαζόμαστε το ρυθμιστικό πλαίσιο των συστημάτων AI να δρα αφενός προληπτικά, επιβάλλοντας συγκεκριμένες επιθυμητές και ηθικές πρακτικές στο στάδιο της ανάπτυξης AI, όπως η επαρκής διαφοροποίηση των μελών στις ομάδες ανάπτυξης, αλλά και αντιδραστικά, μέσω εκτενών υποχρεωτικών δοκιμών και ανεξάρτητων ελέγχων.

Κάποιες ιδιαίτερες εφαρμογές της AI, όπως η αναγνώριση προσώπου και η ανάλυση προσωπικών δεδομένων, εγείρουν επιπλέον ανησυχίες για την προστασία της ιδιωτικής ζωής και κατά συνέπεια των ατομικών ελευθεριών. Η συλλογή και η χρήση τεράστιων ποσοτήτων προσωπικών δεδομένων για σκοπούς επιτήρησης μπορεί να υπονομεύσει τα ατομικά δικαιώματα ιδιωτικότητας και να διαβρώσει την εμπιστοσύνη στους δημοκρατικούς θεσμούς. Μια ορθή ισορροπία μεταξύ της ανάγκης για δημόσια ασφάλεια με αυτήν για προστασία της ιδιωτικής ζωής είναι ζωτικής σημασίας. Θα πρέπει, συνεπώς, να διασφαλίζεται ότι οι εφαρμογές AI σέβονται τα δικαιώματα της ιδιωτικής ζωής και να αποτρέπεται η κατάχρηση των προσωπικών δεδομένων, μέσω ειδικών διατάξεων για αυτές τις χρήσεις της AI.

Τέλος, η AI μπορεί να αναδιαμορφώσει ριζικά τη δυναμική της εμπλοκής των πολιτών με την πολιτική και τον δημόσιο διάλογο. Αν και η AI ενισχύει, αναμφίβολα, τη συμμετοχή και την πρόσβαση των πολιτών στην πληροφόρηση, η εκτεταμένη χρήση της στους αλγορίθμους των μέσων κοινωνικής δικτύωσης έχει οδηγήσει ήδη σε μια εξάπλωση των λεγόμενων “information bubbles". Το φαινόμενο αυτό περιγράφει μια κατάσταση στην οποία τα άτομα εκτίθενται κυρίως σε πληροφορίες και απόψεις που ευθυγραμμίζονται με τις υπάρχουσες πεποιθήσεις, προτιμήσεις ή ενδιαφέροντά τους, ενώ απομονώνονται από αντίθετες ή διαφορετικές γνώμες. Η ανάγκη των μέσων κοινωνικής δικτύωσης να κρατήσουν απασχολημένο τον χρήστη τους, οδήγησε σε ανάπτυξη ειδικών αλγορίθμων AI που διαβάζουν τον χρήστη και του παρέχουν εξατομικευμένο υλικό σύμφωνα με τις προτιμήσεις και τα ενδιαφέροντά του.

Αυτό συνεπάγεται ένα πολύ σημαντικό διπλό πρόβλημα για μια δημοκρατική κοινωνία: αφενός διευκολύνονται πολύ οι δυνατότητες χειραγώγησης της κοινής γνώμης και αφετέρου ωθείται ο δημόσιος διάλογος σε συνθήκες ακραίας πόλωσης. Απαιτείται, λοιπόν, μια ρύθμιση του οικοσυστήματος των μέσων κοινωνικής δικτύωσης ώστε να υποχρεούνται να παρέχουν στον χρήστη μια πλουραλιστική εικόνα της κοινωνίας. Επιπλέον, έχει γίνει πιο σημαντική από ποτέ η ανάγκη για καταπολέμηση του ψηφιακού αναλφαβητισμού και ανάπτυξη της κριτικής σκέψης, ώστε να προφυλαχτούν οι πολίτες στο νέο τοπίο της εξατομικευμένης ενημέρωσης και να διατηρηθεί ζωντανό το δημοκρατικό πνεύμα της σύνθεσης των απόψεων.

Όπως γίνεται σαφές από όλα τα παραπάνω, το σύνολο των νέων προκλήσεων που συνεπάγεται η AI για τη δημοκρατία επιβάλλουν τη δημιουργία ενός σύγχρονου και τεχνολογικά ενημερωμένου νομικού και ρυθμιστικού πλαισίου, το οποίο θα ορίζει συγκεκριμένους κανόνες ανάπτυξης και χρήσης για τα συστήματα AI, βάσει των αρχών της διαφάνειας, του ελέγχου και της λογοδοσίας, του πλουραλισμού, της δικαιοσύνης και της προστασίας των ατομικών δικαιωμάτων. Αυτό δεν είναι καθόλου εύκολο έργο, ειδικά για ένα νομοθετικό σύστημα που αδυνατεί να αντιμετωπίσει ακόμα και προκλήσεις του παρελθόντος.

Πέραν όμως του θεσμικού πλαισίου, απαιτείται η συνεργασία και των ίδιων των ομάδων ανάπτυξης AI, μέσω υιοθέτησης ηθικών πρακτικών ανάπτυξης και δημοσιότητας. Τέλος, δεν θα πρέπει ποτέ να ξεχνάμε πόσο σημαντικός είναι ο ρόλος της ενημέρωσης και της ευαισθητοποίησης της ίδιας της κοινωνίας. Η τεχνητή νοημοσύνη αποτελεί αναμφίβολα μια τεχνολογική επανάσταση που θα μετασχηματίσει τις σύγχρονες κοινωνίες. Αν αυτή τύχει της δέουσας διαχείρισης έχει τη δυνατότητα να βελτιώσει αφάνταστα την καθημερινότητά μας, χωρίς να θέσει σε κίνδυνο τις βασικές αρχές και αξίες της κοινωνίας μας.

Δρ. Φαίη Μακαντάση , Διευθύντρια Ερευνών διαΝΕΟσις