3 αλήθειες για την AI και 7 προτάσεις λύσεις

Πρόσφατα, φίλη γιατρός με κάλεσε στο τηλέφωνο. Δεν ήθελε κάτι. Ήθελε απλά να μιλήσει. Ήταν σκασμένη. Είχε χάσει ασθενή. Όχι λόγω λάθος διάγνωσης.

Αυτό που την τάραξε ήταν πως κανείς δεν κάθισε δίπλα στον ασθενή στις τελευταίες ώρες του. Πέθανε μόνος. Και η φίλη μου ένιωσε καθήκον να καθίσει εκείνη δίπλα του, παρά την κόπωσή της. Να δείξει στον ετοιμοθάνατο πως ο κόσμος δεν είναι τόσο σκληρός όσο δείχνει.

Κανένας αλγόριθμος δεν θα ένιωθε κάτι τέτοιο. Καμία AI δεν θα στεκόταν στο πλευρό ενός ετοιμοθάνατου. Ούτε θα έπαιρνε τηλέφωνο στις 2 τα ξημερώματα, επειδή δεν μπορούσε να κοιμηθεί. Αυτό είναι ανθρώπινη σοφία. Και είναι ακριβώς αυτό που κινδυνεύουμε να χάσουμε.

Πιο γρήγοροι, όχι πιο σοφοί. 

Η AI δεν είναι πιο έξυπνη από εμάς. Τουλάχιστον όχι ακόμα. Είναι πολλαπλάσια πιο γρήγορη  και με γνώσεις σε επίπεδο ειδικού και η διαφορά αυτή μετράει. Η ταχύτητα και η γνώση επεξεργάζεται δεδομένα. Η σοφία καταλαβαίνει τι σημαίνουν. Η μία σου δίνει απάντηση, η άλλη σου λέει αν η απάντηση αξίζει.

Ο McGilchrist το εξηγεί καλύτερα από μένα. Ο εγκέφαλός μας έχει δύο ημισφαίρια που βλέπουν τον κόσμο εντελώς διαφορετικά.

Το δεξί ημισφαίριο είναι ο “Κύριος”. Βλέπει το σύμπαν ως ζωντανό ύφασμα γεμάτο νόημα. Αυτό δουλεύει όταν κοιτάς στα μάτια κάποιον που αγαπάς και καταλαβαίνεις τι νιώθει χωρίς να ανταλλάξετε κουβέντα.  Όταν σε πιάνει ανατριχίλα με ένα τραγούδι. Η φορά που κατάλαβες ότι κάτι δεν πήγαινε καλά, χωρίς να μπορείς να εξηγήσεις γιατί.

Το αριστερό ημισφαίριο είναι ο “Απεσταλμένος”. Αναλύει, μετράει, κατηγοριοποιεί. Χρήσιμο εργαλείο, αλλά εργαλείο. Το πρόβλημα; Ο Απεσταλμένος νομίζει πως αυτός είναι ο Αφέντης. Μας εξαπάτησε. Κατέκτησε τον πολιτισμό μετρώντας τα πάντα. Βήματα, θερμίδες, KPIs, παραγωγικότητα αλλά παράλληλα η κατάθλιψη στους εφήβους αυξήθηκε πάνω από 100% μέσα σε μία δεκαετία. Ο αυτοτραυματισμός υπερδιπλασιάστηκε. Η μοναξιά έγινε επιδημία κυριολοκτικά.  Ο Jonathan Haidt τεκμηρίωσε ολόκληρη αυτή την κατάρρευση στο “The Anxious Generation.”

Ξέρουμε πολλά. Νιώθουμε πολλά, αλλά γινόμαστε όλο και λιγότερο σοφοί.

Ο Yalom έγραφε ότι η πιο βαθιά μοναξιά δεν είναι να μην έχεις κάποιον δίπλα σου. Είναι να μην μπορείς να φτάσεις τον άλλον ακόμα κι όταν στέκεται μπροστά σου. Αυτό ακριβώς πάθαμε. Κάποιοι μας έμαθαν ότι ο διπλανός μας δεν είναι συνάνθρωπος. Είναι κατηγορία, φύλο, χρώμα, ταυτότητα, θύμα ή θύτης. Μας χώρισαν σε ομάδες, μας κόλλησαν ετικέτες και μας είπαν ότι αυτό είναι πρόοδος. Και τώρα απορούμε γιατί δεν μπορούμε να μιλήσουμε ο ένας στον άλλον.

Τρεις σκληρές αλήθειες για την AI

1. Η τεχνολογία δεν σώζει κανέναν. Ούτε καταστρέφει κανέναν.

Εμείς αποφασίζουμε τι κάνουμε μ’ αυτήν. Η AI ήδη κάνει καλύτερη διάγνωση από γιατρούς σε αρκετούς τομείς. Αλλά δεν θα καθίσει ποτέ δίπλα σε κάποιον που παλεύει με ένα πρόβλημα, λέγοντας τη σωστή λέξη τη σωστή στιγμή. Αν αντικαταστήσουμε την ανθρωπιά με αλγόριθμο, θα πεθαίνουμε πιο αργά αλλά πιο μόνοι.

2. Η αυτογνωσία δεν είναι δεδομένα προς αποθήκευση.

Όταν ο Σωκράτης μιλούσε για «γνώθι σαυτόν» δεν εννοούσε να συλλέγουμε περισσότερα data. Εννοούσε να έρθουμε αντιμέτωποι με αυτό που πραγματικά είμαστε. Κι αυτό πονάει. Γι’ αυτό οι περισσότεροι το αποφεύγουν. Στην εποχή του φαίνεσθαι, ελάχιστοι ασχολούνται με το είναι. (Δεν είναι τυχαίο, αλλά αυτό είναι μεγάλη κουβέντα.)

3. Αν έρθει η αυτοκαταστροφή δεν θα έρθει από εκεί που περιμένουμε.

Πολλοί ευαγγελίζονται πως πλησιάζει η καταστροφή του πλανήτη. Τα ίδια τα δεδομένα κατέρριψαν αρκετές από αυτές τις ανόητες προβλέψεις. Πιο πιθανό σενάριο; Να αφήσουμε τις μηχανές να σκέφτονται για εμάς, τους αλγόριθμους να αποφασίζουν τι νιώθουμε, τα social media να ορίζουν τι πιστεύουμε. Ένας αργός θάνατος δηλαδή, με χιλιάδες αθόρυβες παραχωρήσεις, η μία πάνω στην άλλη. 

7 προτάσεις λύσεις

Τι μπορούμε να κάνουμε; Πολλά. Αρκεί να μην περιμένουμε κάποιον άλλον να τα κάνει. Ο καθένας ας αναλάβει το δικό του μερίδιο ευθύνης.

1. Να μάθουμε ξανά να αντέχουμε τη δυσφορία.

Κάθε μεγάλη ανακάλυψη, κάθε βαθιά σχέση, κάθε ουσιαστική αλλαγή, περνάει μέσα από δυσφορία. Η κουλτούρα μας τρέχει στην αντίθετη κατεύθυνση. Ψάχνει άνεση, βολή, ανεπανάληπτες εμπειρίες. Αποτέλεσμα,  εύθραυστοι άνθρωποι. Παρακάτω δίνω και τις αποδείξεις. 

2. Να βλέπουμε τον άλλον.

Πριν λίγες μέρες, σε σούπερ μάρκετ στη Θεσσαλονίκη, μια ταμίας είπε σε ηλικιωμένη κυρία που έψαχνε πανικόβλητη το πορτοφόλι ενώ μεγάλη ουρά περίμενε από πίσω της “Πάρτε τον χρόνο σας. Δεν τρέχει τίποτα.” Η ταμίας είδε έναν άνθρωπο σε πανικό. Δεν ακολούθησε αλγόριθμο. Σκέφτηκε μόνη της να πει μια κουβέντα. Αυτή η ικανότητα, να βλέπεις τον διπλανό σου ως κάποιον που χρειάζεται βοήθεια, είναι η βάση κάθε πολιτισμού μας που άντεξε στον χρόνο. Κι εδώ θέλει προσοχή, γιατί δεν πρέπει να πέσουμε στην παγίδα του Homo Sentimentalis και της παρασιτικής ιδεοληψίας που σκοτώνει την κοινή λογική. 

3. Να ξαναχτίσουμε την παιδεία από την αρχή.

Ίσως το πιο επείγον από όλα. Το σημερινό εκπαιδευτικό σύστημα παράγει παπαγαλάκια. Απομνημονεύουν, δίνουν εξετάσεις, ξεχνάνε. Δεν μαθαίνουν ποτέ να θέτουν ερωτήσεις, να σκέφτονται κριτικά. Στην εποχή που η AI δίνει απαντήσεις σε δευτερόλεπτα, η ικανότητα να απομνημονεύεις δεν αξίζει τίποτα. Αυτό που θα αξίζει, είναι να ξέρεις τι να ρωτήσεις. Να ξεχωρίζεις το αληθές από ψεύτικο. Να μη γίνεσαι σημαιάκι κανενός, ούτε δημαγωγού ούτε αλγορίθμου.

Παιδεία δεν σημαίνει απαραίτητα πτυχία. Σημαίνει κριτική σκέψη, φιλοσοφία, ιστορία που σου μαθαίνει τα λάθη των προγόνων σου και σου αποκαλύπτει ένα σύστημα αποφάσεων για να  αποφύγεις αυτά τα λάθη. Αν δεν αλλάξει η παιδεία, τίποτα δεν θα αλλάξει.

4. Να διδάξουμε φιλοσοφία σαν να εξαρτάται η ζωή μας από αυτήν.

Γιατί εξαρτάται. Ο Μάρκος Αυρήλιος κυβερνούσε αυτοκρατορία και έβρισκε χρόνο να γράφει ημερολόγιο για το πώς να γίνει καλύτερος άνθρωπος. Εμείς έχουμε περισσότερο ελεύθερο χρόνο από κάθε γενιά στην ιστορία. Τον ξοδεύουμε σκρολάροντας. Λες και η σοφία είναι data που τα αποθηκεύεις σε cloud. Τη σοφία τη χάνεις αν δεν τη μεταδώσεις. Κάθε γενιά που την ξεχνάει, επαναλαμβάνει τα ίδια λάθη.

5. Να χτίσουμε μια Τράπεζα Σοφίας.

Τη γνώση την αποθηκεύουμε σε βιβλιοθήκες και βάσεις δεδομένων. Την ανθρώπινη σοφία; Πουθενά. Πεθαίνει μαζί με τον παππού που ήξερε πώς να διαβάζει ανθρώπους. Μαζί με τον τεχνίτη που ήξερε πότε κάτι “κάθεται σωστά” χωρίς να μπορεί να το εξηγήσει.

Ο Peter Diamandis, αναφέρει πως μέσα στις επόμενες δεκαετίες ίσως καταστεί δυνατό να μεταφορτωθεί το πλήρες περιεχόμενο ενός ανθρώπινου νου σε ψηφιακό υπόστρωμα. 100 δισεκατομμύρια νευρώνες, 100 τρισεκατομμύρια συναπτικές συνδέσεις.

Αυτό πολλοί το αποκαλούν ψηφιακή αθανασία. Αλλά η σοφία δεν είναι νευρώνες και συνάψεις.

Δεν μπορείς να αντιγράψεις τη στιγμή που ο Θεμιστοκλής κοίταξε τον στόλο των Περσών στη Σαλαμίνα και αποφάσισε όχι μόνο να πολεμήσει σε στενά νερά, αλλά να στείλει ψεύτικο μήνυμα στον Ξέρξη ότι οι Έλληνες ετοιμάζονταν να φύγουν. Παγίδεψε τον ισχυρότερο στόλο του κόσμου με μια ιδέα. Κανένα data δεν του το πρότεινε. Η σοφία και το θάρρος του το έκαναν. Και αυτή η μία απόφαση έσωσε τον δυτικό πολιτισμό πριν καν προλάβει να γεννηθεί. 

Σήμερα η τεχνολογία blockchain μπορεί να εγγυηθεί ότι καταγράφεις τη σοφία, την επαληθεύεις και κανείς δεν μπορεί να την αλλοιώσει. Και η ίδια αρχή πρέπει να ισχύσει για την AI. Αν εμπιστευόμαστε αλγόριθμους να επεξεργάζονται γνώση, τότε οφείλουμε να εξασφαλίσουμε ότι δεν λένε ψέματα.

Πώς θα το πετύχουμε αυτό; Με ανοιχτό, ελεγχόμενο, επαληθεύσιμο σύστημα. Γιατί μια Τράπεζα Σοφίας δεν έχει κανένα νόημα αν τα εργαλεία που τη χρησιμοποιούν σερβίρουν ψέματα σαν αλήθειες. Δεν χρειαζόμαστε νέα φιλοσοφία. Χρειαζόμαστε υποδομή για να μην χαθεί αυτή που έκανε τον πολιτισμό μας να μεγαλουργήσει.

6. Να διοικήσουμε το κράτος σαν σοβαρό οργανισμό.

Πάντα πίστευα πως κράτος, επιχείρηση και οικογένεια λειτουργούν με τις ίδιες αρχές. Αλλάζει η κλίμακα, αλλά η δομή μένει. Έχω γράψει και άρθρο γι αυτό.  Στον κόσμο των σοβαρών οργανισμών υπάρχουν δοκιμασμένα εργαλεία, όπως ανεξάρτητος έλεγχος κάθε δαπάνης, τεκμηρίωση κάθε απόφασης, σαφής κατανομή ευθύνης, θεσμοθετημένη διαφωνία (η αντίρρηση γίνεται διαδικασία, όχι αφορμή για επανάσταση ή ανταρσία) και version control, δηλαδή κάθε αλλαγή μένει στο αρχείο και κανείς δεν σβήνει τίποτα.

Βάλε τώρα αυτά τα εργαλεία στη δημόσια διοίκηση πάνω σε blockchain και παίρνεις κάτι που δεν υπήρξε ποτέ στην ιστορία. Ένα σύστημα όπου ΚΑΝΕΙΣ δεν πειράζει την αλήθεια. Ούτε πολιτικός, ούτε κόμμα, ούτε βαθύ κράτος.

7. Να ξεκινήσουμε μικρά, αλλά σοβαρά.

Στην Ελλάδα ακούμε χρόνια για “συμμετοχικούς προϋπολογισμούς” και “πλατφόρμες διαβούλευσης”. Τρύπιες υποσχέσεις. Αυτό που κανείς δεν τόλμησε είναι υποδομή που δεν αφήνει κανέναν να κρυφτεί.

Οι Ελβετοί ψηφίζουν 3-4 φορές τον χρόνο σε δεκάδες θέματα, τοπικά και εθνικά. Και όπως ίσως θα έχετε καταλάβει, δεν ψηφίζουν στα τυφλά. Πριν από κάθε ψηφοφορία, κάθε νοικοκυριό λαμβάνει επίσημο φυλλάδιο που περιγράφει: τι ακριβώς ψηφίζουν, επιχειρήματα υπέρ, επιχειρήματα κατά, θέση κυβέρνησης, θέσεις παρατάξεων. Όλες οι πλευρές στο ίδιο έγγραφο. Ο πολίτης δεν χρειάζεται να εμπιστευτεί κανάλια και δημοσιογράφους. Παίρνει δομημένη ενημέρωση στο σπίτι του και αποφασίζει.

Δουλεύει πάνω από εκατό χρόνια. Και το αποτέλεσμα δεν είναι μόνο καλύτερες αποφάσεις. Είναι υπεύθυνοι πολίτες. Γιατί όταν ξέρεις ότι η ψήφος σου έχει πραγματικές συνέπειες, σκέφτεσαι πριν ψηφίσεις.

Ένας δήμος στην Ελλάδα θα μπορούσε να κάνει ακριβώς αυτό. Αλλά χρειάζεται έναν δήμαρχο που δεν τρέμει τη διαφάνεια. Ένα πετυχημένο παράδειγμα θα έπειθε περισσότερο από χίλιες θεωρίες.

Η λύση ήταν πάντα η ίδια

Στην Αθήνα του Περικλή τρία πράγματα ήταν ενωμένα στο πρόσωπο του πολίτη. Η γνώση (ήξερε), η κρίση (αξιολογούσε) και η δύναμη (αποφάσιζε). Ο ίδιος άνθρωπος που μάθαινε στην αγορά, έκρινε στα δικαστήρια και αποφάσιζε στην εκκλησία του δήμου. Η φιλοσοφία ήταν τρόπος ζωής και η παιδεία δεν χώριζε τη γνώση από την πράξη. Η δε λέξη «ιδιώτης», δεν σήμαινε αυτό που σημαίνει σήμερα. Σήμαινε ντροπή γι’ αυτόν που δεν ασχολείται με τα κοινά. 

Κάπου στη διαδρομή το χάσαμε. Σήμερα οι πολιτικοί αποφασίζουν αλλά δεν ξέρουν. Η AI επεξεργάζεται αλλά δεν καταλαβαίνει. Και ο πολίτης κάθεται και παρακολουθεί.

Αυτές οι 7 προτάσεις είναι μία αρχιτεκτονική πρόταση, που επιχειρεί να ξαναφτιάξει αυτό που χάσαμε. Τον υπεύθυνο πολίτη. Η Τράπεζα Σοφίας δίνει πίσω τη γνώση. Η κληρωτή εποπτεία δίνει πίσω τη δύναμη. Η παιδεία δίνει πίσω την κρίση. Το blockchain εγγυάται ότι κανείς δεν θα τα ξαναχωρίσει κρυφά. 

Σήμερα έχουμε εργαλεία που οι πρόγονοί μας δεν μπορούσαν καν να φανταστούν. Blockchain που εγγυάται διαφάνεια, AI που επεξεργάζεται τεράστιο όγκο δεδομένων σε δευτερόλεπτα (σε επίπεδο PhD!). Πλατφόρμες που φέρνουν κάθε πολίτη στην αγορά χωρίς να βγει από το σπίτι του. Μας λείπουν μόνο δύο πράγματα. Η σοφία να τα χρησιμοποιήσουμε σωστά και το θάρρος να ξεκινήσουμε.

Οι πρόγονοί μας δεν είχαν καν ρεύμα κι όμως έχτισαν τον πολιτισμό πάνω στον οποίο στεκόμαστε ακόμα. Εμείς έχουμε τα πάντα. Τι περιμένουμε;