Η εποχή της λαμπρής τυφλότητας | Τι αποκαλύπτει το κείμενο ενός νομπελίστα για όλους μας.

Ζούμε στην εποχή με τους πιο έξυπνους ανθρώπους που είχαμε ποτέ. Και συνάμα τους πιο τυφλούς.

Η τυφλότητα αυτή κυκλοφορεί παντού. Στα πανεπιστήμια, στα κοινοβούλια, στους θεσμούς και μέσα μας. Πρόσφατα την είδα συμπυκνωμένη στο κείμενο ενός νομπελίστα.

Ποιος είναι ο Demis Hassabis

Ο Demis Hassabis είναι συνιδρυτής και CEO της Google DeepMind. Τιμήθηκε με το Νόμπελ Χημείας για τη συμβολή του στην πρόβλεψη της δομής των πρωτεϊνών, ένα πρόβλημα που απασχολούσε την επιστήμη για περίπου 50 χρόνια.

Είναι ένα από τα πιο επιδραστικά μυαλά της εποχής μας. Τον διαβάζουν εκατομμύρια νέοι. Και αυτό κάνει τα κενά στα κείμενά του, πολύ πιο σημαντικά.

Το μανιφέστο για το AGI

Πρόσφατα ο Demis Hassabis δημοσίευσε ένα άρθρο. Εκτιμά ότι η AGI (τεχνητή νοημοσύνη που μαθαίνει μόνη της, καταλαβαίνει, προσαρμόζεται όπως ο άνθρωπος) απέχει λίγα χρόνια και ότι ο αντίκτυπός της θα είναι «10 φορές η Βιομηχανική Επανάσταση», με «10πλάσια ταχύτητα».

Μιλά για μια «εποχή αφθονίας» και προτείνει έναν ρυθμιστικό οργανισμό τύπου FINRA για τα ισχυρότερα εργαστήρια AI.

Η τεχνική του σκέψη είναι αξιοσέβαστη. Το κείμενό του όμως αφήνει κρίσιμα ερωτήματα αναπάντητα.

Γιατί γράφω αυτό το κείμενο

Δεν γράφω ως κάποια που γνωρίζει περισσότερα από έναν νομπελίστα. Γράφω ως πολίτης που τον Δεκέμβριο του 2024 πήρε μια απόφαση και δεσμεύτηκε δημόσια να μιλά και να παρεμβαίνει.

Ένας πολίτης που κουράστηκε να βλέπει αυτούς που αποφασίζουν το μέλλον του και τον εκπροσωπούν, να μη λογοδοτούν.

Η μισή διάγνωση

Η πρόταση του Hassabis περιστρέφεται γύρω από τα frontier labs και την αμερικανική κυβέρνηση. Η τεχνολογία όμως αυτή θα επηρεάσει τις ζωές 8 δισεκατομμυρίων ανθρώπων.

Αυτό το κείμενο ήταν η ευκαιρία του να μιλήσει ως ηγέτης. Να απευθυνθεί σε εκατομμύρια νέους που τον διαβάζουν, που μεγαλώνουν μέσα στην αβεβαιότητα, που θα κληθούν να ζήσουν με τις συνέπειες αυτής της τεχνολογίας.

Ο Demis Hassabis επέλεξε να τους μιλήσει ως τεχνοκράτης.

Αναγνωρίζω πως κανένα άρθρο 1.300 λέξεων δεν μπορεί να καλύψει τα πάντα. Η επιλογή όμως όσων αφήνει έξω από το κείμενο του, είναι αποκαλυπτική του τρόπου με τον οποίο βλέπει τα προβλήματα.

Η αναξιοπιστία της AI

Ο Hassabis δεν εξετάζει σοβαρά την αναξιοπιστία των σημερινών μοντέλων AI. Η AI μπορεί να σερβίρει ψέματα με την ίδια αυτοπεποίθηση που σερβίρει αλήθειες.

Αν ένας κατασκευαστής αυτοκινήτων γνώριζε ότι τα φρένα του συχνά αποτυγχάνουν και μιλούσε μόνο για το μέλλον των μετακινήσεων, εσείς δεν θα ανησυχούσατε;

Ο γεωπολιτικός κίνδυνος

Δεν εξετάζει σε βάθος τι θα συμβεί αν ένα αυταρχικό καθεστώς φτάσει πρώτο στο AGI.

Την ίδια στιγμή, το Κομμουνιστικό Κόμμα Κίνας προωθεί βαθύτερη ενσωμάτωση του social credit στην οικονομική και κοινωνική διακυβέρνηση.

Συνδυάστε ένα τέτοιο σύστημα με κρατικά ελεγχόμενη AI. Η λογοκρισία θα μπορεί να λειτουργεί αυτόματα, προληπτικά και κυρίως αόρατα.

Η απουσία οράματος για τον πολίτη

Ο Hassabis μιλά για μια «εποχή αφθονίας», αλλά δεν εξηγεί τι θα σημαίνει αυτό για τον απλό πολίτη. Τη νοσοκόμα, τον αγρότη, τη μικρή επιχείρηση. Ποιος θα ελέγχει τα δεδομένα; Ποιος θα μοιράζει τα οφέλη;

Η επικοινωνία ενός οράματος σε αυτούς που θα το βιώσουν, είναι βασική ευθύνη κάθε ηγέτη. (Για αφθονία και οφέλη μας μιλούσαν τεχνοκράτες κι όταν σχεδίαζαν το Green Deal που αποδείχθηκε αυτοκαταστροφικό για την ΕΕ.)

Η απουσία αυτοκριτικής

Ένας ηγέτης δεν φοβάται να παραδεχθεί τα λάθη του. Ο Hassabis δεν κάνει καμία αυτοκριτική.

Η DeepMind ζει μέσα στο οικοσύστημα της Alphabet (Google), μιας εταιρείας που μέσω YouTube τρέφει ανεπιβεβαίωτο περιεχόμενο σε παγκόσμια κλίμακα. Ο Hassabis δεν ελέγχει το YouTube. Αλλά μιλάει για «responsible AI» ενώ η μαμά εταιρεία επιβραβεύει και άρα επιτείνει αυτή τη σύγχυση.

Ζητάει ρυθμιστικό σώμα μόνο για τα μεγαλύτερα labs. Εξηγεί ότι εξαιρεί τους μικρούς για να μην τους πνίξει. Η πρόθεση μπορεί να είναι καλή. Το αποτέλεσμα όμως αξίζει τουλάχιστον μια δεύτερη σκέψη.

Η πηγή της τυφλότητας

Εδώ θέλω να είμαι δίκαιη. Η τυφλότητα αυτή δεν πιστεύω ότι είναι προσωπικό ελάττωμα του Hassabis. Από άλλες τοποθετήσεις του, πιστεύω πως μιλάμε για ένα άτομο με καλές προθέσεις. Πιστεύω όμως ότι είναι αντιπροσωπευτικό προϊόν του ίδιου του συστήματός μας.

Ο Ηράκλειτος το έλεγε πριν 2.500 χρόνια. «Η πολλή γνώση δεν διδάσκει κατανόηση.»

Τα σχολεία, τα πανεπιστήμια και οι θεσμοί μας παράγουν ανθρώπους με εξαιρετική τεχνική κατάρτιση, αλλά όλο και πιο συχνά με περιορισμένο ορίζοντα. Ανθρώπους ικανούς να λύσουν ένα εξαιρετικά δύσκολο πρόβλημα, χωρίς να έχουν μάθει να αναρωτιούνται αν η λύση που προσφέρουν θα κάνει τον κόσμο πιο ελεύθερο, πιο δίκαιο ή απλώς πιο αποτελεσματικά ελεγχόμενο.

Τι δείχνουν 70 χρόνια έρευνας για την ηγεσία

Πώς φτάσαμε εδώ; Με αφορμή αυτό το κείμενο και με τη βοήθεια AI, μελέτησα τις θεωρίες ηγεσίας από το 1950 μέχρι σήμερα. Εστίασα στις 32 δημοφιλέστερες ακαδημαϊκές θεωρίες ηγεσίας.

Ό,τι μπορέσαμε να μετρήσουμε (στυλ, χάρισμα, συμπεριφορά), το μετρήσαμε.

Ό,τι δεν μετριόταν (η σοφία, η ευθύνη, η ικανότητα να βλέπεις πού οδηγεί μια απόφασή σου σε 20 χρόνια), σταματήσαμε να το ψάχνουμε. Και σταματήσαμε να το παράγουμε.

Αυτό λέει πολλά για εμάς ως κοινωνία.

Η στρέβλωση που περιγράφει ο McGilchrist

Ο Iain McGilchrist έχει περιγράψει αυτή τη στρέβλωση καλύτερα από κάθε άλλον. Μετράμε τα πάντα, κατανοούμε ελάχιστα. Βελτιστοποιούμε κομμάτια χωρίς να βλέπουμε το σύνολο.

Μετράμε βήματα, παραγωγικότητα, followers. Και δεν έχουμε βρει ακόμα μονάδα μέτρησης για το αν μια ζωή ζώσα άξιζε.

Η ίδια τυφλότητα παντού

Για δεκαετίες, οι ευρωπαϊκές πολιτικές ηγεσίες επέτρεψαν τη μεταφορά παραγωγής και τεχνογνωσίας στην Κίνα χωρίς ασφαλιστικές δικλείδες. Τώρα ανακαλύπτουν το αδιέξοδο.

Η ίδια η κα Von der Leyen παραδέχεται ότι κινεζικές αθέμιτες πρακτικές κατέστρεψαν ευρωπαϊκές εταιρείες.

Το κόστος αυτών των λάθος επιλογών, το πληρώνουν ήδη οι εργαζόμενοι, οι μικρές επιχειρήσεις και οι φορολογούμενοι. Οι άνθρωποι που πήραν τις μοιραίες αποφάσει, συνεχίζουν να απολαμβάνουν παχυλούς μισθούς σε νέες θέσεις και δεν είχαν καν την ευαισθησία να παραιτηθούν.

Σε ποια άλλη ανθρώπινη δραστηριότητα αυτός που αποφασίζει δεν πληρώνει ποτέ τις συνέπειες των πράξεών του;

Το μοτίβο

Ο νομπελίστας δεν βλέπει ότι η τεχνολογία του λέει ψέματα.

Ο Ευρωπαίος πολιτικός δεν βλέπει ότι εμπορεύεται ελεύθερα με κάποιον που δεν παίζει με τους ίδιους κανόνες.

Τα πανεπιστήμια δεν βλέπουν ότι παράγουν ανθρώπους χωρίς κριτική σκέψη και πως οι διδακτικές αίθουσες αδειάζουν.

Η ίδια τυφλότητα, παντού.

Η ελευθερία που υποτιμάμε

«Η ευτυχία στηρίζεται στην ελευθερία και η ελευθερία στην ψυχική δύναμη» έγραφε ο Θουκυδίδης μεταφέροντας λόγια του Περικλή.

Η ελευθερία είναι το πολυτιμότερο αγαθό που κατακτήσαμε ποτέ ως δυτικός πολιτισμός. Είναι επίσης το πιο ευάλωτο. Χρειάζεται διάλογο, διαφωνία, χρόνο.

Η αυταρχικότητα είναι γρήγορη. Αποφασίζει χωρίς διαβούλευση και εκτελεί χωρίς αντιπολίτευση. Η τεχνοκρατική λογική θα χάνει πάντα αυτόν τον αγώνα, γιατί μέχρι να ολοκληρωθεί μια εργασία, ο αυταρχικός έχει ήδη δράσει.

Τον αυταρχισμό τον κερδίζεις με κάτι που αυτός δεν μπορεί ποτέ να παράξει. Μια δημοκρατία τόσο λειτουργική, τόσο δίκαιη, τόσο αξιοκρατική, που κανένα μυαλό δεν θέλει να φύγει.

Αυτό χρειάζεται ηγέτες. Και εμείς σταματήσαμε να τους παράγουμε, γιατί σταματήσαμε να τιμούμε αυτό που τους κάνει ηγέτες. Τη σφαιρική ματιά, τη σοφία, το θάρρος να ρωτάνε αυτό που κανείς δεν θέλει να ακούσει.

Ποιος θα ρωτήσει

Η τυφλότητα που περιγράφω δεν αφορά μόνο νομπελίστες και πολιτικούς.

Ήμουν κι εγώ τυφλή για χρόνια. Με την ψήφο μου, χωρίς γνώση και συνείδηση, συντηρούσα αυτήν την κατάσταση. Δεν συμμετείχα στο φαγοπότι, αλλά το επέτρεψα με την αποχή μου. Αυτό δεν με αθωώνει.

Γι’ αυτό μιλάω και γράφω. Η σιωπή δεν είναι πια επιλογή για μένα.

Ποιος λοιπόν θα κάνει τις δύσκολες ερωτήσεις;

Εμείς. Οι πολίτες που θα ζήσουμε τις συνέπειες. Μπορεί οι απαντήσεις μας να είναι λανθασμένες. Οι ερωτήσεις όμως πρέπει να γίνουν.

Γνώθι σαυτόν

Ο Hassabis ρωτάει κλείνοντας το άρθρο του «τι αξίες θέλουμε;»

Νιώθω πως η απάντηση δόθηκε πριν 2.500 χρόνια, αλλά επιλέξαμε να την αγνοήσουμε.

Γνώθι σαυτόν. Να γνωρίζουμε τα όρια της γνώσης μας. Να αναγνωρίζουμε τα τυφλά μας σημεία. Να δεχθούμε ότι ένας άνθρωπος μπορεί να είναι ιδιοφυΐα σε ένα πεδίο και βαθιά περιορισμένος έξω από αυτό.

Δεν πιστεύω ότι η τεχνητή νοημοσύνη θα είναι το τέλος του ανθρώπου. Αντίθετα πιστεύω θα είναι το τέλος των δικαιολογιών του. Δεν θα μπορούμε πια να κρυβόμαστε πίσω από την άγνοια, γιατί η πληροφορία θα ρέει πλούσια και φθηνή.

Αυτό που θα κρίνει αν θα τα καταφέρουμε, είναι αυτό που έλειπε πάντα όταν οι κοινωνίες έχαναν τον δρόμο τους. Η φρόνηση. Και αυτή τη στιγμή, η παιδεία μας δεν την παράγει.

Άρα, για ακόμη μια φορά, εναποθέτουμε τις ελπίδες μας σε λίγους τρελούς και τολμηρούς. Σαν τον Σεμέλβαϊς που τον έκλεισαν σε ψυχιατρείο επειδή ζητούσε από τους γιατρούς να πλένουν τα χέρια τους. Σαν τον Norman Borlaug που έσωσε κοντά ένα δισεκατομμύριο ανθρώπους από τη λιμοκτονία και σχεδόν κανείς δεν ξέρει το όνομά του.

Αυτοί οι άνθρωποι είχαν ανιδιοτέλεια, γνήσιο νοιάξιμο για τον συνάνθρωπο και τη φρόνηση να δουν πέρα από τον στενό ορίζοντα της εποχής τους.