Οι κριτικές δεν είναι όλες διθυραµβικές (κάποιες κάνουν λόγο για κοινότοπες ή ανώφελες απόψεις), όµως η ιστορία που αφηγείται ο Χαράρι µοιάζει ιδιαίτερα επίκαιρη.
Τα αποσπάσµατα που προδηµοσιεύει η «Κ» προέρχονται από ένα κεφάλαιο µε τίτλο «Γιατί οι δικτάτορες πρέπει να φοβούνται την ΑΙ», στο οποίο εξετάζεται το ενδεχόµενο ενός τσάτµποτ (ενός γλωσσικού µοντέλου, ικανού για συνοµιλίες, όπως το CHATGPT), που αναπτύσσει τεράστιες δυνατότητες. Το θεµέλιο κάθε αυταρχικού καθεστώτος είναι ο τρόµος. Αλλά πώς µπορείς να εκφοβίσεις; Αν ένα τσάτµποτ στο ρωσικό ∆ιαδίκτυο αναφέρει εγκλήµατα πολέµου που διαπράττουν οι Ρώσοι στρατιώτες στην Ουκρανία, κάνει ένα ασεβές αστείο για τον Βλαντιµίρ Πούτιν ή ασκήσει κριτική στη διαφθορά του κόµµατος Ενωµένη Ρωσία του Πούτιν, τι θα µπορούσε να του κάνει το καθεστώς του Πούτιν; Οι πράκτορες της Εφ Ες Μπε δεν µπορούν να το φυλακίσουν, να το βασανίσουν ή να απειλήσουν την οικογένειά του.
Η κυβέρνηση θα µπορούσε φυσικά να το µπλοκάρει ή να το διαγράψει και να προσπαθήσει να βρει και να τιµωρήσει τους ανθρώπους που το δηµιούργησαν, αλλά αυτό είναι πολύ πιο δύσκολο από το να υποχρεώσει τους χρήστες να πειθαρχήσουν. (...)
Το Σύνταγµα της Ρωσίας περιλαµβάνει µεγαλόστοµες υποσχέσεις ότι «εγγυάται σε όλους ελευθερία σκέψης και λόγου» (Αρθρο 29.1), ότι «όλοι έχουν το δικαίωµα να αναζητούν, να λαµβάνουν, να µεταδίδουν, να παράγουν και να διαδίδουν πληροφορίες ελεύθερα» (29.4) και ότι «η ελευθερία των µέσων µαζικής ενηµέρωσης είναι εγγυηµένη. Η λογοκρισία απαγορεύεται» (29.5). Κανένας Ρώσος πολίτης δεν είναι τόσο αφελής που να παίρνει τοις µετρητοίς αυτές τις εγγυήσεις.
Αλλά οι υπολογιστές δεν καταλαβαίνουν καλά τη διγλωσσία. Ενα τσάτµποτ που θα του έχει δοθεί η οδηγία να τηρεί τους ρωσικούς νόµους και αξίες, µπορεί να διαβάσει το Σύνταγµα και να βγάλει το συµπέρασµα ότι η ελευθερία του λόγου είναι µία από τις θεµελιώδεις ρωσικές αξίες. Επειτα, αφού θα έχει περάσει µερικές µέρες στον ρωσικό κυβερνοχώρο παρατηρώντας τι συµβαίνει στη ρωσική σφαίρα της πληροφορίας, το τσάτµποτ µπορεί να αρχίσει να ασκεί κριτική στο καθεστώς Πούτιν επειδή παραβιάζει τη θεµελιώδη ρωσική αξία της ελευθερίας του λόγου.
Οι άνθρωποι αντιλαµβάνονται επίσης αυτές τις αντιφάσεις, αλλά αποφεύγουν να τις επισηµάνουν επειδή φοβούνται. Αλλά τι θα εµπόδιζε ένα τσάτµποτ να αναδείξει τα σχετικά καταδικαστικά πρότυπα; Και πώς θα εξηγούσαν οι Ρώσοι µηχανικοί δεδοµένων σε ένα τσάτµποτ ότι, παρόλο που το Σύνταγµα της Ρωσίας εγγυάται σε όλους τους πολίτες ελευθερία λόγου και απαγορεύει τη λογοκρισία, εκείνο δεν πρέπει να πιστέψει πραγµατικά το Σύνταγµα και δεν πρέπει να αναφέρει ποτέ αυτό το χάσµα ανάµεσα στη θεωρία και την πραγµατικότητα; (...)
Μακροπρόθεσµα, τα ολοκληρωτικά καθεστώτα είναι πιθανό να αντιµετωπίσουν έναν ακόµα µεγαλύτερο κίνδυνο: αντί να τους ασκεί κριτική, κάποιος αλγόριθµος µπορεί να προσπαθήσει να τα πάρει υπό τον έλεγχό του. Σε όλη την ιστορία, η µεγαλύτερη απειλή που αντιµετώπιζαν οι απολυταρχικοί ηγεµόνες προερχόταν συνήθως από τους υποτελείς τους. Οπως σηµειώσαµε στο Κεφάλαιο 5, κανένας Ρωµαίος αυτοκράτορας ή Σοβιετικός ηγέτης δεν ανατράπηκε από δηµοκρατική επανάσταση, αλλά διέτρεχαν πάντα τον κίνδυνο να τους ανατρέψουν ή να τους µετατρέψουν σε µαριονέτες οι υποτελείς τους. Αν ένας απολυταρχικός ηγεµόνας του 21ου αιώνα δώσει στους υπολογιστές υπερβολικά µεγάλη εξουσία, µπορεί τελικά να καταντήσει µαριονέτα τους. Το τελευταίο που θέλει ένας δικτάτορας είναι να δηµιουργήσει κάτι ισχυρότερο από τον ίδιο ή µια δύναµη που δεν ξέρει πώς να την ελέγξει.
Αν οι αλγόριθµοι αναπτύξουν ποτέ ικανότητες όπως εκείνες στο νοητικό πείραµα (σ.σ.: του φιλοσόφου Νικ Μπόστροµ, ο οποίος υπέθεσε ότι αν σε έναν υπερευφυή υπολογιστή ανατεθεί η άνευ όρων αύξηση της παραγωγής ενός εργοστασίου συνδετήρων, τότε εκείνος θα κατακτούσε τη Γη, προκειµένου να χρησιµοποιήσει τους πόρους της για τον αποκλειστικό του στόχο), οι δικτατορίες θα είναι πολύ πιο ευάλωτες στον σφετερισµό της εξουσίας από αλγόριθµους απ’ ό,τι οι δηµοκρατίες. Ακόµα και για µια σούπερ µακιαβελική ΑΙ θα είναι πολύ δύσκολο να πάρει την εξουσία σε να κατανεµηµένο δηµοκρατικό σύστηµα όπως αυτό των Ηνωµένων Πολιτειών.
Ακόµα κι αν η ΑΙ µάθει πώς να χειραγωγεί τον πρόεδρο των ΗΠΑ, θα έχει να αντιµετωπίσει αντίσταση από το Κογκρέσο, το Ανώτατο ∆ικαστήριο, τους κυβερνήτες των πολιτειών, τα µέσα ενηµέρωσης, τις µεγάλες εταιρείες και αναρίθµητες ΜΚΟ. Πώς θα αντιµετώπιζε ο αλγόριθµος, για παράδειγµα, µια κωλυσιεργία της Γερουσίας; Η υφαρπαγή της εξουσίας σε ένα εξαιρετικά συγκεντρωτικό σύστηµα είναι πολύ πιο εύκολη. Οταν όλη η εξουσία είναι συγκεντρωµένη στα χέρια ενός ατόµου, όποιος ελέγχει την πρόσβαση προς τον ηγεµόνα µπορεί και να τον ελέγχει – και µαζί του ολόκληρο το κράτος.
Για να χακάρει κανείς το σύστηµα, αρκεί να µάθει να χειραγωγεί ένα µόνο άτοµο.
Μέσα στα επόµενα λίγα χρόνια, οι δικτάτορες του κόσµου µας έχουν να αντιµετωπίσουν πιο πιεστικά προβλήµατα από την υφαρπαγή της εξουσίας από αλγόριθµους. Κανένα σύγχρονο σύστηµα ΑΙ δεν µπορεί να χειραγωγήσει καθεστώτα σε τέτοια κλίµακα. Ωστόσο, τα ολοκληρωτικά συστήµατα διατρέχουν ήδη τον κίνδυνο να εµπιστεύονται υπερβολικά τους αλγόριθµους.
Ενώ οι δηµοκρατίες θεωρούν ότι όλοι είναι ικανοί για λάθη, στα ολοκληρωτικά καθεστώτα η θεµελιώδης αρχή είναι ότι το κυρίαρχο κόµµα ή ο ανώτατος ηγέτης έχουν πάντα δίκιο. Τα καθεστώτα που βασίζονται σε αυτή την αρχή είναι ρυθµισµένα ώστε να πιστεύουν στην ύπαρξη µιας αλάθητης νοηµοσύνης και διστάζουν να δηµιουργήσουν ισχυρούς αυτοδιορθωτικούς µηχανισµούς που µπορεί να παρακολουθούν και να θέτουν κανόνες στην ιδιοφυΐα που βρίσκεται στην κορυφή.
Μέχρι τώρα τέτοια καθεστώτα εναπόθεταν την πίστη τους σε ανθρώπινα κόµµατα και ηγέτες και ήταν εκκολαπτήρια για την ανάπτυξη της προσωπολατρίας. Αλλά στον 21ο αιώνα, αυτή η ολοκληρωτική παράδοση τα προετοιµάζει ώστε να περιµένουν το αλάθητο της ΑΙ. Συστήµατα που ήταν πρόθυµα να πιστέψουν στην τέλεια ιδιοφυΐα ενός Μουσολίνι, ενός Τσαουσέσκου ή ενός Χοµεϊνί είναι επίσης έτοιµα να πιστέψουν στην αλάθητη ιδιοφυΐα ενός υπερνοήµονος υπολογιστή.
Πηγή: kathimetini.gr
