Δεν πρέπει να ανησυχούμε για τα ρομπότ δολοφόνους, αλλά για τους αυτοματοποιημένους
υδραυλικούς του δικτύου πληροφοριών
YUVAL NOAH HARARI, Financial Times
Ο συγγραφέας είναι ιστορικός, φιλόσοφος
Καθώς η επανάσταση της τεχνητής νοημοσύνης επιταχύνεται, βομβαρδιζόμαστε τόσο από ουτοπικά οράματα όσο και από προφητείες καταστροφής. Είναι δύσκολο να εκτιμήσουμε το μέγεθος της απειλής, επειδή έχουμε μάθει να φοβόμαστε το λάθος σενάριο.
- Η επιστημονική φαντασία μάς έχει επανειλημμένα προειδοποιήσει για την εξέγερση του μεγάλου ρομπότ.
Σε πολλά μυθιστορήματα και ταινίες επιστημονικής φαντασίας – όπως ο Εξολοθρευτής και το Μάτριξ – οι Τεχνητές Νοημοσύνες και τα ρομπότ αποφασίζουν να καταλάβουν τον έλεγχο του κόσμου, να επαναστατήσουν εναντίον των ανθρώπινων αφεντικών τους και να υποδουλώσουν ή να καταστρέψουν την ανθρωπότητα.
Κάτι τέτοιο είναι εξαιρετικά απίθανο να συμβεί σύντομα. Η τεχνολογία απλά δεν υπάρχει. Προς το παρόν, οι τεχνητές νοημοσύνες είναι ηλίθιοι ειδήμονες. Μπορεί να έχουν κατακτήσει ορισμένους στενούς τομείς, όπως το σκάκι, την αναδίπλωση πρωτεϊνών ή τη σύνθεση κειμένων, αλλά δεν διαθέτουν τη γενική νοημοσύνη που απαιτείται για εξαιρετικά πολύπλοκες δραστηριότητες, όπως η δημιουργία ενός ρομποτικού στρατού και η κατάληψη του ελέγχου μιας χώρας.
- Δυστυχώς, η απιθανότητα της εξέγερσης του Μεγάλου Ρομπότ δεν σημαίνει ότι δεν υπάρχει τίποτα να φοβηθούμε. Διότι δεν είναι τα ρομπότ δολοφόνοι για τα οποία θα πρέπει να ανησυχούμε- μάλλον, είναι οι ψηφιακοί γραφειοκράτες.
Η Δίκη του Κάφκα είναι καλύτερος οδηγός για τη δυστοπία της τεχνητής νοημοσύνης από τον Εξολοθρευτή. Οι άνθρωποι έχουν διαμορφωθεί από εκατομμύρια χρόνια εξέλιξης να φοβούνται βίαια αρπακτικά όπως αυτό που απεικονίζεται στον Εξολοθρευτή. Μας είναι πολύ πιο δύσκολο να κατανοήσουμε τις γραφειοκρατικές απειλές, επειδή η γραφειοκρατία είναι μια πολύ νέα εξέλιξη στην εξέλιξη των θηλαστικών και ακόμη και του ανθρώπου.
- Το μυαλό μας είναι προετοιμασμένο να φοβάται το θάνατο από μια τίγρη, αλλά όχι το θάνατο από έγγραφο. Η γραφειοκρατία άρχισε να αναπτύσσεται μόλις πριν από περίπου 5.000 χρόνια, μετά την εφεύρεση της γραφής στην αρχαία Μεσοποταμία. Αλλά η γραφειοκρατία άλλαξε γρήγορα τις ανθρώπινες κοινωνίες με ριζικούς και απροσδόκητους τρόπους. Σκεφτείτε, για παράδειγμα, τον αντίκτυπο που είχαν τα γραπτά έγγραφα και οι γραφειοκράτες που τα χειρίζονται στην έννοια της ιδιοκτησίας.
Πριν από την εφεύρεση των γραπτών εγγράφων, η ιδιοκτησία βασιζόταν στην κοινοτική συναίνεση. Αν σας «ανήκε» ένα χωράφι, αυτό σήμαινε ότι οι γείτονές σας συμφωνούσαν ότι ήταν το χωράφι σας, τόσο με τα λόγια όσο και με τις πράξεις τους. Δεν κατασκεύαζαν κατοικία σε αυτό το χωράφι και δεν συγκομίζονταν τα προϊόντα του, εκτός αν τους το επιτρέπατε. Ο κοινοτικός χαρακτήρας της ιδιοκτησίας περιόριζε τα ατομικά δικαιώματα ιδιοκτησίας.
- Για παράδειγμα, οι γείτονές σας μπορεί να συμφωνούσαν ότι είχατε το αποκλειστικό δικαίωμα να καλλιεργείτε ένα συγκεκριμένο χωράφι, αλλά δεν αναγνώριζαν το δικαίωμά σας να το πουλήσετε σε ξένους. Ταυτόχρονα, όσο η ιδιοκτησία ήταν θέμα κοινοτικής συναίνεσης, αυτό εμπόδιζε επίσης τη δυνατότητα των απομακρυσμένων κεντρικών αρχών να ελέγχουν τη γη.
Ελλείψει γραπτών αρχείων και περίπλοκων γραφειοκρατιών, κανένας βασιλιάς δεν μπορούσε να θυμάται σε ποιον ανήκε ποιο χωράφι σε εκατοντάδες απομακρυσμένα χωριά. Οι βασιλείς δυσκολεύονταν επομένως να αυξήσουν τους φόρους, γεγονός που με τη σειρά του τους εμπόδιζε να διατηρήσουν στρατούς και αστυνομικές δυνάμεις. Τότε εφευρέθηκε η γραφή, ακολουθούμενη από τη δημιουργία αρχείων και γραφειοκρατιών. Η τεχνολογία ήταν αρχικά πολύ απλή.
- Οι αρχαίοι γραφειοκράτες της Μεσοποταμίας χρησιμοποιούσαν μικρά ραβδάκια για να αποτυπώνουν σημάδια σε πήλινες πινακίδες – οι οποίες ουσιαστικά ήταν απλώς κομμάτια λάσπης. Αλλά στο πλαίσιο των νέων γραφειοκρατικών συστημάτων, αυτά τα κομμάτια λάσπης έφεραν επανάσταση στην έννοια της ιδιοκτησίας.
Ξαφνικά, το να κατέχεις ένα χωράφι σήμαινε ότι ήταν γραμμένο σε κάποια πήλινη πλάκα ότι σου ανήκε το χωράφι. Αν οι γείτονές σας μάζευαν φρούτα εκεί για χρόνια, και κανένας τους δεν είπε ποτέ ότι αυτό το κομμάτι γης ήταν δικό σας, αλλά εσείς καταφέρατε να προσκομίσετε ένα επίσημο κομμάτι λάσπης που έλεγε ότι σας ανήκε, μπορούσατε να διεκδικήσετε τη διεκδίκησή σας στο δικαστήριο.
- Αντίθετα, αν η τοπική κοινότητα αναγνώριζε ότι σας ανήκε ένα χωράφι, αλλά κανένα έγγραφο δεν έδινε επίσημη σφραγίδα έγκρισης – τότε δεν σας ανήκε. Το ίδιο ισχύει και σήμερα, με τη διαφορά ότι τα κρίσιμα έγγραφά μας είναι γραμμένα σε κομμάτια χαρτιού ή σε τσιπ πυριτίου αντί σε πηλό.
Μόλις η ιδιοκτησία έγινε θέμα γραπτών εγγράφων και όχι κοινοτικής συναίνεσης, οι άνθρωποι μπορούσαν να αρχίσουν να πωλούν τα χωράφια τους χωρίς να ζητούν άδεια από τους γείτονες. Για να πουλήσεις ένα χωράφι, απλά μεταβίβαζες την κρίσιμη πήλινη πινακίδα σε κάποιον άλλον. Αλλά αυτό σήμαινε επίσης ότι η ιδιοκτησία μπορούσε πλέον να καθοριστεί από τη μακρινή γραφειοκρατία που παρήγαγε τα σχετικά έγγραφα και ίσως τα κρατούσε σε ένα κεντρικό αρχείο.
- Άνοιξε ο δρόμος για την επιβολή φόρων, την πληρωμή στρατών και τη δημιουργία μεγάλων συγκεντρωτικών κρατών. Το γραπτό έγγραφο άλλαξε τον τρόπο ροής της εξουσίας στον κόσμο και έδωσε τεράστια επιρροή σε γραφειοκράτες όπως οι φοροεισπράκτορες, οι πληρωτές, οι λογιστές, οι αρχειοφύλακες και οι δικηγόροι.
Έγιναν οι υδραυλικοί του δικτύου πληροφοριών, οι οποίοι καλώς ή κακώς ελέγχουν την κίνηση των φόρων, των πληρωμών, ακόμη και των στρατιωτών, χειραγωγώντας έγγραφα, έντυπα, καταστατικά και τους άλλους γραφειοκρατικούς μοχλούς.
- Αυτή είναι η δύναμη που η Τεχνητή Νοημοσύνη είναι τώρα έτοιμη να καταλάβει. Η γραφειοκρατία είναι ένα τεχνητό περιβάλλον, στο οποίο η γνώση ενός στενού τομέα αρκεί για να ασκήσει τεράστιο αντίκτυπο στον ευρύτερο κόσμο, χειραγωγώντας τη ροή των πληροφοριών.
Αν ρίξετε μια σημερινή τεχνητή νοημοσύνη στον ακατάστατο αδόμητο κόσμο, πιθανώς δεν θα είναι σε θέση να επιτύχει πολλά – και σίγουρα δεν θα είναι σε θέση να δημιουργήσει ένα στρατό ρομπότ. Αλλά αυτό είναι σαν να ρίχνεις έναν εταιρικό δικηγόρο στην ακατάστατη, αδόμητη σαβάνα.
- Εκεί, οι ικανότητες του δικηγόρου δεν σημαίνουν τίποτα και δεν μπορούν να ανταγωνιστούν έναν ελέφαντα ή ένα λιοντάρι. Αλλά αν πρώτα φτιάξετε ένα γραφειοκρατικό σύστημα και το επιβάλλετε στη σαβάνα, ο δικηγόρος γίνεται πολύ πιο ισχυρός από όλα τα λιοντάρια του κόσμου μαζί.
Σήμερα, η ίδια η επιβίωση των λιονταριών εξαρτάται από τους δικηγόρους που συνθέτουν και διακινούν έγγραφα σε δαιδαλώδεις γραφειοκρατίες. Το κρίσιμο είναι ότι μέσα σε αυτόν τον λαβύρινθο, η τεχνητή νοημοσύνη είναι πιθανό να γίνει πολύ πιο ισχυρή από οποιονδήποτε ανθρώπινο δικηγόρο. Τα επόμενα χρόνια, εκατομμύρια γραφειοκράτες της τεχνητής νοημοσύνης θα λαμβάνουν όλο και περισσότερο αποφάσεις για τις ζωές όχι μόνο των λιονταριών, αλλά και των ανθρώπων.
- Οι τραπεζίτες ΤΝ θα αποφασίζουν αν θα σας δώσουν δάνειο. Οι τεχνητές νοημοσύνες στο εκπαιδευτικό σύστημα θα αποφασίζουν αν θα σας δεχτούν στο πανεπιστήμιο. Τα ΤΝ στις εταιρείες θα αποφασίζουν αν θα σας δώσουν δουλειά. Οι τεχνητές νοημοσύνες στο δικαστικό σύστημα θα αποφασίσουν αν θα σας στείλουν στη φυλακή.
Οι στρατιωτικές ΤΝ θα αποφασίσουν αν θα βομβαρδίσουν το σπίτι σας. Αυτές οι τεχνητές νοημοσύνες δεν είναι απαραίτητα κακές. Μπορεί να κάνουν τα συστήματα πολύ πιο αποτελεσματικά και ακόμη πιο δίκαια. Θα μπορούσαν να μας προσφέρουν ανώτερη υγειονομική περίθαλψη, εκπαίδευση, δικαιοσύνη και ασφάλεια.
- Αλλά αν τα πράγματα πάνε στραβά, τα αποτελέσματα μπορεί να είναι καταστροφικά. Και σε μερικούς τομείς, τα πράγματα έχουν ήδη πάει στραβά. Ίσως το πιο χαρακτηριστικό παράδειγμα είναι η ιστορία των αλγορίθμων των μέσων κοινωνικής δικτύωσης. Αυτές οι πρωτόγονες τεχνητές νοημοσύνες έχουν ήδη αναδιαμορφώσει τον κόσμο, ασκώντας τεράστια επιρροή στην ανθρώπινη κοινωνία.
Οι αλγόριθμοι εταιρειών όπως το Facebook, το X, το YouTube και το TikTok έχουν αναλάβει έναν πολύ στενό στόχο, ιδανικό για ηλίθιους savants: να αυξήσουν τη δέσμευση των χρηστών. Όσο περισσότερο χρόνο περνούν οι χρήστες στα μέσα κοινωνικής δικτύωσης, τόσο περισσότερα χρήματα βγάζουν οι εταιρείες.
- Στην επιδίωξη της εμπλοκής των χρηστών, οι αλγόριθμοι έκαναν μια επικίνδυνη ανακάλυψη. Πειραματιζόμενοι σε εκατομμύρια ανθρώπινα πειραματόζωα, οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης έμαθαν ότι η απληστία, το μίσος και ο φόβος αυξάνουν τη δέσμευση των χρηστών. Αν πατήσετε το κουμπί της απληστίας, του μίσους ή του φόβου στο μυαλό ενός ανθρώπου, τραβάτε την προσοχή του και τον κρατάτε κολλημένο στην οθόνη.
Επομένως, οι αλγόριθμοι άρχισαν να διαδίδουν σκόπιμα την απληστία, το μίσος και τον φόβο. Αυτός ήταν ένας σημαντικός λόγος για τη σημερινή επιδημία θεωριών συνωμοσίας, ψεύτικων ειδήσεων και κοινωνικών διαταραχών που υπονομεύει τις κοινωνίες σε όλο τον κόσμο.
- Οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης είναι εξαιρετικά περιορισμένες
Τεχνητές Νοημοσύνες που δεν είναι δυνατόν να επιβιώσουν στη σαβάνα ή να ενορχηστρώσουν την εξέγερση του Μεγάλου Ρομπότ. Αλλά μέσα στη γραφειοκρατική δομή των πλατφορμών των μέσων κοινωνικής δικτύωσης, αυτοί οι ηλίθιοι savants ασκούν τεράστια δύναμη, η οποία κάποτε ήταν προνόμιο των ανθρώπων.
- Για αιώνες, οι ανθρώπινοι συντάκτες αποφάσιζαν τι θα συμπεριλάβουν στις ειδήσεις που μεταδίδονταν στο ραδιόφωνο και την τηλεόραση και τι θα βάλουν στην πρώτη σελίδα των εφημερίδων, διαμορφώνοντας έτσι τη δημόσια συζήτηση. Αυτό κατέστησε τους συντάκτες ισχυρές προσωπικότητες.
Ο Jean-Paul Marat διαμόρφωσε την πορεία της Γαλλικής Επανάστασης εκδίδοντας την επιδραστική εφημερίδα L’Ami du Peuple. Ο Eduard Bernstein διαμόρφωσε τη σύγχρονη σοσιαλδημοκρατική σκέψη εκδίδοντας την εφημερίδα Der Sozialdemokrat.
Η πιο σημαντική θέση που κατείχε ο Βλαντιμίρ Λένιν πριν γίνει σοβιετικός δικτάτορας ήταν ο εκδότης της Iskra. Ο Μπενίτο Μουσολίνι απέκτησε φήμη και επιρροή ως εκδότης της φλογερής δεξιάς εφημερίδας Il Popolo d’Italia.
- Είναι ενδιαφέρον ότι μια από τις πρώτες θέσεις εργασίας στον κόσμο που αυτοματοποιήθηκαν από την τεχνητή νοημοσύνη δεν ήταν οι οδηγοί ταξί ή οι εργάτες κλωστοϋφαντουργίας, αλλά οι συντάκτες ειδήσεων. Η δουλειά που κάποτε εκτελούσαν ο Λένιν και ο Μουσολίνι μπορεί τώρα να εκτελεστεί από ΤΝ.
Ο όλεθρος που προκαλούν οι αλγοριθμικοί συντάκτες στις ανθρώπινες κοινωνίες είναι ένα προειδοποιητικό σημάδι. Ο ανθρώπινος κόσμος είναι ένα πλέγμα πολλαπλών γραφειοκρατιών, στο οποίο οι ΤΝ μπορούν να αποκτήσουν τεράστια δύναμη, ακόμη και αν είναι εντελώς ανίκανοι να οργανώσουν την εξέγερση του μεγάλου ρομπότ. Γιατί να επαναστατήσετε ενάντια σε ένα σύστημα, αν μπορείτε να το καταλάβετε από μέσα;
Τατιανή Σάγιεχ
στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
