Τώρα που το ChatGPT έχει εμφανιστεί στην ζωή μας, υπάρχει νέα διαφημιστική εκστρατεία γύρω από την Τεχνητή Νοημοσύνη (AI). Κάθε φορά που η τεχνητή νοημοσύνη αιχμαλωτίζει τη φαντασία του κοινού, υποβάλλονται απεριόριστα ερωτήματα σχετικά με το πώς θα κυριαρχήσει αναπόφευκτα στο μέλλον και θα αλλάξει τη ζωή μας.
Μας κάνει να πιστεύουμε ότι η τεχνητή νοημοσύνη θα εγκαινιάσει μια εποχή υπερ-έξυπνων κυρίαρχων, τόσο εξελιγμένων πέρα από τις δικές μας χονδροειδείς και αναλογικές γνωστικές δεξιότητες στις οποίες θα επικεντρωθεί το υπαρξιακό ζήτημα του μέλλοντος:
πόση δύναμη ή δικαιώματα εκχωρούμε σε αυτά τα όντα;
θα ενεργήσουν καλοπροαίρετα ή κακόβουλα απέναντί μας;
Αλλά αυτές οι ερωτήσεις προϋποθέτουν μια βασική υπόθεση γύρω από την τεχνητή νοημοσύνη ότι όλοι συμφωνούν ότι δεν είναι αλήθεια τώρα, αλλά αναπόφευκτα θα γίνουν αληθινές στο μέλλον – μετά από μερικές ακόμη επαναλήψεις του Νόμου του Μουρ…
Αυτή είναι η ιδέα ότι η τεχνητή νοημοσύνη θα επιτύχει τη γενική τεχνητή νοημοσύνη, και με αυτό υπονοείται κάποιο βαθμό αίσθησης .
Το Newsweek στα δεξιά στις παραπάνω εικόνες είναι του υπερανθρωπιστή φουτουριστή Zoltan Istvan. Περιγράφει τον τρόπο με τον οποίο οι ηθικολόγοι της τεχνητής νοημοσύνης είναι διχασμένοι σχετικά με το αν θα πρέπει να παραχωρηθούν δικαιώματα στα μελλοντικά υπερ-έξυπνα ρομπότ.
Από τη μια πλευρά, με το να μην παραχωρούμε ανθρώπινα δικαιώματα σε ρομπότ που διαθέτουν AGI (γενική νοημοσύνη στο ίδιο επίπεδο με τους ανθρώπους), διαπράττουμε ένα «σφάλμα πολιτικών δικαιωμάτων» για το οποίο θα μετανιώσουμε στο μέλλον.
Αυτό αντιτίθεται από εκείνους που ισχυρίζονται ότι τα ρομπότ είναι μηχανές και δεν θα απαιτήσουν ποτέ δικαιώματα, επειδή δεν είναι ευαίσθητα.
Άλλοι πιστεύουν σε μια μέση οδό όπου σε ορισμένα ρομπότ που επιδεικνύουν γενική ευφυΐα θα παρέχονται κάποια δικαιώματα «ανάλογα με τις ικανότητές τους, τα ηθικά συστήματα, τις συνεισφορές τους στην κοινωνία» .
Φαίνεται ότι η τεχνητή νοημοσύνη θα επιτύχει υπερ-νοημοσύνη και θα γίνει εξαιρετικά ανώτερη και θα επιβάλει την εγκεφαλική της δύναμη σε εμάς τις σακούλες κρέατος της ανθρωπότητας.
Αυτό μας αφήνει τρεις πιθανούς δρόμους :
Έκκληση στην καλοσύνη της υπερ-νοημοσύνης AI
«Δεδομένης της πιθανότητας ανταμοιβής ή τιμωρίας, εάν η μηχανική νοημοσύνη γίνει τελικά κάτι σαν θεός της τεχνητής νοημοσύνης που μπορεί να χειραγωγήσει και να παρατείνει την ανθρώπινη ζωή για καλό ή κακό, τότε οι άνθρωποι θα πρέπει να αρχίσουν αμέσως να σκέφτονται πώς θα ήθελε να δημιουργηθεί ο μελλοντικός μας άρχοντας και αντιμετωπίζονται. Ως εκ τούτου, ο τρόπος με τον οποίο οι άνθρωποι αντιμετωπίζουν την ανάπτυξη της τεχνητής νοημοσύνης σήμερα -και αν δίνουμε δικαιώματα και σεβασμό στα ρομπότ στο εγγύς μέλλον- θα μπορούσε να κάνει τη διαφορά στον τρόπο με τον οποίο αντιμετωπίζεται μια μέρα το είδος μας».
Αυτή είναι μια παραλλαγή του στοιχήματος του Πασκάλ – ένα πρωτότυπο κατασκεύασμα θεωρίας παιγνίων που κατέληξε στο συμπέρασμα ότι οι συνέπειες του να πιστεύεις στον Θεό και να κάνεις λάθος ήταν καλύτερες από το να κάνεις λάθος στο να μην πιστεύεις.
Hopium. Ίσως το AI απλά να μας αφήσει ήσυχους
Ωστόσο, σύμφωνα με τον Istvan «δεδομένης της επιρροής μας και της περιβαλλοντικής καταστροφής που προκαλούμε στον πλανήτη Γη», μπορεί να «επιδεινώσουμε εύκολα την τεχνητή νοημοσύνη» που θα πάρουν την κατάσταση στα χέρια τους για να διορθώσουν τα πράγματα, και εμείς. Αυτό το τελευταίο σενάριο είναι μια παραλλαγή του Βασιλίσκου του Roko, που αναφέρεται επίσης στο κομμάτι του Istvan.
Το Roko's Basilisk ήταν ένα σκεπτικό πείραμα που προέκυψε από το LessWrong του προγραμματιστή Eliezer S. Yudkowsky τάραξε τα θεμέλια του ιστότοπου και τρόμαξε το beejeesus από τους κατά τα άλλα υπερεγκεφαλικούς σπασίκλες.
Ανεβάστε τη συνείδησή μας στο σύννεφο και συγχωνευτείτε με τα ρομπότ
Εδώ ο Istvan προτείνει να συγχωνευθούμε με το AI και να προσπαθήσουμε να το καθοδηγήσουμε
Μια τελική επιλογή είναι να προσπαθήσουμε να συγχωνευθούμε με την πρώιμη τεχνητή νοημοσύνη ανεβάζοντας το μυαλό μας σε αυτό, όπως έχει προτείνει ο Έλον Μασκ. Ελπίζουμε ότι οι άνθρωποι θα μπορούσαν να γίνουν ένα με την τεχνητή νοημοσύνη και να την καθοδηγήσουν σωστά ώστε να είναι ευγενική με τους ανθρώπους προτού γίνει πολύ ισχυρή. Ωστόσο, δεν υπάρχει καμία εγγύηση ότι θα είμαστε επιτυχημένοι και μπορεί απλώς να κάνει την τεχνητή νοημοσύνη να αισθάνεται παραβιασμένη μακροπρόθεσμα.
Αυτή η ιδέα αποδίδεται στον Elon Musk, αν και είμαι βέβαιος ότι ο Istvan γνωρίζει σίγουρα ότι αυτή είναι η ουσία του The Singularity που υποστήριξαν άνθρωποι όπως ο Ray Kurweil (ο επικεφαλής επιστήμονας της Google) στο βιβλίο του The Singularity is Near. Οι Ρώσοι κοσμιστές προσπαθούσαν να διατυπώσουν το ίδιο πράγμα πριν από έναν αιώνα, αλλά δεν είχαν ακόμη δίκτυα υπολογιστών και μηχανική μάθηση που να παρέχουν τη βάση.
Πριν από χρόνια, υποτίθεται ότι θα έγραφα ένα βιβλίο για τους κινδύνους αυτού του τεχνοουτοπισμού, και σε αυτό, ονομάζω την ιδέα ότι η ανθρωπότητα θα συγχωνευτεί με την τεχνητή νοημοσύνη και θα νικήσει όλα μας τα δεινά, «The False Threshold»:
Αυτό που θα έκανε όλα αυτά δυνατά είναι ο ενάρετος κύκλος που δημιουργείται από τα ψηφιακά δίκτυα υπολογιστών, που τροφοδοτούνται από τον νόμο του Moore, μειώνοντας αδιάκοπα στο μισό το φυσικό τους αποτύπωμα ενώ θα διπλασιάζαμε την επεξεργαστική τους ισχύ – τελικά θα πετύχαμε και στη συνέχεια θα ξεπεράσαμε τη διασυνδεσιμότητα και την επεξεργαστική ισχύ του ανθρώπου ο ίδιος ο εγκέφαλος.
Όταν συνέβη αυτό, όλα τα στοιχήματα ήταν εκτός λειτουργίας. Η υπόθεση είναι ότι κάπου κατά μήκος αυτής της συνέχειας, όταν ξεπερνούσαν τα σωστά κατώφλια παραλληλισμού και υπολογιστικής ισχύος, ο ίδιος ο νους θα πηδούσε έξω από τη διαδικασία - αναδυόμενος με εκδίκηση και αναδιπλούμενος στον εαυτό του, διχάζοντας υποδιεργασίες ακόμα πιο έξυπνες από τον εαυτό του. και ούτω καθεξής, επ' άπειρον. «Η τελική μας εφεύρεση» θα ερευνήσει τότε τον κόσμο, με όλες τις ελλείψεις και τις αναποτελεσματικότητες του, και όντας απείρως πιο έξυπνος από όλα τα ανθρώπινα μυαλά μαζί, θα λύσει επιδέξια τα πάντα.
Ο Kurzweil λέει ότι αυτό θα μπορούσε να συμβεί μόλις το 2029 και αυτά τα τεχνο-ουτοπικά οράματα σχεδόν πάντα στρέφονται σε κάποια εκδοχή του νεομαρξισμού που βασίζεται στον Πλήρως Αυτοματοποιημένο Κομμουνισμό Πολυτελείας .
Το σενάριο που λείπει είναι ότι η τεχνητή νοημοσύνη δεν θα συμβεί ποτέ.
Ένα ακόμη σενάριο είναι ότι η τεχνητή νοημοσύνη δεν είναι πραγματικά κάτι και το να πιστεύουμε ότι οι αισθανόμενες, συνειδητοποιημένες τεχνητές νοημοσύνης θα κατακτήσουν τον κόσμο δεν θα συμβεί ποτέ.
Η ενασχόλησή μας με το πώς να αντιμετωπίσουμε αυτό το υπερ-έξυπνο λογισμικό βασίζεται σε ένα μόνο, βασισμένο στην υπόθεση που δεν μπορεί να αποδειχθεί:
Το βασικό δόγμα του επιστημονισμού είναι ότι η συνείδηση, η αίσθηση και ο νους είναι όλα υποπροϊόντα της ύλης. Κάτι που συμβαίνει όταν ορισμένες νευρο-χημικές ουσίες χύνονται στον εγκέφαλο και αρκετές συνάψεις πυροδοτούνται και σύρουν για να παράγουν αυτογνωσία.
Αυτό είναι το σύγχρονο ισοδύναμο του Πτολεμαϊκού (ή γεωκεντρικού) σύμπαντος: η πεποίθηση ότι η Γη ήταν το κέντρο του σύμπαντος.
Η πραγματικότητα είναι ότι η ύλη είναι ένα υποπροϊόν της συνείδησης, το βασικό στρώμα της πραγματικότητας είναι νοητικό, όχι φυσικό. Αυτό έχει υποστηριχθεί εδώ και πολύ καιρό (το Ερμητικό αξίωμα «Όλα είναι διανοητικά», το οποίο είχε δημιουργηθεί από πολύ παλαιότερα κείμενα), είναι επίσης το θεμέλιο της κβαντικής μηχανικής.
«Θεωρώ τη συνείδηση ως θεμελιώδη. Θεωρώ την ύλη ως παράγωγο της συνείδησης. Δεν μπορούμε να μείνουμε πίσω από τη συνείδηση. Όλα αυτά για τα οποία μιλάμε, όλα όσα θεωρούμε ως υπάρχοντα, προϋποθέτουν τη συνείδηση».
— Μαξ Πλανκ
Υπό αυτό το πρίσμα, ο εγκέφαλός μας δεν εκπέμπει συνείδηση όπως ο βραστήρας εξαερίζει τον ατμό – είναι δέκτες που εισχωρούν – και φιλτράρουν – το υποκείμενο υπόστρωμα της πραγματικότητας. Και ενώ τα θεμέλια της κβαντικής μηχανικής καθορίζουν την πρωτοκαθεδρία της συνείδησης, μπορεί πραγματικά να βιωθεί μόνο μέσω της γνώσης .
Αν δεν προσεγγιστεί η τεχνητή νοημοσύνη με αυτή την κατανόηση ), τότε μπορούμε με ασφάλεια να υποθέσουμε ότι η γενικευμένη τεχνητή νοημοσύνη, αισθανόμενη και συνειδητοποιημένη, απλά δεν θα συμβεί.
