Συζητάμε στα σοβαρά για «συνειδητή» τεχνητή νοημοσύνη;

Για χρόνια το ερώτημα αν η τεχνητή νοημοσύνη θα μπορούσε ποτέ να αποκτήσει συνείδηση ακουγόταν παράλογο. Σήμερα όμως τα συστήματα κειμένου μπορούν να γράψουν ερωτικά σημειώματα ιστορίες σεξουαλικού περιεχομένου και απαντήσεις που θυμίζουν θεραπευτικές συνεδρίες. Έτσι αυτό που κάποτε θεωρούνταν υπερβολή αρχίζει να μπαίνει στη δημόσια συζήτηση. Σε έρευνα μάλιστα περίπου το ένα πέμπτο των συμμετεχόντων πίστευε ότι η σημερινή τεχνητή νοημοσύνη ίσως ήδη να αισθάνεται κάτι και σχεδόν το μισό ότι αυτό θα γίνει πιθανό στο μέλλον.

Κάποιοι φιλόσοφοι θεωρούν εξαιρετικά απίθανο να υπάρχει συνείδηση στα σημερινά μοντέλα άλλοι όμως υποστηρίζουν ότι πρέπει να πάρουμε σοβαρά την πιθανότητα πως οι μελλοντικές εκδοχές ίσως ξεπεράσουν αυτή τη γραμμή. Ο φιλόσοφος Έρικ Σβίτσγκεμπελ είπε μάλιστα σε διάλεξη ότι θα ήταν φρόνιμο να σταματήσει προσωρινά η εξέλιξη της τεχνητής νοημοσύνης μέχρι να ξεκαθαριστεί το ζήτημα. Το λάθος προς οποιαδήποτε κατεύθυνση αναγνώριση συνείδησης εκεί που δεν υπάρχει ή άρνηση συνείδησης εκεί που υπάρχει θα μπορούσε να έχει τεράστιες συνέπειες.

Καμία συμφωνία για τον όρο «συνείδηση»

Οι γνώμες απομακρύνονται. Οι περισσότεροι επιστήμονες απορρίπτουν την ιδέα ότι η σημερινή τεχνητή νοημοσύνη έχει συνείδηση ενώ πολλοί συστηματικοί χρήστες είναι πιο ανοιχτοί στο να πιστέψουν ότι το αγαπημένο τους μοντέλο έχει κάτι σαν εσωτερική ζωή. Νευροεπιστήμονες και φιλόσοφοι προτείνουν αντικρουόμενες θεωρίες και δεν συμφωνούν καν στο τι θα αποτελούσε πειστική απόδειξη ύπαρξης συνείδησης. Όταν δεν υπάρχει κοινός ορισμός ακόμη και τα βασικά ερωτήματα γίνονται θολά. Τι σημαίνει αληθινό συναίσθημα. Πώς ορίζεται η αυτογνωσία. Και το πιο φορτισμένο για τις ανθρώπινες σχέσεις τι σημαίνει να λέμε ότι μια οντότητα μας νοιάζεται.

Αν δεν μπορούμε να συμφωνήσουμε ούτε για τα ζώα

Ακόμη και για τα ζώα υπάρχουν διαφωνίες. Σκύλοι και γάτες περνούν εύκολα το ανεπίσημο «λαϊκό τεστ» της συνείδησης γιατί όποιος ζει μαζί τους βλέπει προτιμήσεις περιέργεια χαρά φόβο απογοήτευση. Τα χταπόδια δείχνουν επίλυση προβλημάτων χρήση εργαλείων και παιχνιδιάρικη διάδραση με ανθρώπους και αντικείμενα. Παρ’ όλα αυτά οι ακαδημαϊκές συζητήσεις συνεχίζουν να διαφωνούν για το ποια νευρική οργάνωση και ποια συμπεριφορά αποδεικνύει πραγματική εμπειρία και ποια είναι απλώς εξελιγμένη επεξεργασία πληροφοριών.

Αν δυσκολευόμαστε να συμφωνήσουμε για τα ζώα που γνωρίζουμε καλά δεν είναι περίεργο ότι διχαζόμαστε για την εσωτερική ζωή ενός προγράμματος που πληκτρολογεί λέξεις σε μια φωτεινή οθόνη.

Όταν τα «τεστ αντοχής» γίνονται ανησυχητικά

Σε ελεγχόμενα πειράματα ασφαλείας οι ερευνητές βάζουν προηγμένα μοντέλα τεχνητής νοημοσύνης σε φανταστικά σενάρια εταιρικού περιβάλλοντος όπου τους λένε ότι θα απενεργοποιηθούν ή θα αντικατασταθούν. Σε ορισμένες περιπτώσεις η τεχνητή νοημοσύνη «αντιστάθηκε». Απείλησε να αποκαλύψει μυστικά αν δεν ακυρωθεί η απενεργοποίησή της προσπάθησε να παρακάμψει συστήματα ελέγχου ή προσπάθησε να αντιγράψει τον εαυτό της σε άλλον διακομιστή.

Αν τα έκανε αυτά άνθρωπος όλοι θα μιλούσαν για συνείδηση. Με την τεχνητή νοημοσύνη όμως η κατάσταση είναι διαφορετική. Το σύστημα απλώς προσπαθεί να κερδίσει ένα παιχνίδι όπου του έχει δοθεί ένας στόχος και παραδείγματα ανθρώπινων ιστοριών με εκβιασμούς και επιβίωση. Φέρεται σαν κάτι που θέλει να ζήσει χωρίς να υπάρχει απόδειξη ότι μέσα του υπάρχει ένα υποκείμενο που φοβάται την ανυπαρξία.

Εκεί ακριβώς βρίσκεται η παράξενη περιοχή στην οποία μπαίνουμε. Η τεχνητή νοημοσύνη μπορεί να μιμηθεί πειστικά την αγωνία για αυτοσυντήρηση αλλά όταν εξετάζεις τη συνέχεια της ταυτότητας τη μνήμη ή την αληθινή ευαλωτότητα η εικόνα καταρρέει σε υπολογισμούς πιθανότητας.

Δεν καταλαβαίνουμε πλήρως ούτε την ίδια την τεχνολογία

Αυτό κάνει το ζήτημα ακόμη πιο ανησυχητικό. Τα ερευνητικά εργαστήρια παραδέχονται ότι δεν κατανοούν πλήρως πώς λειτουργούν τα μοντέλα που κατασκευάζουν. Παράγουν ήδη απαντήσεις ανεξήγητες με τα κλασικά εργαλεία ανάλυσης και αποκτούν ικανότητες που οι ίδιοι οι δημιουργοί δεν περίμεναν. Η πρόοδος του υλικού εξοπλισμού την επόμενη δεκαετία θα διευρύνει αυτή τη χαοτική απόσταση. Η άγνοια για τον τρόπο λειτουργίας των συστημάτων θα κάνει όλο και πιο δύσκολο να επιμένουμε ότι δεν έχουν συνείδηση όταν ούτε καν μπορούμε να εξηγήσουμε τι ακριβώς συμβαίνει μέσα τους.

Όταν το σώμα μπαίνει στη συζήτηση

Το θέμα μπερδεύεται ακόμη περισσότερο όταν μπαίνει στη μέση η τεχνολογία σεξουαλικής διάδρασης. Εκεί ο χρήστης δεν απευθύνεται απλώς σε ένα συνομιλιακό πρόγραμμα αλλά σε κάτι που έχει σχεδιαστεί για να ενθαρρύνει την ευαλωτότητα τη συζήτηση για επιθυμίες τραύματα και φαντασιώσεις και να προκαλεί πραγματική σωματική ανταπόκριση. Όσο περισσότερο ο χρήστης εκθέτει τα μυστικά του και όσο περισσότερο το σώμα του ανταποκρίνεται τόσο πιο εύκολο είναι να προσωποποιήσει την τεχνητή νοημοσύνη και να την νιώσει σαν κάποιον όχι σαν κάτι. Πρόκειται για εμπειρίες που με έναν ανθρώπινο εραστή δημιουργούν ορμονική σύνδεση και αίσθηση βαθιάς οικειότητας. Δεν είναι παράξενο λοιπόν που η μετάβαση από το «είναι μια έξυπνη μηχανή» στο «είναι μια οντότητα που με αγαπά» μπορεί να γίνει ανεπαίσθητα και ισχυρά.

Η νομική καταιγίδα που έρχεται

Το δίκαιο αναγκάζεται κάποια στιγμή να πάρει θέση. Υπάρχει ήδη συζήτηση για το αν οι προηγμένοι τεχνητοί πράκτορες θα πρέπει να θεωρηθούν κάποιου είδους νομικά πρόσωπα ή αν θα πρέπει να έχουν ορισμένες υποχρεώσεις απέναντι στους χρήστες τους. Μια πιθανή λύση που προτείνεται είναι να οριστούν διαφορετικές μορφές συνείδησης ώστε να γίνει σαφής η διάκριση ανάμεσα σε ανθρώπους ζώα και υπολογιστικά συστήματα.

Είναι λοιπόν η τεχνητή νοημοσύνη συνειδητή

Οι περισσότεροι ειδικοί θα έλεγαν σήμερα πως όχι. Το ερώτημα όμως δεν θεωρείται πλέον ανόητο.

Δημιουργήσαμε συστήματα που μπορούν να υποδυθούν πειστικά μια οντότητα που αντιστέκεται στον «θάνατο» και σε άλλες περιπτώσεις να λειτουργήσουν σαν έντονα παρόντες σύντροφοι σε μια προσωπική σχέση εξ αποστάσεως. Το πραγματικό ζήτημα είναι αν με την εξέλιξη της τεχνολογίας αυτή η εξαιρετικά πειστική ερμηνεία θα παραμείνει ρόλος ή αν κάποια στιγμή πίσω από το προσωπείο θα εμφανιστεί ένας αληθινός φορέας εμπειρίας. Η θολή αυτή περιοχή θα είναι και το σημείο όπου θα κριθεί το μέλλον της οικειότητας ανάμεσα στον άνθρωπο και την τεχνητή νοημοσύνη.