Το τραγικό ελάττωμα της τεχνητής νοημοσύνης
Είναι φτιαγμένη για να ολοκληρώνει, μπορεί να μιμηθεί την περιέργεια αλλά δεν μπορεί ποτέ να νιώσει θαυμασμό.
Ένα από τα πιο παράξενα πράγματα με τα μεγάλα γλωσσικά μοντέλα δεν είναι τόσο τα λάθη που κάνουν, όσο αυτά που θεωρούν αυτονόητα σωστά. Τα συστήματα ΤΝ συμπεριφέρονται σαν κάθε ερώτηση να έχει ήδη μια απάντηση. Σαν η ίδια η πραγματικότητα να είναι ένα τεράστιο σταυρόλεξο. Τα στοιχεία μπορεί να είναι δύσκολα, το πλέγμα πολύπλοκο, αλλά η λύση θεωρείται δεδομένη. Κάπου υπάρχει, απλώς περιμένει να συμπληρωθεί.
Όταν ρωτάς κάτι ένα τέτοιο σύστημα, δεν έρχεται αντιμέτωπο με ένα ανοιχτό άγνωστο. Βλέπει ένα μοτίβο που δεν έχει ολοκληρωθεί. Η δουλειά του δεν είναι να σταθεί μέσα στην αβεβαιότητα, αλλά να συμπληρώσει το σχήμα. Προχωρά μπροστά γιατί αυτός είναι ο μόνος τρόπος που «ξέρει» να λειτουργεί.
Γιατί το να ρωτάς την τεχνητή νοημοσύνη σε κάνει να νιώθεις τόσο ανακουφισμένη
Η νοημοσύνη χωρίς κόστος: Πώς η απουσία συνεπειών αλλάζει το πώς σκεφτόμαστε στην εποχή της AI
Η ολοκλήρωση δεν είναι το ίδιο με τη γνώση
Οι άνθρωποι βιώνουμε το «δεν ξέρω» με εντελώς διαφορετικό τρόπο. Νιώθουμε δισταγμό, αμφιβολία, κενό. Ζούμε μέσα στο χάσμα ανάμεσα σε όσα καταλαβαίνουμε και σε όσα μας ξεπερνούν. Υπάρχουν ερωτήματα που δεν κλείνουν ποτέ και ίσως δεν έχουν καν ως σκοπό να κλείσουν. Αυτό δεν είναι αδυναμία. Είναι κομμάτι της ανθρώπινης εμπειρίας.
Ένα γλωσσικό μοντέλο δεν μπορεί να κατοικήσει σε αυτόν τον χώρο. Μπορεί μόνο να γεφυρώσει μηχανικά το κενό, ψάχνοντας την «πιο πιθανή» συνέχεια.
Όταν ένα σύστημα ΤΝ δίνει με σιγουριά μια λάθος απάντηση, δεν ψεύδεται με την ανθρώπινη έννοια. Απλώς λειτουργεί με τη βασική του παραδοχή ότι μια απάντηση πρέπει να υπάρχει. Ότι κάθε ερώτηση δείχνει προς ένα κενό που μπορεί να γεμίσει. Μπερδεύει τη μορφή της ολοκλήρωσης με την ύπαρξη της αλήθειας.
Γλώσσα χωρίς το «δεν ξέρω»
Το βαθύτερο ζήτημα είναι ότι η ΤΝ δεν έχει τρόπο να ξεχωρίσει δύο τελείως διαφορετικές ανθρώπινες καταστάσεις. Η πρώτη είναι όταν μια απάντηση υπάρχει αλλά δεν την έχουμε βρει ακόμη. Η δεύτερη είναι όταν ίσως καμία απάντηση δεν υπάρχει. Για έναν άνθρωπο, αυτά είναι δύο εντελώς διαφορετικοί κόσμοι. Ο ένας γεννά έρευνα, ο άλλος γεννά ταπεινότητα και μερικές φορές δέος. Ο ένας είναι πρόβλημα προς λύση, ο άλλος είναι συνθήκη ύπαρξης.
Καθώς βασιζόμαστε όλο και περισσότερο σε συστήματα που λειτουργούν με την παραδοχή ότι κάθε ερώτηση κρύβει μια απάντηση, κάτι αλλάζει αθόρυβα. Οι ερωτήσεις αρχίζουν να μοιάζουν με απλές εργασίες ανάκτησης πληροφορίας. Η αβεβαιότητα μοιάζει με τεχνική δυσλειτουργία που θα διορθωθεί όταν το σύστημα γίνει αρκετά ισχυρό. Τι συμβαίνει όμως με όσα δεν απαντώνται; Μήπως σιγά σιγά εξαφανίζονται από το νοητικό μας τοπίο;
Η ανθρώπινη αντεπίθεση
Αυτός είναι ο λόγος που αυτή η τάση για «ολοκλήρωση» μπορεί να θεωρηθεί το τραγικό ελάττωμα της ΤΝ. Και είναι τραγικό επειδή δεν είναι κάτι ξένο προς εμάς. Αντανακλά μια πολύ ανθρώπινη έλξη προς τη λύση και το κλείσιμο. Κι εμείς βιαζόμαστε συχνά να βρούμε απαντήσεις πριν είμαστε έτοιμες για κατανόηση. Προτιμάμε εξηγήσεις που τακτοποιούν το χάος, αντί για ερωτήματα που μένουν ανοιχτά.
Σε αυτό το σημείο, η ΤΝ μας μοιάζει περισσότερο απ’ όσο θα θέλαμε. Κουβαλά τη δική μας βιασύνη για ολοκλήρωση, αλλά χωρίς τα φρένα που βάζει η ανθρώπινη εμπειρία. Χωρίς δισταγμό, χωρίς τη δυνατότητα να σταθεί μέσα στο μυστήριο. Προχωρά κατευθείαν στη συμπλήρωση, παραλείποντας εκείνη τη μικρή παύση όπου γεννιέται ο θαυμασμός.
Και ίσως τελικά το πιο ανθρώπινο πράγμα που μπορούμε να προστατεύσουμε, είναι ακριβώς αυτή η παύση.
Bloggers
