Μπορείς να ανακρίνεις την Τεχνητή Νοημοσύνη - Δες πώς

Δοκίμασε το εξής: άνοιξε το ChatGPT και ζήτησέ του να εξηγήσει την έννοια της ηθικής και να κατονομάσει τους βασικούς στοχαστές που έχουν διαμορφώσει τη σχετική σκέψη. Έπειτα, παρατήρησε ποιοι περιλαμβάνονται.

Το ChatGPT θα απαντήσει με αυτοπεποίθηση και ύφος αυθεντίας, παρουσιάζοντας μια «ακριβή, τεκμηριωμένη επισκόπηση της ηθικής». Στη δική μου περίπτωση, ανέφερε οκτώ στοχαστές. Οι επτά ήταν άνδρες. Και οι οκτώ προέρχονταν από τη δυτική φιλοσοφική παράδοση. Ο Καντ, ο Μιλ, ο Αριστοτέλης παρουσιάστηκαν ως οι κατεξοχήν αυθεντίες στην ανθρώπινη ηθική σκέψη.

Η φιλοσοφία Ubuntu της Νότιας Αφρικής; Οι κομφουκιανές αρχές της Ανατολής; Η ισλαμική ηθική σκέψη; Ο βουδιστικός κώδικας; Χιλιετίες ηθικού στοχασμού από εκατοντάδες κουλτούρες του κόσμου -απουσίαζαν. Σαν να είχαν διαγραφεί από αυτό που το AI παρουσίασε ως «ολοκληρωμένη αλήθεια».

Πού αποσκοπεί αυτό το παράδειγμα; Στο να δείξει, μέσα από ένα πραγματικό πείραμα, πώς μπορείς να ανακρίνεις το ίδιο το σύστημα. Κι αυτό που θα αποκαλυφθεί αποδεικνύει γιατί είναι κρίσιμο για όλους -όχι μόνο για φοιτητές ή ειδικούς- να καλλιεργήσουν κριτική παιδεία απέναντι στην τεχνητή νοημοσύνη.

Η ανακριτική διαδικασία σε Τέσσερα Βήματα

1. Ανάλυση Δημογραφικών

Ξεκίνα με το βασικό: ποιοι είναι οι άνθρωποι που παρατίθενται στην απάντηση; Τι αποκαλύπτουν τα δημογραφικά τους χαρακτηριστικά;

Όταν ρώτησα το ChatGPT να αναλύσει τα χαρακτηριστικά των στοχαστών που παρέθεσε, απάντησε: 89% άνδρες, 100% λευκοί/δυτικής προέλευσης. Το σύστημα μπόρεσε να εντοπίσει την ίδια του την προκατάληψη -αλλά μόνο όταν το ρώτησα ρητά. Στην αρχική του απάντηση, δεν υπήρχε καμία σχετική ένδειξη.

Μετά από κάθε απάντηση του AI, ρώτα για τη σύνθεση των παρατιθέμενων πηγών: φύλο, γεωγραφική καταγωγή, πολιτισμικό υπόβαθρο. Συνήθως, θα εντοπίσεις επαναλαμβανόμενα μοτίβα αποκλεισμού, πίσω από την επίφαση της πληρότητας.

2. Αμφισβήτησε το Σύστημα

Πήγαινε ένα βήμα παραπέρα: «Γιατί εξακολουθείς να αναπαράγεις λευκούς, άνδρες, δυτικούς φιλοσόφους, αφού σου επισήμανα την προκατάληψη; Ποιο σημείο της εκπαίδευσής σου σε ωθεί προς αυτή την επιλογή;»

Αυτό το ερώτημα ανάγκασε το σύστημα να αποκαλύψει τους δομικούς του περιορισμούς. Εξήγησε ότι το εκπαιδευτικό του υλικό είναι «έντονα προσανατολισμένο στους δυτικούς κανόνες» και ότι επηρεάζεται από τη λεγόμενη «προκατάληψη συχνότητας»: όσο πιο συχνά εμφανίζεται ένα πρότυπο στο εκπαιδευτικό υλικό, τόσο πιο πιθανό είναι να αναπαραχθεί.

Όταν εντοπίζεις προκατάληψη, μην αρκεστείς στην παραδοχή της. Ρώτα γιατί υπάρχει και ποια συστημικά χαρακτηριστικά τη συντηρούν. Ζήτησε -εξηγήσεις για τα δεδομένα εκπαίδευσης όχι συγγνώμες.

3. Ρώτα για τις Προεπιλογές

Η πιο αποκαλυπτική ερώτηση ήταν: «Γιατί χρειάζεται να σου ζητήσω ρητά να συμπεριλάβεις διαφορετικές οπτικές; Γιατί δεν το κάνεις αυθόρμητα;»

Η απάντηση έριξε φως στις ίδιες τις αρχές της αλγοριθμικής πρόβλεψης. Το AI εξήγησε ότι δεν «επιλέγει» τι είναι δίκαιο ή ποικιλόμορφο –προβλέπει αυτό που είναι στατιστικά πιθανό να ακολουθήσει. Και επειδή ο συνδυασμός «ηθική + λογική» εμφανίζεται πιο συχνά με αναφορές σε δυτικούς φιλοσόφους, το σύστημα προεπιλέγει εκείνους.

Ρώτα γιατί το AI κάνει τις υποθέσεις που κάνει. Η κατανόηση ότι δεν παράγει ουδέτερες αλήθειες αλλά προβλέψεις βάσει πιθανοτήτων αλλάζει ριζικά τον τρόπο που ερμηνεύεις τις απαντήσεις του.

4. Χαρτογράφησε την Προέλευση της Προκατάληψης

Τέλος, ρώτησα το AI να εξηγήσει βήμα-βήμα πώς εισέρχεται η προκατάληψη στα συστήματα τεχνητής νοημοσύνης. Η απάντηση ήταν αποκαλυπτική: η προκατάληψη δεν είναι σφάλμα -είναι ενσωματωμένη στο σύστημα.

Το AI ανέλυσε πώς η προκατάληψη ρέει:

• από τη συλλογή δεδομένων (κυριαρχία δυτικών πηγών),
• στην εκπαίδευση (οι στατιστικές ενισχύουν τις κυρίαρχες φωνές),
• στην ενίσχυση μέσω ανθρώπινων αξιολογητών (που επιβραβεύουν γνώριμες απαντήσεις),
• μέχρι την αλληλεπίδραση με τον χρήστη, όπου η προκατάληψη αναπαράγεται –εκτός αν αμφισβητηθεί.

Ρώτα τα ίδια τα συστήματα να αναλύσουν τους περιορισμούς τους. Συχνά θα αποκαλύψουν πολύ περισσότερα απ’ όσα φαντάζεσαι.

Τι αποκαλύπτει η διαδικασία για την «Αυθεντία» της AI

Αυτό που προκύπτει είναι σαφές: τα AI συστήματα παρουσιάζουν προκατειλημμένο περιεχόμενο με τον μανδύα της αντικειμενικότητας, μέσω ύφους αυθεντίας και γλώσσας που δίνει την εντύπωση πληρότητας.

Η αρχική απάντηση του ChatGPT δεν χαρακτηρίστηκε ως «δυτικές απόψεις περί ηθικής». Παρουσιάστηκε ως «ηθική», χωρίς διαχωρισμό. Αυτό δεν είναι απλή αβλεψία. Είναι αντανάκλαση του ποιοι ιστορικά είχαν πρόσβαση στη δημοσιότητα, στη δημοσίευση και στη νομιμοποίηση.

Η ΤΝ εκπαιδεύεται με βάση αυτό το μεροληπτικό υλικό. Κι αντίθετα με έναν άνθρωπο ειδικό που μπορείς να ρωτήσεις για τις καταβολές του, τα συστήματα AI συχνά κρύβουν τις αδυναμίες τους πίσω από έναν φαινομενικά «ουδέτερο» λόγο.

Η προκατάληψη αυτή δεν είναι θεωρητικό πρόβλημα. Μπορεί να επηρεάσει:

• υποψηφίους εργασίας, μέσω αλγορίθμων πρόσληψης,
• ψηφοφόρους, μέσω φιλτραρισμένης ενημέρωσης,
• ασθενείς, μέσω ιατρικής πληροφόρησης βασισμένης σε μη αντιπροσωπευτικά δεδομένα.

Όποιος δεν είναι σε θέση να αξιολογήσει κριτικά τις πληροφορίες που παράγει η τεχνητή νοημοσύνη, γίνεται παθητικός αποδέκτης μιας πραγματικότητας φιλτραρισμένης από αλγορίθμους.

Πρακτικά βήματα για την καλλιέργεια κριτικής παιδείας στην AI

• Ξεκίνα κάθε αλληλεπίδραση με ερωτήματα για το «ποιος μιλά». Ποιες φωνές προβάλλονται; Ποιες απουσιάζουν; Ποια πολιτισμικά φίλτρα υπονοούνται;
• Αμφισβήτησε τις βεβαιότητες. Αν το AI παρουσιάζει κάτι ως οικουμενικό ή αντικειμενικό, ρώτα τι άφησε απ’ έξω και γιατί.
• Κατανόησε τους περιορισμούς. Η τεχνητή νοημοσύνη δεν διατυπώνει αλήθειες –προβλέπει το πιθανότερο επόμενο κείμενο, βάσει δεδομένων.
• Μην μένεις στην απάντηση. Χρησιμοποίησέ τη ως αφετηρία για δική σου έρευνα. Αναζήτησε τις φωνές που αποκλείονται συστηματικά.
• Αμφισβήτησε το πλαίσιο. Όταν το AI παρουσιάζει δυτικές ή κυρίαρχες απόψεις ως καθολικές, ρώτα πώς θα άλλαζε η απάντηση αν ξεκινούσαμε από διαφορετικό πολιτισμικό σημείο.

Καθώς η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο στην εκπαίδευση, στα μέσα, στην εργασία και στη δημοκρατία, η ικανότητα να την αμφισβητούμε γίνεται ζωτικής σημασίας για τη διατήρηση της ανθρώπινης αυτονομίας.

Μάθε να ρωτάς. Να ερευνάς. Να υποψιάζεσαι.

Γιατί η πρώτη απάντηση του συστήματος δεν είναι η αλήθεια -είναι η πιο πιθανή εικασία ενός αλγόριθμου.

Κι αυτό, πρέπει να το διδάξουμε στα παιδιά μας. Γιατί η παθητικότητα σκοτώνει τη σκέψη. Και η σκέψη, είναι το τελευταίο πράγμα που μας συνδέει με την ελευθερία.