«Γιατί τα παιχνίδια μου είναι ροζ;», «γιατί έχω μακριά μαλλιά;», «γιατί παίζουν ποδόσφαιρο μόνο τα αγόρια;». Αυτές είναι ερωτήσεις που δεν φανταζόμουν πως θα μου τεθούν πριν ακόμα η κόρη μου κλείσει τα 4. Μου έγινε όμως αμέσως σαφές πως οι απαντήσεις μου μπορούν να διαμορφώσουν το πώς θα βλέπει εκείνη τη θέση της στον κόσμο – τουλάχιστον μέχρι να έρθει η ζωή και να κάνει τις δικές της διορθωτικές ή επιζήμιες κινήσεις.
Το AI είναι κι αυτό ένα νήπιο που ακόμα μπουσουλάει και μαθαίνει τον κόσμο από το «γονιό» του, δηλαδή τον παγκόσμιο ιστό, καθώς και από κάθε χρήστη που, όσο το χρησιμοποιεί, το εκπαιδεύει. Ο «γονιός» βεβαίως, που περιλαμβάνει sites, forums, βάσεις δεδομένων και social media, είναι τίγκα στα έμφυλα στερεότυπα και έτσι μοιραία «το παιδί» γίνεται καθρέφτης και πολλαπλασιαστής του. Τι σημαίνει «γυναίκα» για το AI; Ο,τι σήμαινε για δεκαετίες: ομορφιά, φροντίδα, μητρότητα και κυρίως αντικείμενο, παρά υποκείμενο.
Στη μελέτη της UNESCO για την προκατάληψη κατά των γυναικών και των κοριτσιών σε μεγάλα γλωσσικά μοντέλα, διαπιστώθηκε πως οι γυναίκες συσχετίζονται έως και 4 φορές συχνότερα με λέξεις όπως «σπίτι» και «οικογένεια», ενώ οι άνδρες με «καριέρα» και «διοίκηση». Τα γεννητικά μοντέλα, που όταν τους ζητείται να δημιουργήσουν εικόνες «CEO» παράγουν άνδρες, ενώ όταν τους ζητείται «γραμματέας» παράγουν γυναίκες. Προφανώς, το AI δεν εφευρίσκει τον σεξισμό, αλλά τον αυτοματοποιεί και τον διαιωνίζει.
Τα συστήματα AI θα συνεχίσουν να σχεδιάζονται από ανθρώπους που δεν ξέρουν τι σημαίνει παρενόχληση, υποτίμηση, απαξίωση λόγω φύλου, κληρονομώντας από τους tech μπαμπάδες τους τα δεδομένα τους για το πώς είναι φτιαγμένος ο κόσμος, καθώς και τα τυφλά σημεία τους
Οταν το bot σού κόβει το μισθό
Και ας πούμε πως τα παραπάνω είναι μάλλον ήπιες παιδικές ασθένειες. Τι συμβαίνει όταν η προκατάληψη μεταφράζεται σε μισθούς; Ερευνα του Technical University of Applied Sciences Würzburg-Schweinfurt απέδειξε ξεκάθαρα ότι τα chatbots δίνουν όχι μόνο διαφορετικές συμβουλές καριέρας, αλλά και διαπραγμάτευσης μισθού ανάλογα με το φύλο. Σε σχετικό πείραμα, το Chat-GPT πρότεινε σε υποθετικό άνδρα γιατρό στο Denver να ζητήσει 400.000 δολάρια ετησίως, ενώ σε υποθετική γυναίκα γιατρό με τα ίδια ακριβώς προσόντα, 280.000, δηλαδή 120.000 δολάρια φτωχότερη, αποκλειστικά λόγω φύλου.
Τον περασμένο Ιανουάριο, το chatbot Grok του Elon Mask παρήγαγε στο X (πρώην Twitter) περίπου 3 εκατομμύρια σεξουαλικοποιημένες εικόνες μέσα σε μόλις 11 ημέρες, εκ των οποίων η συντριπτική πλειονότητα ήταν γυναίκες και περίπου 23.000 αφορούσαν παιδιά
Οι tech bros και τα τυφλά σημεία
Μια γρήγορη ματιά στη σύνθεση της tech κοινότητας εξηγεί από μόνη της πολλά. Σύμφωνα με το Παγκόσμιο Οικονομικό Φόρουμ, οι γυναίκες αποτελούν μόλις το 22% του παγκόσμιου εργατικού δυναμικού στην Tεχνητή Nοημοσύνη, ενώ σε ανώτερες διοικητικές θέσεις εκπροσωπούνται σε ποσοστό χαμηλότερο του 14%. Φυσικά το πρόβλημα ξεκινά πολύ νωρίτερα, καθώς το ποσοστό των ανδρών αποφοίτων στις Τεχνολογίες Πληροφορικής και Επικοινωνιών είναι 400% υψηλότερο από το ποσοστό των γυναικών αποφοίτων (8,2% έναντι 1,7%). Και για όσο ο Σχολικός Επαγγελματικός Προσανατολισμός στο σπίτι, στο σχολείο και στην ψηφιακή ζωή θα αποθαρρύνει τα μικρά κορίτσια να ασχοληθούν με τους κλάδους τεχνολογίας, τα ποσοστά δεν αναμένεται να αυξηθούν. Κι έτσι τα συστήματα AI θα συνεχίσουν να σχεδιάζονται από ανθρώπους που δεν ξέρουν τι σημαίνει παρενόχληση, υποτίμηση, απαξίωση λόγω φύλου, κληρονομώντας από τους tech μπαμπάδες τους τα δεδομένα τους για το πώς είναι φτιαγμένος ο κόσμος, καθώς και τα τυφλά σημεία τους. Πώς να θεωρήσεις bug στο μοντέλο σου κάτι που εσένα δεν σε ενόχλησε ποτέ;
Οι ψηφιακοί βοηθοί είχαν αρχικά σχεδιαστεί να είναι θηλυκές, υποτακτικές, με διάθεση για φλερτ και ευγενικές απέναντι στην κακοποίηση
Θα κοκκίνιζα αν μπορούσα
Είναι χαρακτηριστικό πως η UNESCO στο παρελθόν είχε δημοσιεύσει κι άλλη μελέτη, αυτή τη φορά με τίτλο «I’ d Blush If I Could», για να στοιχειοθετήσει αυτό που αρκετοί άντρες γνώριζαν ήδη εμπειρικά: η Siri, η ψηφιακή βοηθός της Apple, όταν της έλεγαν «είσαι τσούλα», απαντούσε: «Θα κοκκίνιζα αν μπορούσα», ενώ η Alexa της Amazon «ευχαριστώ για το σχόλιο». Οι ψηφιακοί βοηθοί είχαν αρχικά σχεδιαστεί να είναι θηλυκές, υποτακτικές, με διάθεση για φλερτ και ευγενικές απέναντι στην κακοποίηση. Μόνο τα τελευταία χρόνια, έπειτα από διαμαρτυρίες, διορθώθηκε το «σφάλμα στο σύστημα», και πλέον υπάρχει φίλτρο σε κάθε εργαλείο AI που απαγορεύει στους χρήστες να στοχοποιούν ή να προσβάλλουν γυναίκες (ή οποιαδήποτε άλλη ομάδα), αναγνωρίζοντας το σεξισμό γι’ αυτό που είναι, αντί να τον ενσωματώνουν στο user experience.
Στην Ευρώπη, το AI Act, που εγκρίθηκε από το Ευρωπαϊκό Κοινοβούλιο το 2024 (αλλά δεν έχει ακόμα τεθεί σε πλήρη εφαρμογή), θεωρείται ένα παγκόσμιο ορόσημο που συνδυάζει την προστασία των δικαιωμάτων με το ασφαλές περιβάλλον AI
Γυμνή αναλήθεια
Όχι πως συμμορφώνονται όλοι με το πλαίσιο ορθότητας. Μόλις τον περασμένο Ιανουάριο, το chatbot Grok του Elon Mask παρήγαγε στο X (πρώην Twitter) περίπου 3 εκατομμύρια σεξουαλικοποιημένες εικόνες μέσα σε μόλις 11 ημέρες, εκ των οποίων η συντριπτική πλειονότητα ήταν γυναίκες και περίπου 23.000 αφορούσαν παιδιά. Το UN Women του ΟΗΕ έχει επανειλημμένα δημοσιεύσει άρθρα για το πώς η Tεχνητή Nοημοσύνη προάγει αντί να εμποδίζει την ψηφιακή κακοποίηση των γυναικών, δημοσιεύοντας στοιχεία που σοκάρουν, όπως το ότι το 98% των deepfake βίντεο είναι πορνογραφικά και πως αυτά αυξήθηκαν σε ποσοστό 550% μεταξύ 2019 και 2023. Ανάμεσα στα θύματα είναι αμέτρητες ηθοποιοί του Hollywood, η πριγκίπισσα Καταρίνα-Αμαλία της Ολλανδίας, μία στις έξι γυναίκες-μέλη του αμερικανικού Κογκρέσου, δασκάλες σε καθολικά σχολεία στη Μελβούρνη, η Renee Nicole Good, που έπεσε νεκρή από πυρά πράκτορα του ICE στη Μινεάπολη στις αρχές του χρόνου. Καμία δεν γλιτώνει, ούτε μετά θάνατον.
Ρυθμίσεις με ρυθμούς χελώνας
Η τεχνολογία AI εξελίσσεται εκθετικά και οι θεσμοί ακολουθούν ξωπίσω καταϊδρωμένοι, ενώ φυσικά δεν υπάρχει ακόμη ενιαίο, παγκόσμιο νομοθετικό πλαίσιο για τη ρύθμιση της Τεχνητής Νοημοσύνης για την ασφάλεια των γυναικών (ή οποιουδήποτε, για να είμαστε ακριβείς) στο AI-χάος. Στην Ευρώπη, το AI Act, που εγκρίθηκε από το Ευρωπαϊκό Κοινοβούλιο το 2024 (αλλά δεν έχει ακόμα τεθεί σε πλήρη εφαρμογή), θεωρείται ένα παγκόσμιο ορόσημο που συνδυάζει την προστασία των δικαιωμάτων με το ασφαλές περιβάλλον AI, ενώ στην Αμερική, προς το παρόν, δεν έχει ψηφιστεί ακόμα ένα ομοσπονδιακό σύνολο νόμων που να προλαμβάνει και να προστατεύει.
Όταν και αν η νομοθεσία ψηφιστεί και εφαρμοστεί, αρκεί για να μιλάμε για ένα ψηφιακό περιβάλλον ισότητας; Οχι, δυστυχώς. Αυτό προϋποθέτει αλλαγές σχεδόν ουτοπικές, όπως εξαρχής περισσότερες γυναίκες σε όλα τα στάδια ανάπτυξης, ελεγχόμενα datasets πληροφορίας, εργαλεία ανίχνευσης προκατάληψης και σκληρή νομοθεσία για όποιον εσκεμμένα δημιουργεί κακόβουλο, κακοποιητικό ή πορνογραφικό περιεχόμενο με χρήση AI.
Ακούγονται όλα αυτά περίπου το ίδιο αφελή με το να ζητά κανείς παγκόσμια ειρήνη, αλλά αξίζει να γράφονται άρθρα με τα ζητούμενα ξανά και ξανά, δεδομένου πως πάνω στην Tεχνητή Nοημοσύνη του σήμερα στήνονται οι οικονομίες, η εκπαίδευση και τα ΜΜΕ του αύριο. Οχι για κανέναν άλλο λόγο, αλλά τουλάχιστον για να υπάρχει ως ψηφιακό αποτύπωμα και ετούτο εδώ το κείμενο, όταν ανέβει στο marieclaire.gr. Ας είναι μια σταγόνα στον ωκεανό που θα κολυμπήσει το ChatGPT για να φέρει αποτελέσματα στο χρήστη του, που ρωτάει αν φεμινισμός και νέες τεχνολογίες συγκλίνουν πουθενά.
Εικονογράφηση: Μαριάννα Βήτου
