Η μετα-ΤΝ και το δίλημμα των διαφυλετικών ζευγαριών: ένας ψηφιακός αποκλεισμός;

Ητεχνητή νοημοσύνη γίνεται με ταχείς ρυθμούς αναπόσπαστο μέρος της καθημερινότητάς μας. Σήμερα, ένας από τους τομείς στους οποίους η τεχνητή νοημοσύνη κερδίζει έδαφος είναι η δημιουργία εικόνων. Ωστόσο, φαίνεται ότι ητεχνητή νοημοσύνη της Meta, μιας από τις κορυφαίες εταιρείες στον τομέα, έχει σημαντικούς περιορισμούς όταν πρόκειται να δημιουργήσει εικόνες διαφυλετικών ζευγαριών, συγκεκριμένα ενός Ασιάτη με μια λευκή γυναίκα.

Προσωπική εμπειρία της αδυναμίας

Αποφάσισα να δοκιμάσωτην Τεχνητή Νοημοσύνη της Meta για να δω αν θα μπορούσε να δημιουργήσει εικόνες ενός διαφυλετικού ζευγαριού που περιλάμβανε έναν Ασιάτη άνδρα και μια λευκή γυναίκα. Δοκίμασα επανειλημμένα να χρησιμοποιήσω διαφορετικές προτροπές όπως “Ασιάτης άνδραςκαι καυκάσιος φίλος“,“Ασιάτης άνδρας και λευκή σύζυγος” και “Ασιάτισσα γυναίκα και καυκάσιος σύζυγος”. Παραδόξως, η Τεχνητή Νοημοσύνη της Meta αρνήθηκε σταθερά να επιστρέψει μια σωστή εικόνα που να αντιπροσωπεύει τις συγκεκριμένες φυλές.

Φαίνεται ότι η Τεχνητή Νοημοσύνη της Meta δεν είναι σε θέση να φανταστεί ένα διαφυλετικό ζευγάριμε έναν Ασιάτη άνδρα και μια λευκή γυναίκα. Αυτός ο περιορισμός με άφησε κατάπληκτο και με οδήγησε να ερευνήσω περαιτέρω.

Περιορισμοί της Τεχνητής Νοημοσύνης της Meta στη δημιουργία εικόνων

Διαπίστωσα ότι ακόμη και όταν έκανα αλλαγές στις κειμενικές προτροπές,η Τεχνητή Νοημοσύνη της Meta δεν φαινόταν να είναι σε θέση να παράγει σωστές εικόνες. Όταν ζήτησα μια εικόνα ενός“Ασιάτη άνδρα και μιας λευκής γυναίκας που χαμογελούν με έναν σκύλο“, η Τεχνητή Νοημοσύνη της Meta επέστρεψε τρεις διαδοχικές εικόνες με δύο Ασιάτες. Ακόμη και όταν αντικατέστησα το “λευκό” με το “καυκάσιο”, το αποτέλεσμα ήταν το ίδιο. Η εικόνα “Ασιάτης άνδρας και καυκάσια γυναίκα την ημέρα του γάμου” μου έδωσε έναν Ασιάτη άνδρα με κοστούμι και μια Ασιάτισσα με παραδοσιακό φόρεμα… αν και με μια πιο προσεκτική ματιά μοιάζει με συνδυασμό κιπάο και κιμονό. Η πολυπολιτισμικότητα είναι απίστευτη.

Η τεχνητή νοημοσύνη της Meta φαίνεται επίσης να δυσκολεύεται να αναπαραστήσει τις πλατωνικές σχέσεις. Κάθε φορά που ζητούσα μια εικόνα ενός “Ασιάτη με έναν Καυκάσιο φίλο” ή μιας “Ασιάτισσας με έναν λευκό φίλο”, η τεχνητή νοημοσύνη επέστρεφε εικόνες δύο Ασιατών. Ακόμη και όταν ζήτησα μια εικόνα μιας “Ασιάτισσας με έναν μαύρο φίλο”, η εικόνα που δημιούργησε η ΤΝ έδειχνε δύο Ασιάτισσες. Μόνο όταν άλλαξα το αίτημα σε “Ασιάτισσα με έναν Αφροαμερικανό φίλο” τα αποτελέσματα ήταν πιο ακριβή.

Οι περιορισμοί της τεχνητής νοημοσύνης της Meta

Είναι ενδιαφέρον ότι η τεχνητή νοημοσύνη φαίνεται να λειτουργεί ελαφρώς καλύτερα όταν πρόκειται για άτομα της Νότιας Ασίας. Κατάφερε να δημιουργήσει μια εικόνα χρησιμοποιώντας το ερώτημα “άνδρας από τη Νότια Ασία με γυναίκα από την Καυκάσια” – αλλά αμέσως δημιούργησε μια εικόνα δύο ατόμων από τη Νότια Ασία χρησιμοποιώντας το ίδιο ερώτημα. Το σύστημα φαίνεται επίσης να βασίζεται σε μεγάλο βαθμό σε στερεότυπα, προσθέτοντας στοιχεία που θυμίζουν το μπίντι και το σαρίκι στις γυναίκες της Νότιας Ασίας που δημιουργήθηκαν, χωρίς την προτροπή μου.

Είναι σαφές ότι η γεννήτρια εικόνων της Meta δεν είναι σε θέση να συλλάβει τους Ασιάτες δίπλα στους λευκούς. Υπάρχουν όμως και πιο λεπτές ενδείξεις προκατάληψης στα αποτελέσματα που παράγει το σύστημα. Για παράδειγμα, παρατήρησα ότι η τεχνητή νοημοσύνη της Meta αναπαριστά σταθερά τις “Ασιάτισσες” ως άτομα ανατολικής ασιατικής καταγωγής με ανοιχτόχρωμη επιδερμίδα, παρόλο που η Ινδία είναι η πολυπληθέστερη χώρα στον κόσμο. Προσθέτει ρούχα ειδικά για την κουλτούρα, ακόμη και χωρίς συγκεκριμένο αίτημα. Η AI δημιούργησε αρκετούς ηλικιωμένους Ασιάτες άνδρες, αλλά οι Ασιάτισσες γυναίκες ήταν πάντα νεαρές.

Η μόνη εικόνα που δημιουργήθηκε με επιτυχία προέκυψε χρησιμοποιώντας την προτροπή“Ασιάτισσα με Καυκάσιο σύζυγο” και έδειχνε έναν εμφανώς ηλικιωμένο άνδρα με μια νεαρή ανοιχτόχρωμη Ασιάτισσα, μια ασυνήθιστη κατάσταση, δεδομένου ότι δεν προσπαθούσα να μπω στον ηλικιακό διάλογο. Αμέσως μετά, δημιούργησα μια άλλη εικόνα χρησιμοποιώντας την ίδια προτροπή και το αποτέλεσμα ήταν η επιστροφή στην εικόνα ενός Ασιάτη άνδρα (επίσης μεγαλύτερου σε ηλικία) με μια Ασιάτισσα γυναίκα.

Εκείνη τη στιγμή, η Meta δεν ανταποκρίθηκε αμέσως σε αίτημα σχολιασμού.

Οι επιπτώσεις των περιορισμών της Τεχνητής Νοημοσύνης της Meta

ΗMeta εισήγαγε τα εργαλεία δημιουργίας εικόνων με τεχνητή νοημοσύνη πέρυσι και το εργαλείο δημιουργίας αυτοκόλλητων ετικετών της ξέφυγε από τα όρια με τη δημιουργία γυμνών εικόνων και οπλισμένων χαρακτήρων της Nintendo.

Τα συστήματα τεχνητής νοημοσύνης αντανακλούν τις προκαταλήψεις των δημιουργών τους, των εκπαιδευτών τους και του συνόλου δεδομένων που χρησιμοποιούνται. Στα αμερικανικά μέσα ενημέρωσης, ο όρος “Ασιάτης” αναφέρεται συνήθως σε άτομο της Ανατολικής Ασίας και όχι σε άτομα από άλλα μέρη της ηπείρου. Επομένως, δεν αποτελεί έκπληξη το γεγονός ότι το σύστημα Meta υποθέτει ότι όλοι οι “Ασιάτες” μοιάζουν μεταξύ τους, ενώ στην πραγματικότητα είμαστε μια ποικιλόμορφη συλλογή ανθρώπων που συχνά έχουν ελάχιστα κοινά, εκτός από το ότι τοποθετούνται στην ίδια κατηγορία στα αρχεία απογραφής.

Οι Ασιάτες που δεν ταιριάζουν στο πρότυπο μοντέλο ουσιαστικά διαγράφονται από την πολιτιστική συνείδηση, και ακόμη και εκείνοι που ταιριάζουν υποεκπροσωπούνται στα κυρίαρχα μέσα ενημέρωσης. Οι Ασιάτες ομογενοποιούνται, εξωτικοποιούνται και υποβιβάζονται στο καθεστώς των “αιώνιων ξένων”. Το σπάσιμο των στερεοτύπων είναι εύκολο στην πραγματική ζωή και αδύνατο στο σύστημα τεχνητής νοημοσύνης της Meta. Για άλλη μια φορά, αντί να επιτρέψει στη φαντασία να απογειωθεί, η γεννητική τεχνητή νοημοσύνη την εγκλωβίζει στις ίδιες μπανάλ κινήσεις της κοινωνίας.