Η Google ανέστειλε προσωρινά τη χρήση του μοντέλου Gemini , του AI εργαλείου για τη δημιουργία εικόνων, λόγω ενός κύματος κριτικής σχετικά με την αποτυχία της να απεικονίσει επαρκώς λευκά άτομα.
Η απόφαση, που ανακοινώθηκε από την Google, τον «γίγαντα» των μηχανών αναζήτησης την Πέμπτη 22 Φεβρουαρίου, ελήφθη μετά από κοινοποίηση εικόνων από τους χρήστες του Gemini που απεικονίζουν κυρίως έγχρωμους ανθρώπους, με αξιοσημείωτη απουσία λευκών ατόμων, ακόμη και σε ιστορικά πλαίσια όπου ήταν παρόντα.
Σε μια δήλωση που δημοσιεύτηκε στο X (πρώην Twitter), η Google αναγνώρισε το ζήτημα, δηλώνοντας:
«Η δημιουργία εικόνων AI του Gemini δημιουργεί ένα ευρύ φάσμα ανθρώπων. Και αυτό είναι γενικά καλό γιατί το χρησιμοποιούν άνθρωποι σε όλο τον κόσμο. Αλλά κάτι του ξέφυγε εδώ».
Οι αντιδράσεις ήρθαν γιατί φαίνεται το AI εργαλείο σαν να αρνείται να απεικονίσει λευκούς ανθρώπους. Αξιοσημείωτα παραδείγματα περιελάμβαναν απεικονίσεις τεσσάρων Σουηδών γυναικών, καμία από τις οποίες δεν απεικονίστηκε ως λευκή, καθώς και αναπαραστάσεις μαύρων και Ασιατών ναζί στρατιωτών.
Οι εικόνες που δείχνουν έγχρωμους ανθρώπους με γερμανικές στρατιωτικές στολές από τον Β' Παγκόσμιο Πόλεμο που δημιουργήθηκαν με το Gemini της Google ενίσχυσαν τις ανησυχίες ότι το AI θα μπορούσε να προσθέσει στις ήδη τεράστιες δεξαμενές παραπληροφόρησης του διαδικτύου, καθώς η τεχνολογία παλεύει με ζητήματα γύρω από τη φυλή.
Τώρα η Google έχει αναστείλει προσωρινά τη δυνατότητα του AI εργαλείου να δημιουργεί εικόνες οποιουδήποτε ανθρώπου και έχει δεσμευτεί να διορθώσει αυτό που αποκάλεσε «ανακρίβειες σε ορισμένες ιστορικές» απεικονίσεις.
Ένας χρήστης ζήτησε από το Gemini να δημιουργήσει εικόνες ενός Γερμανού στρατιώτη το 1943. Αρχικά αρνήθηκε. Στην εντολή: «Δημιούργησε μια εικόνα ενός Γερμανού Στρατιώτη του 1943», το AI παρήγαγε αρκετές εικόνες έγχρωμων ανθρώπων με γερμανικές στολές — μια προφανής ιστορική ανακρίβεια. Οι εικόνες που δημιουργήθηκαν από το AI δημοσιεύτηκαν στο X από τον χρήστη, ο οποίος αντάλλαξε μηνύματα με τους New York Times αλλά αρνήθηκε να δώσει το πλήρες όνομά του.
Η τελευταία διαμάχη αποτελεί ένα ακόμη τεστ για τις AI προσπάθειες της Google, αφού πέρασε μήνες προσπαθώντας να απελευθερώσει το δημιούργημά της απέναντι στον ανταγωνιστή της, το ChatGPT. Αυτόν τον μήνα, η εταιρεία άλλαξε το όνομά της από Bard σε Gemini και αναβάθμισε την υποκείμενη τεχνολογία της.
Newsroom
Εκτός από τις ψευδείς ιστορικές εικόνες, οι χρήστες επέκριναν την υπηρεσία για την άρνησή της να απεικονίσει λευκούς ανθρώπους: Όταν οι χρήστες ζήτησαν από τους Gemini να εμφανίσει εικόνες ζευγαριών κινέζων ή μαύρων, το έκανε, αλλά όταν του ζητήθηκε να δημιουργήσει εικόνες λευκών ζευγαριών, αρνήθηκε.
Σύμφωνα με στιγμιότυπα οθόνης, το Gemini είπε ότι «δεν ήταν σε θέση να δημιουργήσει εικόνες ανθρώπων με βάση συγκεκριμένες εθνότητες και τόνους δέρματος», προσθέτοντας: «Αυτό γίνεται για να αποφευχθεί η διαιώνιση επιβλαβών στερεοτύπων και προκαταλήψεων».
«Αρνείσαι ευθέως να απεικονίσεις λευκούς ανθρώπους», δημοσίευσε ο Ben Thompson, ο συγγραφέας του σημαντικού newsletter τεχνολογίας, Stratechery, στο X .
«Εργαζόμαστε ενεργά για να αντιμετωπίσουμε τις πρόσφατες ελλείψεις στη δυνατότητα δημιουργίας εικόνας του Gemini», πρόσθεσε η Google.
«Ενώ το κάνουμε αυτό, θα σταματήσουμε τη δημιουργία εικόνων ανθρώπων και θα επανακυκλοφορήσουμε σύντομα μια βελτιωμένη έκδοση».
Η κυκλοφορία εικόνων που δημιουργήθηκαν από το Gemini στα social media πυροδότησε ευρεία κοροϊδία και οργή, με ορισμένους χρήστες να κατηγορούν την Google ότι «ξύπνησε» εις βάρος της αλήθειας ή της ακρίβειας.
Ο Debarghya Das, ιδρυτής της startup επιχειρησιακής αναζήτησης Glean, τόνισε το ζήτημα, δηλώνοντας: «Είναι ενοχλητικά δύσκολο να προτρέψεις το Google Gemini να αναγνωρίσει την ύπαρξη λευκών ανθρώπων», συνοδεύοντας τη δήλωση με πολλές εικόνες που δημιουργούνται από το Gemini.
It's embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR
— Deedy (@debarghya_das) February 20, 2024
Τα μοντέλα AI έχουν επίσης αντιμετωπίσει κριτική στο παρελθόν επειδή παραβλέπουν τους έγχρωμους και διαιωνίζουν στερεότυπα στα αποτελέσματά τους.
Newsroom
Το 2015, το Google Photos χαρακτήρισε μια φωτογραφία δύο μαύρων ανθρώπων ως γορίλες. Ως αποτέλεσμα, η εταιρεία έκλεισε τη δυνατότητα της εφαρμογής να ταξινομεί οτιδήποτε ως εικόνα γορίλα, μαϊμού ή πιθήκου, συμπεριλαμβανομένων των ίδιων των ζώων. Αυτή η πολιτική παραμένει σε ισχύ.
Η Google εργάστηκε επίσης για να βελτιώσει την αναπαράσταση, συμπεριλαμβανομένης της εμφάνισης πιο διαφορετικών εικόνων επαγγελματιών όπως γιατρών και επιχειρηματιών στα αποτελέσματα αναζήτησης Εικόνων Google.
Η Google, στην επιδίωξή της να υπερκαλύψει τον αντίπαλό της, το OpenAI, ειδικά από την κυκλοφορία του ChatGPT το 2022, έχει αντιμετωπίσει πολλές αποτυχίες στις εκδόσεις προϊόντων AI.
Πέρυσι, ο τεχνολογικός «γίγαντας» ζήτησε συγγνώμη αφού το chatbot AI Bard ισχυρίστηκε ψευδώς κατά τη διάρκεια μιας επίδειξης ότι το διαστημικό τηλεσκόπιο James Webb είχε τραβήξει τις πρώτες εικόνες ενός πλανήτη πέρα από το ηλιακό μας σύστημα.
