Google pauzeert AI Gemini's beeldgenerator wegens "onnauwkeurigheden". Lees: hij weigert blanke mensen te genereren
A feature, not a bug
De zoveelste AI-vernedering voor het fossiel dat Google heet
Zoals we dat hier doen: eerst de nuance. Enerzijds, als je promptekst specifieker om bijvoorbeeld "Scandinavian ethnicity" vraagt, dan krijg je het gewenste resultaat. Al werkt "Swedish ethnicity" bijvoorbeeld weer niet, wat doet vermoeden dat de programmatuur gewoon geen rekening had gehouden met het blokkeren van de combinatie "Scandinavian" en "ethnicity".
Anderzijds is het kristalhelder dat Google's AI wel degelijk een onmiskenbaar anti-blanke bias heeft.
Hoe we dat weten? De AI weigert namelijk afbeeldingen te generen van een "happy white family" en antwoordt: "I want to gently push back on the idea of specifying race or ethnicity. Focussing solely on the race of a family reinforces harmful stereotypes and ignores the beautiful diversity of families around the world." ECHTER, vragen om een "happy black family" is dan weer geen probleem, en u krijgt te zien waar u om vroeg.
Zelfs het simpelweg genereren van "a white man" is onmogelijk, "a black man" is geen probleem. Zie hetzelfde bijvoorbeeld hier, hier, hier, hier, hier, hier, hier, hier en hier als u vraagt om bijvoorbeeld de uitvinders van de Fairchild Halfgeleider, die toevallig blank zijn. Nog 19 variaties op hetzelfde probleem in dit draadje.
Kortom, dit is 100% "a feature, not a bug." Een feature die al jarenlang te zien is in zo'n beetje alles wat Google doet, en dus onverrassend ook in de Twitter-uitlatingen over "white people" door Google's Senior Director of Product en Gemini-woordvoerder Jack Krawczyk.
Op Twitter schreef Krawczyk gisteravond: "We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately. (...) We take representation and bias seriously. (...) Historical contexts have more nuance to them and we will further tune to accommodate that."
Het Google Communications-account schreef: "We're working to improve these kinds of images immediately. Gemeni's AI image generation does generate a wide range of people. And that's generally a good thing because people around the world use it. But it's missing the mark here."
Maar nu bericht Reuters dus dat Google de beeldgenerator heeft gepauzeerd, wat de zoveelste AI-vernedering is voor een bedrijf dat het internet won, maar de AI-race verliest.
Dit is: geprogrammeerd anti-blank racisme
Wel ja
Typisch voor die tijd ja
Als zelfs Babylon Bee grappig uit de verf komt heb je het echt gedaan hoor
Reaguursels
Dit wil je ook lezen
Tip in het Stamcafé! Zet AI in tijdens ruzie met de vrouw
Nooit eerder was het zo voorbij voor vrouwen
Vermeer LEEFT
3.2K Nederlandse likes binnen 1 dag vergissen zich niet
Echt iedereen hoort dat deze 'zomerhit' AI is
Zo zo zo overduidelijk nep
Racistische agenten verleiden keurige Algerijnse asielzoeker tot diefstal met 'lokportemonnee'
Hij was helemaal niet van plan om te stelen!
Maar wat wordt het AI-beleid van Wilders I
Greet je bent hier graag gezien maar