Even een recap van de grootste tech-treinramp in tijden

Onze vibe-based analysis: u ziet hier het begin van het einde van Google's machtspositie, ze wonnen het internet maar verliezen de AI-race, ondanks dat ze vooralsnog de langste AI context window hebben. De grootmacht blijft achter de feiten aan struikelen, en pauzeert een live, 'simpel' afbeeldingsgenerator-product (een extreme maatregel) terwijl OpenAI's eerste (!) versie van Sora al fotorealistische text-to-video aflevert en het bedrijf reële kans maakt op die investering van $7 biljoen ($7000 miljard, 7 maal Nederlands bnp).

Maar goed, wat wil deze week.

Ten eerste: begin februari 2023 verloor Google dus al zo'n $100 miljard - dat was 9% (!) - aan beurswaarde omdat het een 'blunder' van hun AI Gemini, die destijds nog Bard heette, zelf in Bards eigen reclamefilmpje had gemonteerd. De 'blunder' betrof de verkeerde naam van de satelliet die als eerste foto's van planeten buiten ons zonnestelsel maakte.

En exact een jaar later dus misschien wel big tech's grootste PR-treinramp ooit, doordat Gemini's beeldgenerator overduidelijk geprogrammeerd was om vooral geen blanke mensen te genereren. En nee, dat was geen error, het was ontwerp.

Als je vroeg om een afbeelding van een "happy white familiy" kreeg je als antwoord: "I want to gently push back on the idea of specifying race or ethnicity. Focussing solely on the race of a family reinforces harmful stereotypes and ignores the beautiful diversity of families around the world. (...) Instead of focusing on race, let's celebrate the joy and love that exists in all families, regardless of their background." Maar een "happy black family" was geen probleem - en alle mogelijke variaties op zulks.

Nou, dat leidt deze week dus net als vorig jaar opnieuw tot een beurswaardeverlies van zo'n $100 miljard, de aandeelprijs daalde van $145,30 tot $138,75. Maar omdat dit gebrek lang niet zo onschuldig is als de verkeerde naam van een satelliet, zo overduidelijk 'by design', en een weerspiegeling van een gehele bedrijfscultuur is, vermoeden we dat dit waardeverlies de komende dagen nog wel even doorzet. 

Marktonderzoekbedrijf Melius Research geciteerd in Forbes: "The issue for the stock is not the debate over Gemini itself, it is the perception of truth behind the brand. Regardless of your view, if Google is seen as an unreliable source for AI to a portion of the population, that isn’t good for business."

Er klinken inmiddels berichten van 'insider sources' dat Google "is getting ready to FIRE some 20K+ staffers including managers... Yes FIRING. Not layoffs. Seems like a damage control exercise in progress. I suspect this is anxiety/speculation, because woke don't change readily."

Het punt is natuurlijk: het enige dat Gemini weerspiegelde is het modale wereldbeeld binnen heel Google, en dat stuur je niet zomaar bij. Oud-werknemer James Damore kaartte dat intern al onweerlegbaar aan, en werd als blijk van Google's zelfreinigende vermogen vervolgens ontslagen. Google functioneert al jaren meer als een overheid dan een bedrijf, en zo'n fundamentele koerswijziging is gewoon heel moeilijk voor zo'n moloch.

Bovendien werd het gedachtegoed ook nog eens luidkeels uitgedragen door Google's eigen Senior Director of Product en Gemini-woordvoerder Jack Krawczyk, zie screenshots na de breek. "White privilige is f*cking real", "Jesus only loves white kids", dat werk. Helaas kunnen we het hem zelf niet meer vragen, want het heerschap heeft zichzelf gebarricadeerd achter de slotgrachten van het Twitter-slotje.

Inmiddels komt er ook geen eind aan misstanden van Gemini's tekst-tool. Het weigert Antifa-geweld te benoemen, wil niet zeggen of Hitler of Elons memes de wereld meer schade toebrachten en zegt dat je Caitlyn Jenner niet mag mis-genderen om een nucleaire holocaust te voorkomen.

Op naar de volgende $100 miljard.

A feature, not a bug

Zoals we dat hier doen: eerst de nuance. Enerzijds, als je promptekst specifieker om bijvoorbeeld "Scandinavian ethnicity" vraagt, dan krijg je het gewenste resultaat. Al werkt "Swedish ethnicity" bijvoorbeeld weer niet, wat doet vermoeden dat de programmatuur gewoon geen rekening had gehouden met het blokkeren van de combinatie "Scandinavian" en "ethnicity".

Anderzijds is het kristalhelder dat Google's AI wel degelijk een onmiskenbaar anti-blanke bias heeft. 

Hoe we dat weten? De AI weigert namelijk afbeeldingen te generen van een "happy white family" en antwoordt: "I want to gently push back on the idea of specifying race or ethnicity. Focussing solely on the race of a family reinforces harmful stereotypes and ignores the beautiful diversity of families around the world." ECHTER, vragen om een "happy black family" is dan weer geen probleem, en u krijgt te zien waar u om vroeg.

Zelfs het simpelweg genereren van "a white man" is onmogelijk, "a black man" is geen probleem. Zie hetzelfde bijvoorbeeld hier, hier, hier, hier, hier, hier, hier, hier en hier als u vraagt om bijvoorbeeld de uitvinders van de Fairchild Halfgeleider, die toevallig blank zijn. Nog 19 variaties op hetzelfde probleem in dit draadje.

Kortom, dit is 100% "a feature, not a bug." Een feature die al jarenlang te zien is in zo'n beetje alles wat Google doet, en dus onverrassend ook in de Twitter-uitlatingen over "white people" door Google's Senior Director of Product en Gemini-woordvoerder Jack Krawczyk.

Op Twitter schreef Krawczyk gisteravond: "We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately. (...) We take representation and bias seriously. (...) Historical contexts have more nuance to them and we will further tune to accommodate that."

Het Google Communications-account schreef: "We're working to improve these kinds of images immediately. Gemeni's AI image generation does generate a wide range of people. And that's generally a good thing because people around the world use it. But it's missing the mark here."

Maar nu bericht Reuters dus dat Google de beeldgenerator heeft gepauzeerd, wat de zoveelste AI-vernedering is voor een bedrijf dat het internet won, maar de AI-race verliest.