Googles bildegenerator var så «woke» at den ble skrudd av
Nazister med alle hudfarger. En kvinnelig pave med asiatisk utseende. Googles bildegenerator var så «woke» at selskapet skrudde den av. Før helgen begynte bildene å dukke opp. Kvinnelige og fargede senatorer fra 1800-tallet, lenge før noen av dem eksisterte. Vikinger med afrikansk utseende og lange rastafletter.  Google har lenge markert seg som svært opptatt av at kunstig intelligens (KI) ikke måtte brukes til å forsterke fordommer og rasisme. Under store produktpresentasjoner de siste årene har selskapet skrytt av hvordan de har klart å utvikle KI til å gjengi mørke hudfarger mer realistisk enn hva tradisjonell kamerateknologi klarer.  Få protesterte på det. Men forrige uke begynte flere X-brukere å vise frem eksempler fra den nye chatboten Gemini. Den produserte et bredt spekter av hudfarger og etnisiteter der det ikke finnes i virkeligheten. Det syntes Googles egne direktører var flaut. Google har selv forklart problemet: De glemte å tenke på at det finnes tilfeller der bilder ikke bør vise et helt spekter av hudfarger. I tillegg ble modellen mer forsiktig enn det som var meningen. Den antok at selv helt uskyldige instrukser var for sensitive og nektet å generere bilder. – Disse to tingene førte til at modellen i noen tilfeller overkompenserte. I andre tilfeller ble den alt for konservativ. Slik ble bildene pinlige og feil, skriver Googles avdelingsdirektør Prabhakar Raghavan i en uttalelse om saken.  Fredag stengte de derfor bildegeneratoren inntil videre.  Amerikanske høyrevridde medier kastet seg over saken med stor iver, skriver The Daily Dot. Både kontoer som @EndWokeness og X-eier Elon Musk har delt eksempler.  Lenge har frykten vært stor for at KI-modeller skal spre hatefulle ytringer og fordommer fra treningsmaterialet sitt. En stor del av materialet er tekst fra nettet. Det er på ingen måte rensket for fordommer. En forskningsstudie kartla i 2023 kartla de politiske holdningene til ChatGPT. Den viste at maskinen stemmer på Biden i 99 av 100 tilfeller. Imidlertid er venstrevridningen temmelig svak. OpenAI, som utvikler ChatGPT, har siden sagt at de vil anstrenge seg for å gjøre alle sine KI-modeller politisk nøytrale.  Google melder at deres bildegenerator kommer tilbake. Tidkrevende testing er imidlertid nødvendig før resultatet tåler alles påsyn igjen.
Google stoppet sin bildegenerator fordi den laget for "mangfoldige" bilder, som kvinnelige, fargede senatorer fra 1800-tallet og afro-vikinger.  Bildegeneratoren var utviklet for ikke å forsterke rasisme, men i praksis ble diverse historiske skikkelser fremstilt med ulike hudfarger.  Testing er nødvendig før bildegeneratoren kan tas i bruk igjen, ifølge Google.