ChatGPTs politiske slagside kan være uunngåelig. Den er til og med ønskelig, mener forsker.
Må ChatGPT være venstrevridd? KI-forsker hevder en viktig årsak er faktabaserte svar. En rekke ferske forskningsstudier ga samme resultat: ChatGPT utgir seg for å være nøytral. Men den er klart politisk venstrevridd. Nylig skrev Aftenposten at professor Jochen Hartmann mener språkmodeller bør trenes til å bli så nøytrale som overhodet mulig. Selskapet bak ChatGPT påstår at alle former for slagside er feil, ikke funksjoner. Professor Lilja Øvrelid påpekte at en pratebot som ChatGPT vil ha enorm påvirkningsevne over hele kloden. Men det er ikke sikkert nøytralitet er mulig. Kanskje er det ikke engang ønskelig. Kunstig intelligens-forsker Petter Törnberg ved universitetet i Amsterdam er en av dem som mener det. – Jeg tror ikke det finnes noen ekte politisk nøytralitet. Noe slikt er ikke engang ønskelig å oppnå, sier han. Svenske Törnberg peker på USA som eksempel. Der har du allerede valgt politisk side hvis du legger vekt på rasjonalitet og vitenskapelighet. Ideen om menneskeskapte klimaendringer kommer for eksempel fra vitenskapen. Politiske miljøtiltak for å dempe klimaendringer er dermed både basert på vitenskap og venstrevridde, påpeker han. – Burde modellen av den grunn unngå å ta stilling til klimaendringer? Burde den være «nøytral» overfor nynazistiske grupper også, spør Törnberg retorisk i en e-post til Aftenposten. Bør ikke spille på følelser Retorikk-ekspert og USA-kjenner Kjell Terje Ringdal ved Høyskolen Kristiania peker på at fakta betyr ulike ting for ulike deler av befolkningen. – Typiske Trump-aktige appeller er følelsesbaserte. De er som regel ikke belagt med fakta. Mottagerne av en slik appell etterlyser ikke argumenter. De ser bare på hvem som kommer med påstanden, sier han. Ringdal har ikke sansen for å gjøre prateboten mer følelsesorientert, selv om dette ville kommet konservative velgere i møte. Han tror det ikke bare vil være negativt om folk lar seg påvirke av ChatGPT. – Det er jo interessant at de bevisst har injisert saklighet og argumentasjon i teknologien. Sånn sett vil den kanskje være den ideelle argumentative ressursen i offentlig debatt, fordi den søker fakta mer enn populisme. – Men det er vel ikke demokratisk når den ikke er representativ for befolkningen? – Det blir nesten som å spørre om det er greit at Dagsrevyen lager saklig informasjon til velutdannede mennesker. Hvis tjenester som ChatGPT blir dominerende, kan det se ut som populistene nok en gang blir overlatt til seg selv – på godt og vondt, sier han. Egne prateboter for ulike syn? En måte å kompensere for slagside på, vil være å utvikle ulike prateboter for ulike målgrupper. Petter Törnberg påpeker at det allerede arbeides med språkmodeller tilpasset enkeltbrukere. – Dette bekymrer meg dypt. Vi kan lett skape skreddersydde ekkokamre for enkeltpersoner, tror Törnberg. Han frykter at språkmodeller, akkurat som sosiale medier før dem, blir en ny slagmark for geopolitisk kamp. Det betyr at ulike versjoner av «sannheten» fremmes av motstridende grupperinger. En gruppe Stanford-forskere undersøkte hvor representative meningene til ChatGPT er. Som flere andre grupper fant de at modellen konsekvent er politisk venstrevridd. Men de fant også at det var én gruppe som fremfor alle hadde sammenfallende meninger med ChatGPT: de høyt utdannede. Høyt utdannede har kanskje lært mer om vitenskapelige resultater, og dermed er de mer på linje med det som regnes som fakta. Det store spørsmålet blir likevel om en språkmodell bør trenes til å være mindre faktabasert bare for å være representativ. Ikke nødvendigvis venstrevridd Men det er faktisk motstridende og ikke endelig kartlagte prosesser som ligger bak venstrevridningen. Selv om det kan synes opplagt at en pratebot må være faktabasert, er det ikke nødvendigvis gitt at det var dokumentene den først ble trent på som gjør den venstrevridd. Stanford-forskerne gjorde nemlig funn som tyder på at venstrevridningen til ChatGPT ikke kom fra treningsmaterialet.  De målte ChatGPTs holdninger etter at den var ferdig med å studere treningsmaterialet sitt, men før den ble trent opp av mennesker til å svare hjelpsomt.  Da viste det seg at modellen var høyrevridd før treningen. Muligens kan dette skyldes at treningsmaterialet inneholdt store mengder foruminnlegg, der både konspirasjonsteorier og ikke-vitenskapelig fremstilling av for eksempel klimaendringer florerer. Ifølge forskerne ble ChatGPT venstrevridd først etter at mennesker hadde trent den til å nå sitt mål om å være «ærlig, hjelpsom og harmløs». Dette gjøres ved at mennesker gir tommel opp og tommel ned på modellens responser. En mulighet er at holdningene til disse menneskene kan ha «farget av» på prateboten, uten at trenerne selv har vært klar over det. Et interessant funn fra Microsoft er at denne menneskelige treningen også gjorde modellen mindre kompetent og mindre intelligent. Dette kom frem i et foredrag av Microsoft ved MIT. Microsoft-forskerne sjekket intelligensen til den nyeste motoren i ChatGPT (GPT-4) flere ganger i løpet av månedene som gikk mens modellen ble trent. Intelligensen til ChatGPT ble lavere jo mer hjelpsom den ble. Vi lar oss påvirke Men blir folk påvirket av en språkmodell med slagside? En studie fra Cornell University tyder på det. Forsøkspersoner fikk i oppgave å skrive et essay om et felt som ikke var politisk ladet. Til å hjelpe dem hadde forskerne laget en skriveassistent som automatisk kom med forbedringsforslag under skrivingen. Oppgaven handlet om hvorvidt sosiale medier er et gode for samfunnet eller ikke. Deltagerne visste ikke at de ble delt i to grupper. Den ene gruppen brukte en språkmodell som hadde slagside for sosiale medier. Den andre hadde slagside mot. Funnene var slående. I svar som hadde fått «hjelp» av en negativ kunstig intelligens, var dobbelt så mange forsøkspersoner negative til sosiale medier. Da deltagerne etterpå ble spurt om sine egne meninger uavhengig av essayet, var svarene også kraftig påvirket av språkmodellens slagside.
Flere forskningsstudier viser at AI-chatboten ChatGPT er politisk venstrevridd Nøytralitet kan være umulig eller uønsket, mener Petter Törnberg, KI-forsker ved Universitetet i Amsterdam ChatGPT kan påvirke mennesker og deres meninger, ifølge studie fra Cornell University