I løpet av året får KI-agentene lov til å forbedre seg selv
I år kan kapasiteten til chatbotene gjøre et enda mye større hopp enn ventet. Maskinene skal nemlig begynne å styre seg selv. OpenAI har for øyeblikket mistet ledelsen i det intense kappløpet om å ha den smarteste språkmodellen til den tre år gamle jyplingen Anthropic. Men det bransjen egentlig venter på i år, er noe helt annet og mye større: kunstig intelligens som opererer mye mer på egen hånd. Andrew Ng er en av de mest anerkjente fagfolkene på feltet. Han har oppsummert all den siste forskningen og har en klar konklusjon: Det største hoppet i ytelse vil i år ikke komme fra den helt nye generasjonen språkmodeller, som alle venter på. Den største omveltningen kommer fra KI-agenter. Dette er systemer som er sin egen arbeidsleder. De har større autonomi, kan samle informasjon på egen hånd, resonnere og handle. Helt uten at brukeren er involvert. Forutsetningen er imidlertid at maskinene får en mulighet mange ønsker å nekte dem: større selvstendighet. Plutselig slår lillebror storebror Tester viser at såkalt «agentisk KI» gir oppsiktsvekkende gode resultater. For eksempel svarer språkmodellen GPT-4 riktig på 67 prosent av oppgavene i testen Human Eval. Den mindre kraftige modellen GPT-3.5 klarer bare 48 prosent. Men om gratisutgaven jobber som agent og forbedrer sine egne svar, klarer den 95 prosent riktig. Da slår den altså storebror ned i støvlene. Årsaken til kvantespranget er ifølge Ng at vi til nå har brukt disse modellene helt feil. I dag forlanger vi at modellene produserer gode tekster på første forsøk. I et foredrag påpeker Ng at dette er som å be noen om å skrive et essay fra start til slutt, uten å bruke tilbakeknappen. Kan vi da egentlig forvente et fullgodt resultat? Vi mennesker bruker nesten alltid mer enn ett forsøk på å skrive en tekst. Vi begynner kanskje først med å skrive et utkast, gjør noen nettsøk, redigerer litt i teksten, leser over og redigerer igjen. Og så videre. Først når vi er fornøyd, avgir vi svaret. Det lønner seg å jobbe som oss Nå viser det seg altså at den arbeidsmåten også kan fungere for en språkmodell. Årsaken til prestasjonshoppet er at modellen drøfter problemet med seg selv før brukeren får lese svaret. Flere instanser av samme språkmodell (helheten kalles da en agent) settes sammen i løkker, ikke ulikt hvordan en menneskelig virksomhet opererer. Én såkalt subagent kan ha ansvaret for å sette i gang nye prosjekter og reflektere rundt resultatene. En annen kan bruke verktøy som nettsøk eller analysere dokumenter. En tredje kjører programkode eller utfører andre funksjoner. Til sammen kan multiagentsystemet utveksle informasjon, jobbe videre og planlegge neste skritt. Ideelt sett kan du, altså brukeren, bare ta kontakt med «topplederen» i virksomheten og be om å få utført en oppgave. Deretter setter KI-agenten i gang med å planlegge en ferie eller skrive en utredning. Vil du at turen skal gå til Kreta eller Spania i år? Her er fire alternativer agenten har funnet for deg, komplett med priser og innhold på ulike datoer. Mange på ballen Ifølge nettstedet The Information jobber OpenAI allerede med et agentprodukt som skal kunne ta over brukerens enhet, klikke på linker og bruke apper. Den skal kunne overføre data mellom et dokument eller et regneark, fylle ut reiseregninger og legge dem inn i regnskapsprogrammer. Fredag rullet Anthropic ut subagenter i sin lederstjerne Claude 3. Lignende ting er allerede demonstrert og på vei til Microsofts betaltjeneste Copilot. Den kan være til stede på møter for deg og skrive møtereferat. Foreløpig fungerer det bare på engelsk. I disse dager rulles funksjonene ut på norsk. Selskapet Cognition Labs har vekket oppsikt med en prototyp kalt Devin, som de kaller verdens første virtuelle datautvikler. En rekke oppstartsselskaper jobber på spreng med det samme. Også de største selskapene har for lengst merket seg trenden. Derfor er spenningen stor før Apple og Googles utviklerkonferanser i mai og juni. Kommer det noe der? Kraftigere KI øker også risikoen for at ting kan gå galt. Da OpenAI lanserte GPT-4, gjorde de et nummer av å understreke at modellen IKKE hadde tilgang til å kjøre kode eller utføre handlinger. Begge deler er påkrevd hvis en KI-agent skal kunne jobbe for deg. Før jul advarte OpenAIs egne forskere mot KI-agenter. Om man stoler for mye på agenter som viser seg å gjøre feil, kan følgene «i verste fall bli katastrofale». For å redusere risikoen, ønsker de å kreve at brukeren godkjenner viktige avgjørelser før de tas. Uansett kan fremtiden for databrukere ligne mer på hverdagen til en toppleder som skal lede en bedrift, enn på dagens situasjon. I dag må vi brukere faktisk lære oss et verktøy for å kunne bruke det. Ganske snart kan vi slippe det. Dessverre kan det også hende vi skaffer oss de samme problemene som en toppleder gjerne har. Det er nemlig ikke alltid lett å være sjef. Spesielt hvis de ansatte går i helt feil retning.
Kunstig intelligens (KI) vil i 2024 få større selvstendighet. Såkalte KI-agenter vil snart kunne samle informasjon, resonnere og handle helt selvstendig. Eksperter forutser et kvantesprang i kapasiteten til chatboter og språkmodeller gjennom bruken av KI-agenter. Dette er systemer som kan forbedre seg selv, drøfte problemer og gi brukere mer treffsikre svar.  Risikoen for feil og misbruk øker med sterkere KI. Forskere advarer mot at overdreven tillit til selvstendige agenter kan ha potensielt katastrofale konsekvenser.