Trenger du egentlig generativ KI?

Del 3 av 5 i serien om menneskelig tilsyn med KI

← Forrige del: Generativ KI har nye feller

I de to første delene så vi hvordan mennesket i loopen gradvis blir et stempel, og hvordan generativ KI legger til nye feller. Det enkleste tilsynet er ofte å velge et enklere verktøy. Bruker du generativ KI der regler eller klassisk maskinlæring hadde holdt, tar du inn de nye fellene uten grunn.

En dag ringer leverandøren til Karis selskap: «Vi har oppgradert RPA-roboten deres med KI.» Det høres ut som en forbedring. Er det det?

Velg det enkleste verktøyet som løser oppgaven

Beslutningsdiagram med tre spørsmål. Kan logikken skrives som regler? Ja gir regler, tradisjonell automatisering og RPA. Nei fører til neste spørsmål: finnes det strukturerte data og en fasit å måle mot? Ja gir klassisk maskinlæring. Nei fører til: er det språk eller ustrukturert innhold inn eller ut? Ja gir generativ KI, der feil er lette å fange. Nei betyr at du bør vurdere på nytt om oppgaven er klart definert.

• Regler og tradisjonell automatisering når logikken kan skrives ned: frister, terskler, beløpsgrenser. Resultatet er forutsigbart og kan revideres linje for linje.
• Klassisk maskinlæring når mønsteret er for komplekst for regler, men dataene er strukturerte og du har en fasit å måle mot. Du kan måle feilraten, også for ulike grupper.
• Generativ KI når input eller output er språk eller ustrukturert innhold, og aller helst der feil er billige eller raske å oppdage.

Fem spørsmål før du velger

1. Kan logikken skrives som regler? Da trenger du ikke KI.
2. Finnes det en fasit å måle mot? Da er klassisk maskinlæring ofte bedre enn generativ KI.
3. Må hver enkelt beslutning kunne forklares og etterprøves? Da bør du velge regler eller en enkel, forklarbar modell, og bruke generativ KI til støtteoppgaver rundt beslutningen, ikke til selve vurderingen.
4. Hvor mye koster det å kontrollere resultatet, sammenlignet med å lage det selv? Høy kontrollkostnad er et varselsignal.
5. Hva koster en feil, og for hvem?

(Diagrammet og spørsmålene er min sammenstilling, ikke et etablert rammeverk.)

Flyfoto av en vei som deler seg i to gjennom tett granskog Foto: Adam / Unsplash

Hva forklarbarhet betyr i praksis

Tenk deg at en søknad om lån, stønad eller forsikringsoppgjør får avslag, og kunden klager.

• Med regler kan du peke på nøyaktig hvilken regel som slo ut: «Inntekten var under grensen.»
• Med en enkel maskinlæringsmodell kan du vise hvilke faktorer som trakk scoren ned, og teste modellen mot fasit.
• Med generativ KI får du en begrunnelse, men den er selv generert tekst og beskriver ikke nødvendigvis hva som styrte svaret [1]. Spør du to ganger, kan du få to ulike svar.

Generativ KI kan hjelpe med å skrive avslagsbrevet eller oppsummere dokumentene. Selve vurderingen bør bygge på noe du kan etterprøve.

RPA og KI-agenter: enklere å sette opp, ikke nødvendigvis bedre

RPA (robotic process automation) er programvareroboter som etterligner det en person gjør på skjermen: logger inn, klikker, kopierer data fra ett system til et annet. Roboten følger et fast skript og lærer ingenting. Det er tradisjonell automatisering, ikke KI.

Nå erstattes mange RPA-løsninger av KI-agenter, der en språkmodell styrer skjermen og velger stegene selv. Du beskriver oppgaven med vanlige ord i stedet for å skripte hvert klikk, og agenten tåler at et skjermbilde endrer seg. Men du bytter forutsigbarhet mot fleksibilitet:

Enklere å få på plass betyr ikke enklere å ha kontroll på. Gartner spådde i 2025 at over 40 % av prosjektene med KI-agenter vil bli avsluttet innen utgangen av 2027, på grunn av kostnader, uklar nytte eller mangelfull risikokontroll. Gartner advarte også mot «agent washing», der blant annet RPA selges inn på nytt som KI-agenter [2].

Spørsmålet til leverandøren er derfor: Hvilke steg tar KI-en nå selv, og hvordan ser vi at den gjorde riktig?

Ikke en ny innsikt

Googles råd til egne utviklere, skrevet før generativ KI, sier det samme: ikke vær redd for å lansere uten maskinlæring, og en enkel heuristikk gir ofte halve gevinsten [3]. Og forskningen på «den taggete grensen» viser at generativ KI kan være svært god på én oppgave og dårlig på en som ser like vanskelig ut [4]. For risikovurdering av generativ KI har NIST laget en egen profil i sitt rammeverk for KI-risiko [5].

I neste del: Samme felle i programvareutvikling. Hva skjer når KI-agenten skriver koden, og mennesket bare skriver spesifikasjonen?

Les del 4: Samme felle i programvareutvikling →

Kilder

1. Turpin, M. mfl. (2023). Language Models Don’t Always Say What They Think. NeurIPS 2023.
2. Gartner (2025). Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027. Pressemelding 25. juni 2025.
3. Zinkevich, M. Rules of Machine Learning. Google for Developers.
4. Dell’Acqua, F. mfl. (2023). Navigating the Jagged Technological Frontier. Harvard Business School Working Paper 24-013.
5. NIST (2024). AI Risk Management Framework og Generative AI Profile (NIST AI 600-1).