Introduksjon til serien om menneskelig tilsyn med KI
«KI er assistenten. Mennesket tar beslutningen.»
Få formuleringer brukes oftere som bevis på at en virksomhet har tatt i bruk KI på en ansvarlig måte. Denne serien i fem deler handler om hvorfor det ikke er nok, og hva som skal til for at tilsynet faktisk virker.
Hovedpoenget kan sies kort: Et menneske i loopen er en plassering. Tilsyn er en evne, og den må bygges, måles og vedlikeholdes.
Serien følger Kari, som leder skadeoppgjøret i et norsk forsikringsselskap, fra en svindelmodell via generativ KI til KI-agenter, og ender i regelverket og i råd til ledere. Historien er konstruert for å illustrere mekanismene. Selskapet og personene finnes ikke.
De fem delene
- Mennesket i loopen er ikke en sikkerhetsmekanisme. Hvordan en svindelscore gradvis ble det samme som et avslag, selv om et menneske formelt tok hver beslutning. Om kvasi-automatisering, moralske knusesoner og fellene som alltid har vært der, som automasjonsbias, forankring og kompetanseforvitring.
- Generativ KI har nye feller. Med generativ KI ser feilen ut som et godt skrevet avsnitt. Om usynlige utelatelser, innramming, medgjørlighet og kontrollasymmetri, og om den taggete grensen mellom oppgaver KI-en mestrer og oppgaver den ikke mestrer.
- Trenger du egentlig generativ KI? Det enkleste tilsynet er ofte å velge et enklere verktøy. Fem spørsmål før du velger mellom regler, klassisk maskinlæring og generativ KI, og hva du bytter bort når RPA erstattes av KI-agenter.
- Samme felle i programvareutvikling. Når KI-agenter skriver koden og mennesket skriver spesifikasjonen, blir spesifikasjonen nærmest hele instruksjonen. Om gapet mellom opplevd og målt effekt, og tre grep for utviklingsteam.
- Hva loven krever, og hva ledere bør gjøre. Loven spør ikke om et menneske er med, men om tilsynet virker. Om AI Act, ny forvaltningslov, produktansvar, GDPR og DORA, og åtte råd til ledere.
Slik leser du serien
Delene bygger på hverandre og er skrevet for å leses i rekkefølge. Hver del har lenker til forrige og neste del, og kildene står nederst i hver artikkel.
Start med del 1: Mennesket i loopen er ikke en sikkerhetsmekanisme →