At brukeren vet når AI er involvert, og at et menneske har siste ord der det betyr noe.
Hvorfor det er viktig
AI-funksjoner glir inn i systemer uten at noen har tatt stilling til ansvar. Når modellen tar feil — og den vil ta feil — må det være avklart hvem som svarer for utfallet.
Eksempel på kravformulering
Der AI brukes til å foreslå eller forberede beslutninger som gjelder enkeltpersoner, skal det tydelig fremgå for brukeren at AI er benyttet. Et menneske skal kunne overprøve ethvert forslag, og systemet skal logge både AI-forslag og menneskelig beslutning separat. Helautomatiserte avgjørelser med rettsvirkning skal ikke forekomme uten særskilt avtale og dokumentert rettslig grunnlag.
Tilpass tallene til deres virkelighet — et krav du ikke kan begrunne, er et krav du ikke bør stille.
Slik verifiserer du det
Be om å se hvordan et AI-forslag presenteres i grensesnittet, og om loggen skiller forslag fra beslutning. Spør hva som skjer når modellen tar feil — hvem oppdager det?
Fallgruver
Å skjule at AI er i bruk fordi det «forstyrrer brukeropplevelsen». Og «mennesket i loopen» som i praksis er en person som trykker godkjenn på 200 forslag i timen — det er ikke kontroll, det er et stempel.
AI-perspektiv
Dette kravet er selve AI-vinklingen: gevinsten er reell, men den må hentes uten å flytte ansvaret over på en modell som ikke kan bære det.