Kan vi stole på det KI sier?

Stol ikke på formen; sjekk innholdet

En språkmodell kan skrive flytende og sikkert uten å ha kontrollert at påstandene er sanne. Den genererer et sannsynlig tekstforløp ut fra mønstre i dataene og instruksjonene den får. Derfor kan samme mekanisme gi både et godt svar og en oppdiktet kilde.

Et feilaktig eller fabrikkert KI-svar kalles ofte en hallusinasjon. Ordet beskriver resultatet, ikke en menneskelig opplevelse i modellen. Systemet lyver ikke med hensikt; det produserer tekst uten et sikkert forhold til sannhet. Selv lenker og referanser må åpnes og kontrolleres.

AILit beskriver den praktiske kompetansen som å avgjøre om et KI-svar skal aksepteres, revideres eller forkastes. Begynn med risikoen: Et forslag til en overskrift tåler mer feil enn helseråd, en vurderingsbegrunnelse eller opplysninger om gjeldende regler. Finn deretter de påstandene svaret bygger på, og kontroller dem mot uavhengige, faglige kilder. Hvis du ikke har nok fagkunnskap til å vurdere svaret, trenger du mer kildearbeid — ikke mer selvsikker tekst fra samme modell.

Udir understreker at eleven er ansvarlig for innholdet i besvarelsen uavhengig av verktøy. Lærerens oppgave er derfor å gjøre kontrollarbeidet synlig: Hva er påstanden? Hvilken kilde støtter den? Hva fant vi da vi sjekket? Svaret på modulens spørsmål er: Bruk KI som innspill, ikke som dokumentasjon.