Data, mål, grensesnitt og regler er valgt av mennesker. Derfor kan systemene også utfordres og endres.
Et KI-system er ikke et naturfenomen. Mennesker velger hvilke data som brukes, hva systemet skal optimalisere for, hvilke svar som filtreres, hvordan grensesnittet virker og hvilken forretningsmodell tjenesten har. Også det som framstår som en teknisk standard, er resultat av prioriteringer.
Valgene får konsekvenser. Treningsdata kan representere grupper og erfaringer ulikt. Et mål om høyest mulig engasjement kan belønne andre resultater enn et mål om læring eller trivsel. En standardinnstilling kan gjøre deling lett og personvern vanskelig. Derfor vurderes et ansvarlig system ikke bare etter hvor godt det virker, men også etter rettferdighet, transparens, forklarbarhet, ansvar og personvern.
At systemet er valgt fram, betyr at det kan endres. Lærere kan velge bort et verktøy, melde konkrete problemer, be skoleeier stille krav ved anskaffelser og lære elever å undersøke hvem en løsning fungerer godt eller dårlig for. Innflytelsen er ikke ubegrenset, men den er reell når kritikken knyttes til en bestemt funksjon og en konkret konsekvens.
Dette kan undervises uten at elever bruker generativ KI. De kan undersøke en standardsinnstilling, sammenligne vilkår, analysere et anbefalingssystem eller foreslå et alternativt design. Spørsmålet flyttes da fra «hvordan bruker vi KI?» til «hvem har bestemt at systemet skal virke slik, og hvordan kunne det vært annerledes?»
Finn ett valg i et KI-verktøy: standardspråk, tone, sortering, filtrering eller hva som lagres. Skriv hvem valget hjelper, hvem det kan overse, og ett mulig alternativ. Skill mellom det du vet og det du antar.
Velg ett verktøy skolen bruker og formuler ett konkret, dokumenterbart forbedringsbehov. Send det til riktig kontakt hos skoleeier eller leverandør, eller ta det med til neste vurdering av verktøyet.
OECD/EU (2026): AILit, domenet Forstå og forme KI (s. 40–43), Kunnskap 2 og 4.3 (s. 20) og etikkprinsippene (s. 15). CC BY 4.0.