Hvordan ser KI?

KI gjenkjenner mønstre; den ser ikke som oss

For en bildemodell er et bilde tall. Under trening lærer modellen hvilke mønstre i disse tallene som ofte henger sammen med merkelapper som «hund», «sykkel» eller «tekst». Når den møter et nytt bilde, beregner den hvilke kjente mønstre bildet ligner mest på. En multimodal modell kan koble slike bildemønstre til tekst, men har fortsatt ikke menneskets erfaring av motivet eller situasjonen.

Forskjellen mellom gjenkjenning og forståelse viser seg når bildet avviker fra treningsdataene: en uvanlig vinkel, dårlig lys, et delvis skjult objekt eller en sammenheng modellen ikke kjenner. Et menneske kan bruke erfaring og kontekst for å korrigere førsteinntrykket. Modellen har bare mønstrene den er trent på og den informasjonen den får nå.

Dette får betydning når systemet brukes på mennesker. Hvis noen grupper, uttrykk eller situasjoner er dårlig representert i treningsdataene, kan feilene bli skjevt fordelt. En teknisk feil kan da få praktiske konsekvenser, særlig ved identifisering, adgang eller vurdering. Spør derfor både hvor ofte systemet tar feil, og hvem det oftest tar feil av.

Bildegjenkjenning kan gi en konkret inngang til KI-undervisning, men personvernet gjelder fortsatt. Ikke last opp bilder av elever, kolleger eller andre identifiserbare personer i en tjeneste med mindre skoleeier har godkjent akkurat verktøyet og formålet. Bruk gjenstander, egne enkle tegninger eller materiale som er laget for øvelsen. Da kan elevene undersøke mekanismen uten at undersøkelsen samtidig blir en behandling av personopplysninger.