Digitaliserings- og kommunikasjonssjef i Arbeid & Inkludering, Modolf Moen.
Klara.ai er nå vurdert opp mot kravene til ansvarlig KI-bruk under både EUs nye KI-lov ved hjelp av det nordiske rammeverket og verktøyet Tillitsmodellen som er under utvikling. Vurderingen bekrefter at plattformen ivaretar personvern, menneskelig kontroll og åpenhet i matchingen mellom arbeidssøkere og arbeidsgivere.
Klara.ai er den KI-baserte plattformen for jobbmatching som Arbeid & Inkludering har utviklet sammen med NHO og med støtte fra Arbeidsmiljøfondet.
Tillitsmodellen er et nordisk rammeverk og digitalt verktøy under utvikling, ledet av svenske, finske og norske digitaliseringsmyndigheter, som skal gjøre det enklere og tryggere å dele data og ta i bruk kunstig intelligens på en ansvarlig måte.
Modellen er ikke bare et rammeverk, men kommer også med et digitalt verktøy der brukerne selv kan navigere i hvordan deres systemer ligger an opp mot KI-forordningen. Arbeid & Inkludering har fått anledning til å teste modellen på Klara.ai, og gjennom en grundig egenvurdering er plattformen plassert i kategorien «begrenset risiko» – både etter Tillitsmodellen og under EUs KI-lov. Det er den nest laveste av fire risikokategorier, og innebærer at plattformen anses som trygg å bruke så lenge brukerne får tydelig informasjon om at KI er involvert.
– Dette er en viktig bekreftelse på at vi er på rett vei, men ikke et endelig mål. Å følge regelverk og etiske prinsipper er noe vi må jobbe med kontinuerlig, sier Modolf Moen, prosjektleder for Klara.ai og digitaliserings- og kommunikasjonssjef i Arbeid & Inkludering.
At Klara.ai unngår den strengeste risikokategorien, henger sammen med fire grunnleggende prinsipper. Plattformen tar ingen bindende beslutninger på egen hånd, den sorterer ikke brukere etter sensitive opplysninger, og det er alltid et menneske som har siste ord. Matchingen mellom kandidater og oppdrag bygger utelukkende på faglige forhold som oppgaver, erfaring, interesser, geografi og arbeidstid og ikke på kjønn, alder eller etnisitet. Kandidatenes personopplysninger er beskyttet ved at navn og fødselsnummer erstattes med anonyme ID-er, og bostedsinformasjon gjøres mindre presis slik at enkeltpersoner ikke kan identifiseres.
Klassifiseringen er ingen engangsøvelse. Ettersom Tillitsmodellen fortsatt er under utvikling, vil testingen på Klara.ai også gi nyttige erfaringer tilbake til arbeidet med rammeverket og det digitale verktøyet. For Arbeid & Inkludering blir modellen et sentralt arbeidsverktøy og en retningsgiver for det videre arbeidet med personvern, etikk og ansvarlig KI-bruk i plattformen. Samtidig får jobbveiledere opplæring i å gjøre selvstendige faglige vurderinger.
– Tillit er noe man må jobbe for hver eneste dag. Målet er å være en plattform som ikke bare er effektiv, men også ansvarlig, åpen og trygg for alle brukere, sier Moen.
