Tre ting du må huske på når du bruker KI-tech som Copilot

Photo by Marcel Eberle on Unsplash

Kunstig intelligens rulles nå ut i veldig mange plattformer. Vi er 1,5 år etter at ChatGPT ble lansert på forbrukermarkedet 30. november 2022. Plattformer som Microsoft 365 har tatt i bruk denne teknologien på ulike måter, f.eks. i Copilot.

NTNU publiserte for en tid tilbake siden en rapport fra deres pilot hvor de har testet Copilot i M365. Dette var en del av sandkasseprosjektet til Datatilsynet. Og Datatilsynets rapport vil komme engang ila høsten.

Jeg synes rapporten til NTNU er skikkelig interessant. Dette er de tre tingene jeg sitter igjen med etter å ha lest den.

1. Du må skjønne hvordan KI-teknologi fungerer

For å bruke KI. Må du forstå hva den er, hva den kan gjøre og hva den ikke kan gjøre. Dette virker selvsagt, men la meg understreke at dette både er for at du skal kunne oppfylle krav til personvern (og snart også AI Act) og for at du skal kunne bruke teknologien effektivt.

Du må forstå teknologien før å kunne forklare den til «brukerne dine». Verktøy som Copilot vil behandle personopplysninger.

Copilot kan nemlig sammenlignes med en digital kopi av deg. Den har alle de samme tilgangene som du har, til chat på teams, epostene dine, alle dokumenter som du har tilgang til, både de private du har lagret på jobb-PCen og til alle SharePoint-rom som du noensinne har fått tilgang til.

Det er åpenbart at den vil behandle personopplysninger, og da må du ha oversikt over hvilke, og du må kunne forklare hvordan den fungerer til de registrerte.

Å forstå teknologien er en forutsetning for at du skal kunne bruke den effektivt. Dette er det skrevet mye om, men generativ AI som Copilot, er ikke sannhetsmaskiner.

Basert på hva du ber den om å gjøre, gir den deg et svar i form av en tekst. En tekst som er det sannsynlige svaret på det du har spurt om.

AIen forstår ikke svaret på samme måte som et menneske. En måte å forklare dette på kan være at en mindre moden AI, vil kunne gi deg et svar som ikke gir mening innholdsmessig, men som gir grammatisk mening.

Jeg kan ikke understreke mange nok ganger hvor viktig akkurat dette er å forstå for at du eller virksomheten din skal kunne ta stilling til hvordan du bør bruke AI.

Og dette er en flott overgang til det neste poenget:

2. KI fungerer best når du allerede er en ekspert – ellers vil den kunne påvirke beslutningene dine

For at KI skal fungere best, må du kunne faget ditt. Dette er nært knyttet til hva KI er og hva den ikke er. Den er ikke en sannhetsmaskin, men den gir deg det svaret som er det mest sannsynlige.

Det betyr at du VIL måtte overprøve den. Noe som fordrer at du allerede kan fagfeltet ditt.

Det jeg synes rapporten fra NTNU viser er at KI kan hjelpe deg som fagperson å gjøre jobben din mer effektivt. Men den er også tydelig på at hvis du ikke kan fagfeltet, vil KI noen ganger styre deg i feil retning. Rett og slett fordi du ikke vet nok til å stoppe den.

Det er her jeg ser den risikoen for å komme inn på forbudet mot automatiserte avgjørelser i GDPR artikkel 22, særlig når det kommer til saksbehandling. Kort fortalt sier denne bestemmelsen at du ikke kan bruke KI til å ta en automatisert beslutning som får «rettsvirkning» for en person.

For at noe skal være en automatisert beslutning holder det at et menneske ikke er involvert på en meningsfull måte i beslutningsprosessen.

Og her ser vi tydelig risikoen for at et menneske som ikke kan faget godt vil stole fullt og helt på den KI-genererte teksten som svarer på om en person f.eks. skal få innvilget en søknad om idk borteboerstipend.

Så den tingen jeg tar med meg fra dette poenget i rapporten er at en virksomhet må ta bevisste valg om hvordan KI skal brukes, hvor i organisasjonen den vil være nyttig og hvor i organisasjonen den vil være direkte skadelig.

Min tommelfingerregel er noe à la dette: jeg vil bruke KI for å effektivisere arbeidet mitt på områder jeg allerede kan, ikke til nye ting eller på en måte som tar fra meg «agency», min selvstendighet eller handlekraft.

Og hvis jeg skal bruke den til læring, må jeg dobbeltsjekke kildene den gir meg. Og da er det kanskje ikke verdt det for meg.

3. Organisasjonen din må være ganske moden for kunne bruke KI på en nyttig måte

Rapporten til NTNU understreker at en organisasjon må være ganske moden for å kunne ta i bruk KI på en nyttig og effektiv måte.

I dette ligger det flere ting:

• Du må ha en organisasjon som evner å ta stilling til hvor i organisasjonen et KI-verktøy vil være nyttig, og hvor det vil være skadelig. Det betyr at du må kjenne organisasjonen din ganske godt.

• Du må ha strukturer på plass for å kunne øke kompetansen hos egne ansatte. Ansatte må forstå hva KI er og hva det ikke er for å kunne bruke det effektivt.

• Copilot er en type teknologi som bruker all informasjon som den kommer over i virksomheten din. En av risikoene som NTNU beskriver, er at den bruker ALL informasjon, også mer uformelle informasjonskilder som chat og e-post.

• Dette kan justeres, noe som fordrer at du har en IT-infrastruktur hvor noen faktisk kan skru på disse innstillingene. Men det fordrer også at du har kontroll på dokumenter og informasjon i virksomheten din, formelt kalt «informasjonsforvaltning».

Min erfaring er at virksomheter notorisk er veldig dårlige på informasjonsforvaltning. Det tar tid å klassifisere, og klassifisering er ofte avhengig av at folk husker å klassifisere. Det vil si gjøre ENDA en ting på toppen av alle andre arbeidsoppgaver.

• Til slutt kommer alle krav til personvern og snart også krav fra AI Act, som virksomheten din også må ta inn over seg. For KI-teknologi som bruker personopplysninger må du både oppdatere alt du har gjort på personvern, OG du vil måtte finne ut hvilke nye krav som kommer i AI Act.

Det forutsetter at virksomheten din allerede er ganske god på personvern, har internkontroll og etterlevelsesdokumentasjon som behandlingsprotokoll på plass, og evner å gjennomføre nye etterlevelsesøvelser. Alt dette krever modenhet.

Og nei, jeg tviler på et noen av oss blir arbeidsledige med det første!

Denne bloggposten er basert på nyhetsbrevet mitt om personvern. Driver du med personvern og kunne tenke deg støtte i form av et ukentlig nyhetsbrev? Meld deg på her!