Ny teknologi – tre utfordringer for menneskerettighetene

Av spesialrådgiver Cecilie Hellestveit

Menneskerettigheter skal i hovedsak beskytte sårbare grupper. Teknologiutviklingen reiser derimot menneskerettighetsutfordringer som ikke bare rammer utsatte grupper, men hele befolkningen. I møte med teknologien er vi alle sårbare.

Teknologiske løsninger gjør det lettere for myndighetene å oppfylle en rekke menneskerettigheter, som rett til tilgang på informasjon, ytringsfrihet, rett til utdannelse og helse, men samtidig skaper teknologiutviklingen noen betydelige menneskerettslige utfordringer. Her er tre av dem:

1. Digital overvåkning og retten til privatliv

Teknologi setter gjerne spørsmål om kolliderende menneskerettigheter på spissen. Forsamlingsfrihet, organisasjonsfrihet og ytringsfrihet lar seg i større grad realisere med den digitale teknologiutviklingen. Samtidig muliggjør digitalisering overvåkning av enkeltmennesker og grupper i en skala og av en karakter verden aldri før har sett. 

Ny teknologi åpner for nye måter å samle inn, beholde, analysere og bruke kommunikasjonsdata. Da Folkehelseinstituttet lanserte smittevernappen «Smittestopp» våren 2020, sto retten til liv og helse mot retten til privatliv. Kan en applikasjon som er lastet ned frivillig være et «inngrep» i retten til privatliv etter EMK artikkel 8? Datatilsynet konkluderte med at appen ikke tilfredsstilte kravene til personvern, og den ble trukket tilbake. Saken illustrer viktigheten av at uavhengige organer vurderer reglene når presserende samfunnsutfordringer krever raske løsninger som teknologien kan gi oss. 

Kunstig intelligens fungerer gjerne bedre desto mer informasjon den har tilgang på og kan analysere. Etter hvert som maskinene utvikles, er det lett å se for seg at det vil oppstå press på å mate inn så mye informasjon som mulig for å søke mer presise eller «perfekte beslutninger». Et eksempel er medisinske diagnoser. Autonome informasjonssystem for beslutningsstøtte kan gi hver pasient raskere og mer presise medisinske diagnoser, og et individuelt tilpasset behandlingsopplegg med større grad av treffsikkerhet og færre bivirkninger. Jo mer relevant informasjon som samles om hver enkelt, desto bedre vil teknologien kunne tjene oss både som individer og som fellesskap. Baksiden av medaljen er at det slik kan skapes et betydelig press for informasjonsdeling og samtykke som etter hvert vil kunne gjøre retten til privatliv illusorisk.

Grensedragningen mellom retten til privatliv på den ene siden og mulighetene digital overvåkning gir for å imøtekomme andre menneskerettigheter på den andre siden er et tema hvor rettsutviklingen går i flere retninger. I Den europeiske menneskerettsdomstolen (EMD) ligger nå saker om masseovervåkning til behandling i storkammeret som vil få betydning for oss. Norge har også sluttet seg til EUs personvernforordning GDPR, som EUs organer håndhever svært strengt. Rettsutviklingen rundt retten til privatliv i en digitalisert verden er komplisert og kontroversiell, men vil bli svært viktig for menneskerettighetenes kår i vår nye teknologiske virkelighet.

2. Kunstig intelligens og diskriminering – når algoritmer forsterker fordommer eller skaper nye

Kunstig intelligens, selvlærende maskiner og maskiner med stor lagringskapasitet og evne til å finne nye koblinger, gir uante muligheter for samfunnsmessig fremgang. Regjeringens strategi for kunstig intelligens som ble fremlagt i januar i 2020 viser at autonome beslutningssystemer og beslutningsstøtte er i ferd med å bli del av vår nye virkelighet. Maskinene gir oss mer kunnskap, og beslutningsprosesser kan både gå fortere og være mer treffsikre. Teknologien kan bidra til å redusere «vilkårlige» skjønnsmessige beslutninger og øke likebehandling. Det gir gevinst for den enkelte og det er bra for samfunnet som helhet.

Samtidig er det en fare for at kunstig intelligens kan forsterke eksisterende diskriminerende tendenser eller skape helt nye former for diskriminering som bryter med vernet mot diskriminering. Maskinenes algoritmer lages per i dag av mennesker, og maskinene kan derfor arve våre stereotypier og forutinntatthet. I tillegg kombinerer maskinene etter hvert informasjon på nye måter. Enkelte skillelinjer, som kjønn, etnisitet og religion, er karakteristika som for en rekke beslutninger ikke kan tillegges vekt etter menneskerettighetene, for eksempel på arbeids- eller boligmarkedet. Selv om vi bevisst skjuler slike opplysninger for maskinen, gjør summen av andre opplysninger at selvlærende maskiner likevel kan slutte seg frem til disse kjennetegnene. Dersom metadata tilsier at det er en viktig faktor, vil autonome systemer dermed kunne ende med å vektlegge faktorer på måter som vil bryte med menneskerettighetene. Maskinenes veier til beslutninger kan etter hvert bli bokstavelig talt uransakelige. Kravene til åpenhet og begrunnelser må derfor tilpasses en teknologisk virkelighet på måter som tilfredsstiller menneskerettighetene og diskrimineringsvernet. 

3. Ansvarsfordeling

Statlige myndigheter har positive og negative menneskerettighetsforpliktelser som sier noe om hva staten må gjøre aktivt og hva staten må unnlate å gjøre for å oppfylle sine forpliktelser i Norge. En av teknologiens vidunderlige effekter er at den reduserer betydningen av geografi. Teknologi gir derfor store fordeler for statlig styring i et langstrakt land som Norge. Samtidig bringer teknologien hele verden til oss, og også andre staters myndigheter eller utenlandske rettssubjekter kan interagere direkte med norske borgere på norsk territorium ved digitale hjelpemidler. For eksempel kan utenlandske myndigheter benytte digitale virkemidler til å nå egne statsborgere som har opphold i Norge og foreta inngrep i deres hverdag i strid med flere menneskerettigheter. Når teknologi muliggjør menneskerettighetsbrudd i Norge gjennom inngripen fra andre stater eller utenlandske selskaper som verken er under norsk kontroll eller jurisdiksjon, oppstår nye problemstillinger rundt hvem som skal holdes ansvarlig for menneskerettighetsbrudd. Teknologiutviklingen reiser derfor noen helt nye spørsmål knyttet til hvilke positive og negative menneskerettighetsforpliktelser som hviler på norske myndigheter.

I 2020 satte NIM i gang et arbeid med menneskerettigheter og teknologi, der formålet er å kartlegge og skissere opp hvilke overordnede hovedproblemstillinger teknologiutviklingen reiser for menneskerettighetene og norske myndigheters menneskerettighetsforpliktelser i dag og i årene fremover.