Möjligheterna med AI är stora, men det finns även risker, bland annat för den personliga integriteten.
Att utveckla en AI-modell kräver ofta stora mängder data. Om personuppgifter ingår i den data som används måste behandlingen följa grundläggande principer i GDPR vilket kan vara problematiskt, främst när det gäller principen om ändamålsbegränsning, principen om uppgiftsminimering samt korrekthet.
innebär att personuppgifter ska samlas in för specifika, uttryckligt angivna och berättigade ändamål och inte behandlas på ett sätt som är oförenligt med dessa ändamål.
Detta är viktigt för att begränsa spridning av personuppgifter och ge de registrerade kontroll över sina uppgifter.
• Utveckling av AI och ändamålsbegränsning:
Organisationer kan vilja använda uppgifter som redan finns men som samlats in för ett annat ändamål än utvecklingen av en AI-modell.
Detta kan vara svårt eftersom principen om ändamålsbegränsning kräver att nya ändamål inte är oförenliga med de ursprungliga.
• Bedömning av ändamålsförenlighet:
För att bedöma om ett nytt ändamål är förenligt med det ursprungliga måste den personuppgiftsansvariga göra en samlad bedömning baserad på flera faktorer, inklusive kopplingar mellan ändamålen, insamlingssammanhanget och de registrerades förväntningar.
Exempel på nya ändamål: Kommuner och elleverantörer kan använda personuppgifter för nya ändamål vid användning av AI modeller, såsom att med hjälp av AI identifiera felaktiga utbetalningar eller optimera elförbrukning. Man måste då bedöma om de nya ändamålen är förenliga med de ursprungliga.
är en av de grundläggande principerna i GDPR. Den innebär att behandlingen av personuppgifter ska vara rättvis, skälig, rimlig och proportionerlig i förhållande till de registrerade även vid användning av AI modeller.
• Utveckling av AI och korrekthet:
En vanlig orsak till partiskhet, även kallat bias, är att en AI-modell lär sig de mönster av partiskhet som kan ha funnits i de data som användes för att träna modellen.
Det händer när en AI-modell lär sig de mönster av partiskhet som kan ha funnits i de data som användes för att träna modellen.
När AI-modellen sedan använder dessa inlärda mönster för att producera sina resultat kan det leda till diskriminering av individer eller grupper.
• Bedömning av data:
Den personuppgiftsansvariga bör därför utvärdera och verifiera funktionaliteten av AI-modellen innan den börjar användas för att säkerställa att den inte diskriminerar individer eller grupper av individer. Både själva behandlingen och resultatet av personuppgiftsbehandling ska vara rättvis och icke-diskriminerande. Att behandlingen ska vara rättvis innebär att personuppgifter ska behandlas på ett sätt som den registrerade kan förvänta sig. Den personuppgiftsansvarige måste därför göra noggranna bedömningar av vilka data som är relevanta och korrekta, och hur data ska viktas vid framtagandet av en AI-modell.
kräver att personuppgifter ska vara adekvata, relevanta och inte för omfattande i förhållande till de ändamål för vilka de behandlas.
Detta säkerställer att behandlingen begränsas till vad som är nödvändigt och inte blir mer omfattande än .
• Utveckling av AI och uppgiftsminimering:
När en AI-modell tränas med personuppgifter måste verksamheten särskilt ta hänsyn till principen om uppgiftsminimering.
Det kan vara en utmaning att balansera behovet av stora datamängder med kravet på att endast använda nödvändiga uppgifter.
• Strategier för uppgiftsminimering vid användning av AI modeller:
Verksamheter bör börja med att inkludera en mindre mängd data med hög relevans och kvalitet, och successivt öka omfattningen om fler uppgifter behövs. Regelbundna utvärderingar av vilka personuppgifter som är nödvändiga är också viktiga att genomföra.
Fakturaadress:
Box 407
891 28 ÖRNSKÖLDSVIK
Organisationsnummer:
CoreIT AB 556724-9429
0660-729 00 (vxl)
0660-729 99 (ServiceDesk)
E-post info@coreit.se
E-post ServiceDesk helpit@coreit.se
