Information Commissioner's Office (ICO) undersöker för närvarande möjligheten att granska artificiell intelligens (AI) system ur ett dataskydds- och integritetsperspektiv. Tanken bakom detta är att säkerställa att dessa system hanterar personuppgifter på ett rättvist, öppet och säkert sätt, i enlighet med principerna i Storbritanniens dataskyddslag 2018 (DPA 2018).
ICO tittar på olika metoder för granskning av AI-system. En möjlig metod är att använda automatiserade verktyg för att bedöma systemets överensstämmelse med relevanta dataskydds- och integritetsbestämmelser. Dessa verktyg kan analysera de databearbetningsoperationer som utförs av AI-systemet, identifiera eventuella risker för personuppgifter och föreslå korrigerande åtgärder. Detta tillvägagångssätt kan vara särskilt användbart i fall där AI-systemet är komplext och involverar stora mängder personuppgifter.
Ett annat tillvägagångssätt är att utföra en manuell granskning av AI-systemet. Detta involverar en mänsklig revisor som undersöker systemets design, implementering och operativa processer för att identifiera dataskydds- och integritetsrisker. Manuella granskningar är ofta mer grundliga och kan avslöja problem som automatiserade verktyg kanske inte kan upptäcka. Men de kan också vara mer tidskrävande och kostsamma.
ICO överväger också en kombination av automatiserade och manuella revisionsmetoder, vilket gör att organisationer kan dra nytta av styrkorna i båda metoderna. Detta kan uppnås genom att använda automatiserade verktyg för att identifiera potentiella dataskydds- och integritetsrisker, följt av manuella granskningar för att validera och undersöka dessa risker ytterligare.
ICO:s arbete med att granska AI-system är fortfarande i ett tidigt skede, och det slutliga tillvägagångssättet kommer sannolikt att bero på faktorer som AI-systemets komplexitet, volymen av personuppgifter som behandlas och organisationens resurser. Genom att utveckla vägledning och bästa praxis för granskning av AI-system syftar ICO till att hjälpa organisationer att följa dataskydds- och integritetslagar och samtidigt främja innovation och ansvarsfull användning av AI-teknik.
