.png)
När är ett AI-system "högrisk"? – Gråzonerna som skapar huvudvärk
Vi använder en AI-modell för att automatisera vissa rekryteringsprocesser. Enligt de nya reglerna verkar det landa i kategorin "högrisk". Innebär det att vi måste sluta använda verktyget helt, eller hur ser processen ut för att faktiskt få fortsätta?
4 Views
Att ett AI-system klassificeras som högrisk innebär inte automatiskt att det måste sluta användas. Syftet med reglerna är snarare att ställa högre krav på dokumentation, riskhantering, transparens och mänsklig kontroll. För AI som används i rekryteringsprocesser kan det exempelvis krävas att ni kan förklara hur systemet fungerar, övervaka dess resultat och säkerställa att det inte leder till otillbörlig diskriminering. Den exakta processen beror på hur verktyget används och vilken roll ni har som användare eller leverantör. Om ni vill förstå vilka skyldigheter som gäller kan en genomgång med Lundbergs Law AI act vara ett bra första steg.