Nya AI-förordningen, detta behöver företagen tänka på

Ända sedan november 2022, när OpenAI:s verktyg ChatGPT blev tillgängligt för allmänheten, har artificiell intelligens varit ett hett debatterat område. Olika former av AI har dock använts av företag och privatpersoner i decennier. Exempel kan vara körassistenter i bilar, röstassistenter eller robotarmar. Det har dock varit så kallad smal AI som enbart utför olika förbestämda moment. Den så kallade generativa AI:n som nu har kommit skapar material och information utifrån den data som den har matats med.

– Min förhoppning är att företag börjar använda AI-lösningar precis som de tidigare framgångsrikt börjat använda datorer, internet och smartphones. Att använda sig av AI skapar produktivitetsökningar när den implementeras på rätt sätt, säger Carolina Brånby, policyexpert på Svenskt Näringsliv.

En ny förordning som ska reglera tillverkningen och användandet av AI håller för tillfället på att tas fram av EU. De politiska förhandlingarna är klara, men en hel del tekniska detaljer återstår ännu att lösa. Någon gång i januari tror Carolina Brånby att lagtexten kan vara färdig.

– Något som är bra att ha i åtanke är att AI-akten är sektorsövergripande och tänkt att täppa till de hål som finns i lagstiftningen i dag. AI är inget oreglerat område. Det finns redan i dag lagar kring produktsäkerhet, GDPR, med mera som man måste följa när man använder AI, säger Carolina Brånby.

Det nya regelverket är indelat i tre olika delar, som kommer att börja gälla vid olika tidpunkter. Vissa tillämpningar av AI kommer att förbjudas helt, och det regelverket kommer att börja gälla redan sex månader efter att förordningen antagits. Exempel på sådant som förbjuds är AI-system för social poängsättning, för ansiktsigenkänning på offentlig plats, för att manipulera människor eller för att utnyttja personer som är sårbara.

Efter tolv månader kommer regelverket för AI-modeller och system för generella ändamål att börja tillämpas. Då kommer ett antal transparens och informationskrav att ställas. Efter 24 månader kommer reglerna som rör så kallad högrisk-AI. Det kan exempelvis handla om AI-system som används inom utbildning, kritisk infrastruktur, eller som hanterar biometriska uppgifter. Arbetsgivare bör vara extra vaksamma på att även ”sysselsättning” räknas som ett högriskområde. Där ingår AI-lösningar som används exempelvis för rekrytering och urval av arbetssökande, arbetsledning, utvärdering av anställdas prestationer, med mera. Inom detta regelverk ställs även krav på samråd och information till de anställda.

– Omfattas man av regelverket bör man sätta sig in i det så snart som möjligt. 24 månader är en relativt kort tid för att implementera detta. Vi hade helst velat se längre tid så standarder hunnit utformas för att underlätta regelefterlevnaden, säger Carolina Brånby.

Det nya regelverket omgärdas av höga sanktionsavgifter. För de områden som är totalförbjudna ligger högsta sanktionsavgiften på 35 miljoner euro, eller 7 procent av bolagets globala omsättning. För övriga krav är maxbeloppet 15 miljoner euro eller 3 procent av global omsättning och hälften av de summorna om man inte kan leverera korrekt information.

– Man vill visa att det inte ska löna sig att bryta mot regelverket. Hur sanktionsavgifterna kommer att utfärdas i praktiken återstår att se, säger Carolina Brånby.