Lagförslag om AI börjar ta form

Det franska ordförandeskapet har nyligen offentliggjort en kompromisstext till medlemsstaterna, men det kan fortfarande vara långt kvar till att nå en överenskommelse om AI-Act. EU-parlamentet inleder idag sitt arbete i IMCO/LIBE kommittén med åsiktsutbyte om kommissionsförslaget och den första frågestunden kommer att äga rum den 23 mars. I november ska parlamentet ha omröstning i plenum. Om medlemsstaterna i Rådet enats om sin förhandlingsposition till dess kan trialog-förhandling påbörjas för att nå slutgiltig formulering av lagtexten.

EU-kommissionens förslag till AI Act är tänkt att skapa tillit till AI, vilket är avgörande för att förverkliga ökad användningen av AI. Användningen av AI-lösningar är viktig för konkurrenskraft, säkerhet, god kundupplevelse och tillhandahållande av effektiv och korrekt service till medborgarna.

Men det finns en betydande oro bland Svenskt Näringslivs medlemsföretag att AI Act är alldeles för omfattande och med många vaga rättsliga begrepp för att kunna stödja ökad användning av AI och EU:s konkurrenskraft. EU-kommissionens förslag skulle vara svårt att tillämpa i praktiken och medföra ökade kostnader. AI lagförslaget detaljreglerar, överlappar och strider mot andra regelverk på ett sätt som få företag kan hantera. Det medför orealistiska kostnader och administrativa bördor, inte minst för nystartade företag och små och medelstora företag.

Det franska ordförandeskapets kompromissförslag från den 13 januari innehåller flera viktiga förtydliganden. Begreppet ”risk” har nu förtydligats till risker för ”hälsa, säkerhet och grundläggande rättigheter med tanke på det avsedda syftet med högrisk-AI-systemen” som inte kan ”rimligen mildras eller elimineras genom utveckling eller utformning av AI-system med hög risk eller tillhandahållande av adekvat teknisk information” (artikel 9).

Ordförandeskapets förslag begränsar data- och datastyrning till krav på ofullständiga data (skevheter) som ”sannolikt kommer att påverka människors hälsa och säkerhet eller leda till diskriminering som är förbjuden enligt unionsrätten” (artikel 10). I texten klargörs nu att datamängderna måste vara felfria ”i bästa möjliga utsträckning”.

Kraven på teknisk dokumentation (artikel 11) och registerföring är fortfarande överlag mycket besvärliga (artikel 12). Dessa skyldigheter kommer att bli mycket svåra att uppfylla för en mängd AI-lösningar. Dessutom innehåller Annex IV fortfarande utmanande skyldigheter när det gäller teknisk information. Det är tveksamt om det ens är möjligt att ge myndigheterna den information som där efterfrågas.

Kompromissförslaget innehåller flera förbättrade skrivningar men ytterligare omarbetningar behövs för att skapa ett tydligt regelverk med realistiska krav. Det är viktigt att förordningen om AI-system med hög risk står i proportion till förordningens syfte (artikel 6). I stället för att oproportionerligt ställa krav på arbetsstrukturen inom företag bör det som är olagligt (inte önskvärt) regleras. Artiklarna 8–29 måste ses över och göras om ytterligare. Att med lagtext skapa en omfattande efterlevnadsstruktur för teknikutformning är olyckligt, komplicerat och obefogat betungande.

En rad potentiella risker i samband med användningen av AI-teknik är redan reglerat i unionens produktsäkerhetslagstiftning, som säkerställer att produkter som släpps ut på den inre marknaden uppfyller höga hälso- och säkerhetskrav och att sådana produkter kan cirkulera fritt.

Användningen av AI fråntar inte företag deras ansvar enligt redan tillämpliga lagar och förordningar. Om reglering inte är tillräcklig på vissa områden bör den där kompletteras på ett teknikneutralt sätt som varar över tid för att säkerställa efterlevnad och ett bra investeringsklimat.

Allt går inte att lösa med en klumpig överreglering i AI Act om EU ska öka AI-användningen och skapa tillit till AI-tekniken.

För mer information, läs Svenskt Näringslivs positionspapper.