EU: AI-förslag kan röra till rättsläget

EU-kommission har presenterat ett nytt lagförslag för hur artificiell intelligens, AI, ska regleras i unionens medlemsländer. Ambitionen är att upprätta en juridisk ram för AI i syfte att garantera människors och företags säkerhet och grundläggande rättigheter i förhållandet till AI-produkter.

Lagförslaget rankar AI-system efter en riskbaserad metod där de som bedöms ha en oacceptabel risk förbjuds helt. Det gäller AI som anses utgöra ett hot mot människors säkerhet, rättigheter och möjligheter att försörja sig. EU vill exempelvis förbjuda användningen av AI för att betygsätta sina invånare efter en social skala, som sker i Kina.

Nästa steg på rankingen är AI med hög risk. Hit räknas till exempel ansiktsigenkänning, som föreslås förbjudas på allmänna platser men undantag kan ges till polisen vid brottsutredningar. Kommissionen ser också stora risker med AI när det gäller anställningsförfaranden, transporter, utbildning, bidragssystem och rättsväsende.

För enklare AI-system som bedöms ha låg risk, till exempel spam-filter för mejl och dataspel behövs ingen särskild lagstiftning.

Det nya lagförslaget diskuterades nyligen på ett webbinarium arrangerat av Svenskt Näringsliv. Juristen Daniel Westman, som tagit fram rapporten ”Vem tar ansvar för AI?”, menade att EU-kommissionen missat möjligheten att gå till botten med hur riskerna med AI kan hanteras inom det befintliga regelverket.

– AI är inte oreglerat idag utan det finns ett fungerande regelverk, där det behövs vissa förtydliganden och reformer. Det nya förslaget innebär en bred rättslig reglering som lägger sig över redan befintliga regler. Det känns som att kommissionen inte riktigt analyserat hur man bäst skulle kunna reglera vissa delar. Men nu har vi det här förslaget på bordet och vi måste göra det bästa av det.

Daniel Westman menade att olika lagstiftningar kan röra till rättsläget.

– Det är viktigt att det inte blir för många lager av lagstiftning som komplicerar till det. När det gäller högrisk-AI handlar diskussionen om vad det ska träffa. Inom den gruppen kan det finnas olika nivåer och det kanske inte är fullt motiverat att det ska gälla för alla. Det som är relevant i bilindustrin kanske inte är det för något annat.

Daniel Westman underströk också betydelsen av att all reglering måste vara förutsebar, proportionerlig och inte bidra till att snedvrida konkurrensen. EU-kommission hotar företag som bryter mot regelverket med höga böter, upp till 6 procent av årsomsättningen eller upp till 30 miljoner euro.

– EU-kommissionen tar i så man spricker med sanktionerna och där kan man diskutera proportionaliteten. Jag tror att vi kommer att få mycket diskussion kring att kommissionen får mycket makt när det gäller att bestämma vad som blir tillåtet eller inte med det nya förslaget. Det är tveksamt för rättssäkerheten, sa Daniel Westman.

Hema Lehocky, chief ethics and compliance officer på det svenska ingenjörs- och designföretaget AFRY (tidigare ÅF), menade att det behövs en lag som reglerar AI eftersom samhället förändrats.

– Det är ett intressant, modigt och ambitiöst lagförslag som blir verklighet och det måste vi förhålla oss till. Jag kan dock tycka att listan över vad som är högrisk-AI är väldigt bred.

Carolina Brånby, jurist och ansvarig för digital policy vid Svenskt Näringsliv, frågade henne hur små och medelstora företag ska kunna klara utmaningen med all den nya lagstiftning som kommer inom digitaliseringen.

– Det är en jättestor utmaning för saken är den att om man hamnar snett när man implementerar en lagstiftning då kommer man att paralysera verksamheten. Men hamnar man rätt är det förlösande och det är den ambitionen EU-kommissionen har. Det är svårt att säga just nu hur det blir, svarade Hema Lehocky.

Svensk Handel representerades av juristen Sofia Stigmar som uppgav att AI-utvecklingen är något som pågått länge inom handeln med allt från självkörande bilar på lagren, automatiserad inventering av lager till planering av prissättning och inköp, chattar och annat.

– AI är väldigt viktigt för oss för att vi ska kunna fortsätta att vara globala och konkurrenskraftiga. Kunderna finns idag på en global marknad, e-handeln växer och vi kan nå konsumenter på andra sidan jordklotet. Det är viktigt att vi kan fortsätta att vara konkurrenskraftiga och det blir vi med hjälp av AI. Därför kommer den nya lagstiftningen att bli en central fråga för oss, sa Sofia Stigmar.

Fredrik Heintz, biträdande professor i datavetenskap vid Linköpings universitet menade att det nya lagförslaget rör saker som redan är förbjudna.

– Intentionerna är goda men det svåra är hur lagstiftningen ska realiseras. Det bedrivs redan mycket forskning och det finns metoder på gång för att hantera utmaningarna som finns. Det är också intressant att man ändrat definitionen av AI:s system som är helt annorlunda än tidigare, sa han.

Det nya lagförslaget bedöms bli verklighet om tre-fyra år.