EU-kommissionen har presenterat en strategi för hur man både ska kunna vara världsledande på artificiell intelligens, AI, samtidigt som medborgarnas rättigheter inte kränks av teknologin. "Tekniken är ett viktigt verktyg som politiken kan använda för att lösa existerande utmaningar och skapa ett modernt samhälle", skriver juristen Carolina Brånby.
Debatten om övervakningssamhället, kartläggning av medborgare och profilering av konsumenter är ett viktigt led i att ta klivet in i framtiden. Europa vill satsa på etik för att säkra en utveckling som utgår från människans bästa och stärka tilliten till den digitaliserade världen.
I Europa och övriga världen pågår en diskussion om etiskt användande av artificiell intelligens. En mängd organisationer och företag har redan satt upp etiska koder. I Europa har riktlinjer för hur tillitsfull AI ska skapas tagits fram. I Sverige har IT & Telekomföretagen föredömligt publicerat en branschkod för ansvarsfull AI för att bidra till ett mänskligt samhälle, förtroende för AI och hållbarhet.
Genom lagar om till exempel produktsäkerhet och produktansvar har vi hittills reglerat det farliga och olämpliga. Regelverken skyddar invånarna och miljön. I den digitala miljön är det främst personuppgifter som behöver skyddas. Där finns ett omfattande dataskyddsregelverk på plats sedan 2018 med GDPR som bas. Integritetsfrågorna är de mest kontroversiella aspekterna av digitaliseringen. För produktion, produkter och tjänster är tillitsfrågan mycket viktig. Att säkra integritets- och sekretesskydd kombinerat med relevanta säkerhetsnivåer på it-systemen är grundläggande för tilliten. Därtill kommer människors behov av att förstå hur och vad ny teknik och nya system skapar. Av de krav som ställs på etisk AI är sannolikt transparens viktigast för att vinna och upprätthålla tillit till AI.
Den tekniska utvecklingen har dock kommit till en nivå som för gemene man är svårt att greppa men också svår att övervaka för myndigheter. Politiker söker vägar att reglera både framtagande och utfall av AI-systemen. Den tekniska utvecklingen har pågått i decennier men nu framträder en ny nivå på komplexitet i systemen. Vi har system som kan formulera och ta beslut och som förändrar processer, miljöer och uppbyggnad av samhällen. Tekniken kan tyckas konkurrera med politiken om att styra samhällsutvecklingen, men teknik är ett viktigt verktyg som politiken kan använda för att lösa existerande utmaningar och skapa ett modernt samhälle.
Därför bör inte politiska ingripanden stänga möjligheten till ytterligare innovation eller inlåsning av nuvarande teknik på grund av ouppdaterad lagstiftning och äldre praxis. Det är viktigt att förbli neutral mot själva tekniken och istället fokusera på principbaserade regler som är teknikneutrala och därmed relevanta under längre tid. Eftersom teknikutvecklingen går fort finns dessutom en stor fördel med självreglering framför stiftande av lagar.
AI-tillämpningar omfattar så mycket att AI visat sig svårt att enkelt definiera. Eftersom den politiska viljan är stor att göra Europa mer digitaliserat och konkurrenskraftigt genom AI-lösningar och tillämpningar är det viktigt att dela upp användandet i olika sammanhang och efter vem som ska använda tjänsten. Är det industriell produktion, en plattforms hantering av företagskunder, administration och ekonomi, tjänst till konsument eller är det offentlig verksamhet som levererar en tjänst eller ett beslut till medborgare?
Kraven kopplade till AI-användning borde därför tydligt delas upp beroende på sammanhang och användare. Är det industrin, kunder eller myndigheter som är användare? Att skapa ett horisontellt förhållningssätt för alla branscher kommer inte stärka konkurrenskraften utan snarare bli en ny regelbörda med allt vad det innebär i form av osäkerhet, tidsåtgång och kostnader. Det är stor skillnad på att effektivisera produktion eller administration och individanpassa behandlingar eller utbildning.
I EU-kommissionens strategi för att skapa Europas digitala framtid föreslås olika regler beroende på sektor och olika typer av risk med AI-användning. Det är ett förslag som tål att arbeta vidare med. Om vi ska skapa Europas digitala framtid gäller det att ha visionen klar så att vi inte begränsar de digitala möjligheterna i Europa.
Kommissionens strategi för data och vitbok om tillitsfull AI är de första stegen mot målet om ett europeiskt samhälle som drivs av digitala lösningar som sätter människor först, öppnar upp nya möjligheter för företag och ökar utvecklingen av pålitlig teknik för att främja ett öppet och demokratiskt samhälle och en stark och hållbar ekonomi.
Kommissionens vitbok om AI innehåller en plan för tillitsfull AI som baseras på spetskompetens och förtroende. Enligt Kommissionens förslag ska tydliga regler gälla för högrisk-AI-system utan att lägga för mycket börda på mindre riskfyllda. För fall med hög risk, såsom inom polis, transportsektor och sjukvård, bör AI-system vara transparenta, spårbara och garantera människors integritetsskydd. Strikta EU-regler för konsumentskydd, för att hantera orättvisa affärsmodeller och för att skydda personuppgifter och integritet fortsätter att gälla. Alla AI-applikationer är välkomna på den europeiska marknaden så länge de följer EU: s regler.
Målet med datastrategin är att se till att EU blir en förebild och en ledare för ett datadrivet samhälle. För detta syfte ska en inre marknad för data skapas. I en dataspace tillgängliggörs data så att den kan flöda fritt inom EU och mellan sektorer till förmån för företag, forskare och offentlig verksamhet. Data som inte utgör personuppgifter ska vara tillgängliga för alla.
Det digitala Europa ska formas genom åtgärder inom tre områden: