Så skapas AI du kan lita på

Artificiell intelligens finns i tekniken sedan decennier. Den är inte ny men används allt mer och återfinns snart i alla samhällets sektorer. Som när datorerna hamnade på våra skrivbord står vi nu genom digitalisering inför en ny nivå av effektivisering.

AI-systemen stärker digitaliseringen. Produkter och tjänster blir effektivare och mer användarvänliga. Myndighetskommunikation och beslut kan ske snabbt och rättvist. Diagnoser och rekommendationer inom sjukvården blir säkrare genom AI-analyser av enorma datamängder.

Förutom alla de regelverk som givetvis alltid ska följas kan etisk vägledning vara en hjälp när AI ska skapas och användas. På EU-kommissionens uppdrag har därför 50-talet experter från universitet, näringsliv och civilsamhälle arbetat fram ett dokument med riktlinjer för Tillitsfull AI. Riktlinjerna innehåller en beskrivande del om principer och värderingar särskilt relevanta för AI samt sju områden som anses avgörande för att skapa pålitlig AI.

Sju krav för att skapa en Tillitsfull AI:

Människans styrning och tillsyn:
AI system bör bidra till rättvisa samhällen genom att värna grundläggande rättigheter, och inte minska, begränsa eller vilseleda människors självbestämmande.

Robusthet och säkerhet:
Tillitsfull AI skapas av algoritmer som är säkra, tillförlitliga och robusta nog för att hantera fel eller inkonsekvenser under AI-systemens hela livscykel.

Integritets- och personuppgiftsskydd:
Medborgarna bör ha full kontroll över sina egna uppgifter, och personuppgifter får inte används i syfte att skada eller diskriminera dem.

Transparens:
Spårbarhet av AI-system bör säkerställas.

Mångfald, icke-diskriminering och rättvisa:
AI system bör överväga samtliga mänskliga förmågor, färdigheter och behov, och säkerställa tillgänglighet.

Bejaka samhälle och miljö:
AI system bör användas för att förbättra positiv social förändring och förbättra hållbarhet och ekologiskt ansvar.

Ansvar:
Mekanismer bör införas för att säkerställa ansvar och ansvarsskyldighet för AI-system och deras resultat.

Riktlinjerna avslutas med en ganska lång checklista att använda för de som skapar och använder AI. Tanken är att frågeställningarna i checklistan kan hjälpa företag och andra att internt analysera om man uppfyller de sju nyckelkraven för Tillitsfull AI. Checklistan kommer utvecklas och testas under resten av året. Kommissionen inbjuder alla företag och organisationer att vara med i denna pilot-process. Här hittar du anmälningssidan.