HALLÅ DÄR! Virginia Dignum – professor i ansvarsfull AI

Hon sitter i FN:s AI-panel som tagit fram riktlinjer för hur den nya tekniken ska hanteras globalt. Men vad gäller för de minsta företagen, och vad är viktigt att tänka på som småföretagare? Virginia Dignum, professor i artificiell intelligens vid Umeå universitet, förklarar.

Vad är ansvarsfull artificiell intelligens, AI?

– Utgångspunkten är att AI har effekter på samhället, och att systemen behöver utvecklas på ett etiskt sätt. Till exempel handlar det om att utveckla system som är robusta, pålitliga och transparenta, med tydliga processer för att hantera eventuella fel.

Vad är viktigt för småföretag att tänka på vid användning och utveckling av AI?

– Småföretag ska bara använda och utveckla artificiell intelligens som följer etablerade riktlinjer för ansvarsfull AI. Det gör arbetet enklare och man undviker misstag och säkerställer att systemen är pålitliga. Det enklaste är att följa EU:s riktlinjer, OECD har till exempel en bra webbplats med konkreta steg att följa.

– Men eftersom det ännu är svårt att avgöra kvaliteten på olika AI-system, bör småföretagare ställa frågor om systemen innan de använder dem. Till exempel vilken typ av data som har använts för att träna systemet, hur systemet testats, om det går att använda i flera sammanhang, och vad som händer vid en eventuell krasch.

Finns det motsättningar mellan strikta regleringar och innovation på området?

– Nej. AI står inte i konflikt med innovation, tvärtom. Ta bilen till exempel, den vill ingen använda om den inte har bromsar, säkerhetsbälten eller krockkuddar. Allt det finns för att skydda oss, och säger ingenting om att bilens motor inte kan vara mycket innovativ. Samma gäller med AI. Vi måste se till att motorn, alltså AI-systemen och algoritmerna, är så bra som möjligt.

– Regleringar stimulerar innovation genom att ”tvinga” företag att komma på nya idéer för hur de kan utveckla system som både är effektiva och ansvarsfulla.

Skulle till och med ansvarsfull AI kunna fungera som en konkurrensfördel?

– Definitivt. Precis som ekologiska äggproducenter profilerar sig som miljövänliga för att differentiera sig från dem som inte är det. Genom att prioritera etiska och rättvisa aspekter av AI-lösningar kan företag skapa en unik identitet och locka kunder som värderar ansvarsfull teknik.

Vilka är dina råd till svenska beslutsfattare för att uppmuntra ansvarsfull AI inom näringslivet och andra sektorer?

– Det är viktigt att jobba med morötter, inte bara piskor, när det kommer till AI-utveckling. Därför bör beslutsfattare skapa incitament som uppmuntrar företag att använda AI på ett ansvarsfullt sätt. Exempelvis kan företag som har energisnåla system få vissa skattelättnader. Och AI-system som garanterar rättvisa eller transparens kan prioriteras i offentliga upphandlingar.

Vilka är dina förhoppningar kring AI-utvecklingen den närmaste framtiden?

– Jag hoppas att framtiden bär med sig mer inkluderande, rättvisa och energieffektiva AI-system. Det är viktigt att småföretag, utvecklare och beslutsfattare själva tar ansvar för att skapa etiska och hållbara system, snarare än att förlita sig på de stora techbolagen.

Kontakta virginia.dignum@umu.se

Mer om Virginia Dignum
Virginia Dignum är ursprungligen från Portugal och är professor i ansvarsfull AI vid Umeå universitet, där hon varit i sex år. Hon leder AI Policy Lab, som är ett tvärvetenskapligt labb som arbetar med och forskar om AI-styrning och AI-policy. Under de senaste 20 åren har hennes forskning främst handlat om effekterna av att utveckla intelligenta system och hur det påverkar samhället, samt hur vi kan utveckla dem för att göra de mer pålitliga och ansvarsfulla. År 2020 var hon nominerad till årets AI-svensk för sitt arbete.

Läs också:
Rapporten om de riktlinjer som FN:s AI-panel har tagit fram

OECD:s riktlinjer för ansvarsfull AI

Hallå där! Magnus Mähring – expert på artificiell intelligens