Exploring the risk governance mechanisms under the forthcoming EU Artificial Intelligence Act

Artificial intelligence (AI) promises great opportunities but also considerable risks for government and society. How to properly govern this fast-moving and complex technology is a significant challenge, which in the European Union will be addressed by the forthcoming AI Act. While the ethical principles and legislative proposals that have been advanced by the Act have gained much attention, little is known about its supporting harmonised standards or how its formal and informal governance mechanisms will relate. This project responds to this knowledge gap by developing sociological theory about the AI Act's risk governance model. Drawing on social scientific literature on AI, risk, expertise, standards and governance, it will investigate three issues: i) the major perspectives that shape the AI Act, ii) how its laws and standards interact, and iii) to what extent it meets the challenge of ensuring trust(worthiness) in AI. The empirical material will consist of official and supporting documents, and interviews with three target groups: the AI High-Level Expert Group, law makers and stakeholders involved in the Act's development, and relevant experts at the European standards organisations CEN and CENELEC . Outputs will include five peer-reviewed research publications, and a report and workshop aimed at disseminating project findings to a broad audience. The research will take three years and will be hosted by the Department of Technology and Society, Lund University.

Artificiell intelligens (AI) utlovar stora möjligheter men också betydande risker i myndigheters och samhällets tjänst. Hur AI bör styras och regleras är därför en betydande utmaning, inte minst på grund av teknikens komplexitet och snabba utveckling. I Sverige, precis som i resten av den Europeiska unionen, kommer denna utmaning till stor del hanteras genom den kommande AI-förordningen. Förslaget på AI-förordning består av formella och informella styrningsmekanismer, inklusive lag, harmoniserade standarder och andra former av efterlevnadsmekanismer. För närvarande är det dock inte tydligt hur dessa mekanismer kommer att fungera som helhet för att säkerställa förtroendet för AI användning.

Detta projekt utforskar AI-lagstiftning i ett europeiskt sammanhang med nordiskt fokus. Med utgångspunkt i sociologisk teori kommer projektet att undersöka lagstiftningens mekanismer, modeller och strategier för riskstyrning, inklusive (i) expertis och etiska principer som AI-förordningen bygger på, (ii) förhållandet mellan lagar och standarder, och (iii) i vilken utsträckning lagstiftningen kommer att reglera industrins användning av AI och styra dess övergripande utveckling. I detta är det viktigt att förstå inte bara experters roll i identifiering och hantering av risker, utan också hur AI förstås och upplevs av allmänheten. Det empiriska materialet kommer att bestå av officiella och stödjande dokument, och intervjuer med tre målgrupper: EU AI High-Level Expert Group, lagstiftare och intressenter som är involverade i lagens utveckling, samt relevanta experter vid de europeiska standardiseringsorganisationerna CEN och CENELEC.

Forskningsprojektet är treårigt och förlagt vid Institutionen för Teknik och Samhälle, LTH, Lunds universitet. Det kommer att resultera i åtminstone fem forskningspublikationer, en rapport och workshop som syftar till att sprida projektresultat till en bredare publik inklusive företrädare för den offentliga sektorn.