Hållbar AI - AI Ethics and Sustainability

AI verkar redan idag inom sektorer som finans, juridik och sjukvård. Blickar vi framåt spår vi en hisnande utveckling och enorma vinster för samhälle, företag och individer. Men, AI-system integreras idag i existerande sociala och ekonomiska områden utan förutsättningar för att kunna mäta och utvärdera implikationerna utifrån ett samhällsekonomiskt, socialt, etiskt och juridiskt perspektiv. AI skalar på ett nytt och autonomt sätt med låg transparens, förutsägbarhet och förmåga att styra dess utveckling. Många AI-system har inte testats tillräckligt i en bredare social, etisk, ekonomisk och rättslig kontext. Det är ett gap som behöver bryggas med ett tvärvetenskapligt angreppssätt. 

Detta projekt syftar till att i första steg samla ett konsortium av relevanta aktörer inom akademin och näringsliv för att identifiera de oavsiktliga negativa konsekvenserna av AI. Exempelvis kan det handla om att historiska fördomar förstärks med s.k bias. Det kan även handla om att AI inte har tränats tillräckligt mycket eller att det finns en låg förståelse för hur algoritmen verkar på föränderlig data. Vidare ligger ibland etiska värderingarna i händerna på hen som formulerar algoritmen. Det första steget syftar även till att inventera forskning, initiativ och praktiska exempel på området i Sverige och internationellt. I projektets första skedet kommer ett förslag på utformning av ett center för Hållbar AI (dvs. tvärvetenskaplig approach kring implikationer av AI utifrån ett etiskt, socialt, samhällsekonomiskt och rättsligt perspektiv) att utformas. I steg 2 och 3 upprättas centret med kompetens, testbäddar, piloter. Målet är att skapa en standard eller certifiering för etisk hantering av data och AI i organisationer och myndigheter.