AI in the Name of the Common Good - Relations of data, AI and humans in health and public sector

I en tid präglad av big data och artificiell intelligens är en brännande fråga hur teknologi, med potential att förbättra liv och tjänster för människor och samhällen, kan implementeras på ett sätt som bibehåller och förstärker jämlikhet och rättigheter för medborgarna. Det finns livsviktiga möjliga förtjänster hos användningen av AI inom hälso- och sjukvård och offentlig sektor men också ett stort behov av ansvarsskyldighet. Det är därför angeläget att undersöka hur kärnvärden som jämlik behandling (fairness), ansvarsskyldighet (accountability) och transparens förmedlas och integreras i användningen av AI-stödda verktyg inom hälso- och sjukvård och offentlig sektor. Ett sammanlänkat digitalt samhälle med flertalet datakällor och dataöverföringar kan påverka koncept som transparens, ansvar och jämlikhet såväl som maktrelationer hos inblandade aktörer. För att tekniken ska kunna uppfylla legala och etiska principer samt kunna implementeras, vinna social acceptans och tillit, är det av vikt att undersöka vilken information om användningen av AI som ska erbjudas och hur.

Huvudfrågor:
Vilken sorts transparens ges uttryck för inom hälso-sjukvård/medicin och hur väl stödjer den ökad kunskap hos professionerna och patienterna?
Vilken sorts information och förklarbarhet behövs?
Hur korresponderar olika uppfattningar av transparens, ansvar och jämlikhet med maktrelationer mellan datasubjekt, databehandlare och dataanalytiker i denna kontext?
Finns särskilda utmaningar gällande transparens, ansvar och jämlik behandling när AI appliceras på (hälso-)register? Jämlik behandling är central för jämlik vård – hur riskerar diskriminering/ojämlik behandling att påverka registerdata och i förlängningen AI-modeller och dess resultat? Riskerar olika diskrimineringsgrunder att förstärka ojämlikhet i beslut vid användning av AI? Hur kan intersektionellt ramverk appliceras på AI inom hälso- och sjukvård?