Analys av numeriska metoder för optimeringsproblem inom maskininlärning

Det här projektet ämnar analysera och konstruera nya effektiva numeriska metoder för optimeringsproblem som uppkommer i samband med maskininlärningstillämpningar. Maskininlärning är ett snabbt växande forskningsområde med tillämpningar inom t.ex. bildanalys, självkörande fordon, sökmotoroptimering och mycket annat. Förbättringar av de mest grundläggande byggstenarna i denna miljö, vilka man fortfarande inte har en bra förståelse för, kommer att leda till omfattande följder; snabbare lösare, hantering av större problem och lägre energiåtgång. Projektet är del av Wallenberg AI, Autonomous Systems and Software Program (WASP), ett nationellt initiativ för grundforskning inom artificiell intelligens och autonoma system.

Den grundläggande idén är att omformulera optimeringsproblemet till att istället hitta en stationär lösning till en differentialekvation. Detta är ett grundläggande koncept, men det har inte utnyttjats mycket inom detta område. Det tillåter oss dock att tillämpa moderna tidsstegningsmetoder, och att analysera dem medelst kraftfulla tekniker från teorin om ordinära och partiella (stokastiska) differentialekvationer. Speciellt så kommer fokus att vara på att använda det funktionalanalytiska ramverket av maximalt monotona operatorer för att utföra rigorösa matematiska felanalyser. Vi kommer att undersöka tidsstegsadaptivitet, parallelliseringsstrategier, och det nya konceptet randomiserade splittingmetoder.