Department of Computer Science

Nyt millionprojekt skal udstyre maskinlæring med et sikkerhedsskjold

Nyt millionprojekt skal udstyre maskinlæring med et sikkerhedsskjold

Professor Kim Guldstrand Larsen fra Institut for Datalogi på Aalborg Universitet modtager en Villum Investigator-bevilling på 30 mio. kr. Pengene skal gå til et nyt projekt, der skal styrke sikkerheden i såkaldt cyber-fysiske systemer som selvkørende biler og medicinsk udstyr.

LÆS ARTIKLEN PÅ ENGELSK

De fleste af os tænker ikke over det i hverdagen, men vi er omgivet af såkaldt cyber-fysiske systemer. Kort forklaret er det software- og hardwarekomponenter, der kommunikerer med og styrer en fysisk virkelighed. Det kan være vindmøller, biler eller noget så livsvigtigt som en pacemaker. 

I disse systemer anvender man i høj grad maskinlæring – det vil sige, at systemet styres af modeller, der lærer af historisk data.

Men brugen af maskinlæring medfører også udfordringer, der kan få fatale konsekvenser. Professor Kim Guldstrand Larsen fra Institut for Datalogi ved Aalborg Universitet har netop modtaget en Villum Investigator-bevilling på 30. mio. kr. til et projekt, der skal sikre, at cyber-fysiske systemer i langt højere grad opfylder krav til pålidelighed og sikkerhed. Han forklarer:

- Maskinlæring er rigtig godt til mange ting. Problemet opstår, når systemet udsættes for en situation, der ikke er anvendt i træningsdata. En Tesla kan eksempelvis hamre ind i en vejside, fordi den ikke genkendte de objekter, der var i omgivelserne. Brugen af maskinlæring kan resultere i nogle uforklarlige situationer, som man godt kunne have opdaget på forhånd, og som helt eklatant bryder med oplagte sikkerhedskrav.

I projektet er målet derfor at kombinere matematisk velfunderede og forståelige teknikker, som kan give absolutte garantier, med maskinlæring. Der skal så at sige sættes grænser for, hvad man kan gøre, når man anvender maskinlæring:

- Vi giver det en form for sikkerhedsskjold, så vi ikke ender i situationer, hvor det går galt. Det handler også om at kunne se flere skridt længere frem i processen. Jeg siger ikke, at tingene bliver 100 procent korrekte, men jeg håber og tror, at vi kan komme et godt stykke ad vejen.

Dykker ned i teoriapparatet

I første omgang glæder Kim Guldstrand Larsen sig til, at han sammen med kolleger i forskningsgruppen DEIS – Distribuerede, Indlejrede og Intelligente Systemer skal i gang med projektet, der i høj grad kommer til at omhandle modeller:

 - Vi skal arbejde meget med modeller og interaktioner mellem komponenter, som er relevante i en fysisk sammenhæng. Det er klart, at det bliver helt centralt, at vi omsætter disse modeller til algoritmer og senere til værktøjer, som ingeniører ude i samfundet kan bruge.

Desuden ser Kim Guldstrand Larsen store fordele i, at gruppen allerede arbejder med områder, hvor cyber-fysiske systemer indgår – særligt inden for energi og transport.

- Vi udnytter, at vi har en bred palet af projekter, som vi kan afprøve tingene på i praksis. Men i første omgang glæder jeg mig over, at vi nu har rigtig god tid og mulighed for at dykke ned i teoriapparatet og få bygget det her skjold. Mit håb er, at vi ved projektets slutning har en endnu mere fremragende gruppe, hvor flere af mine kolleger har været med til at lave helt nye teknikker, som jeg slet ikke kender i dag. Teknikker og værktøjer, som vil blive brugt af os selv, kolleger i andre discipliner og selvfølgelig ude i den virkelige verden.

_________________________________________________________________________________________

Om Villum Investigator

Villum Investigator-programmet bevilger i år i alt 313 mio. kr. til ti erfarne og internationalt anerkendte forskere, som fortsat vil stå i spidsen for forskning i verdensklasse. Forskere er udvalgt som Investigators blandt 72 ansøgere - efter international praksis med vurdering af ansøgning hos VILLUM FONDENs arbejdsgruppe, bedømmelse hos tre uafhængige fagfæller og endelig udvælgelse af fondens bestyrelse.

Den 27. april 2021 fejres Villum Investigators ved en ceremoni i VILLUM Window Collection i Søborg med deltagelse af blandt andre uddannelses- og forskningsminister Ane Halsboe-Jørgensen.

Læs mere om Villum Investigator-programmet hos VILLUM FONDEN.

Projektet S40S: Skalérbar analyse og syntese af sikre, små og optimale strategier til cyber-fysiske systemer løber over seks år.

Kontakt

Professor Kim Guldstrand Larsen
Institut for Datalogi, Aalborg Universitet
Telefon: 2217 1159
Mail: kgl@cs.aau.dk

PRESSEKONTAKT
Nina Hermansen
Tlf. 20901829 / 2294 0459
Mail: ninah@cs.aau.dk

Department of Computer Science, Aalborg University

Selma Lagerlöfs Vej 300  ・ 9220 Aalborg East, Denmark 
Telephone: +45 9940 9940  ・ Mail: info@cs.aau.dk

Contact department management