Dataforsker Yang Liu vinner NSF CAREER-prisen

-liu.jpeg
Yang Liu, assisterende professor i informatikk som Baskin School of Engineering, vant en prestisjetung NSF CAREER-pris for sin studie av menneskesentrert maskinlæring.

Yang Liu, assisterende professor i informatikk og ingeniørvitenskap ved University of California, Santa Cruz, har vunnet en Fakultet for tidlig karriereutvikling (CAREER) Award fra National Science Foundation (NSF) for å finansiere studiet hans av menneskesentrert maskinlæring. 

Maskinlæringsmodeller, kunstig intelligens-algoritmer som forbedrer seg gjennom data og erfaring, brukes i en rekke bransjer som har alvorlige konsekvenser for folks liv, for eksempel screening av lånesøknader i finansielle tjenester eller Medicare-applikasjoner i helsevesenet.

Lius forskningsprosjekt vil ta for seg spørsmål om robusthet, rettferdighet og dynamikken som oppstår i dette feltet fra et datasentrisk perspektiv. Teamet hans vil studere hvordan algoritmer kan bli partiske ved å replikere eksisterende skjevheter i datasettene som trener modellene, men enda viktigere, de vil bygge modeller for å forstå og forutsi menneskers atferd når de samhandler med maskinlæringsalgoritmer og vurdere dataene som produseres av det interaksjon.

“En del av den foreslåtte forskningen vil fokusere på å forstå mulighetene for å identifisere og dempe den naturlige skjevheten og støyen som finnes i data fra mennesker,” sa Liu. “Men ser vi ett skritt videre, handler det ikke bare om maskinlæring og hvordan den presterer på dataene du allerede har, det handler om dataene som den kommer til å generere i fremtiden – jeg tror det er den manglende delen i de fleste av de pågående diskusjonene. Jeg bryr meg om dataene som kommer til å bli generert etter at en maskinlæringsmodell og en datainnsamlingspipeline er distribuert, så det er en av hovedforespørslene i dette forslaget.» 

Liu og teamet hans vil også bruke NSF-midler til å utføre menneskelige fagstudier for å forstå hvordan folk reagerer på ulike maskinlæringsmodeller i et bredt spekter av applikasjoner, fra finansielle tjenester til anbefalingssystemer, og muligens skoleopptak. De vil bruke disse eksperimentene til å bygge teoretiske rammer og beregningsløsninger for å sikre at maskinlæringsmodeller er designet og distribuert for å tjene mennesker uten skjevheter.

See also  Comment réparer une imprimante tout-en-un, gérer la RAM virtuelle et mettre à niveau un ordinateur

“Maskinlæring kommer ikke til å være et enkeltstående eller statisk problem lenger,” sa Liu. «Modellens nøyaktighet er viktig, men det vil bli mer om langsiktig velvære. Hva er atferden, hva er dynamikken som modellen kommer til å indusere på folk? Det er noe jeg virkelig kommer til å fokusere på.» 

I tillegg ønsker Liu å sørge for at maskinlæringsmodeller gir folk muligheter for forbedring. 

Noen maskinlæringsmodeller gir resultater uten å gi noen forklaring, og selv når de tilbyr forklaringer, mangler de ofte konstruktive forslag til brukeren. For eksempel kan et konstruktivt forslag i sammenheng med finansielle tjenester se ut som å tilby en måte som en kunde som for øyeblikket ikke kvalifiserer for et lån kan forbedre sin økonomiske profil for å bli godkjent i fremtiden. Liu håper at å bygge ut dette nivået av åpenhet kan øke menneskelig tillit til maskinlæringsteknologi, slik at den kan bli mer utbredt.

“Dette arbeidet understreker viktigheten av å sentrere de faktiske opplevelsene til mennesker når de samhandler med maskinlæringsteknologi, siden denne teknologien kan ha dype effekter på deres muligheter og velvære,” sa Alexander Wolf, dekan ved Baskin School of Engineering. “Lius etikksentrerte tilnærming er i tråd med oppdraget til skolen vår om å sikre at det vi lager har en positiv innvirkning på samfunnet vårt.”