Porträttbild: Teresa Cerratto Pargman, professor på Institutionen för data- och systemvetenskap, SU
Teresa Cerratto Pargman intresserar sig för etiska perspektiv på AI-användning i högre utbildning. Foto: Åse Karlén.


Hallå Teresa, vad har du på gång?

– Den senaste tiden har jag arbetat intensivt med en seminarieserie som i första hand riktar sig till doktoranderna inom WASP-HS. Seminarieserien handlar om etiska och juridiska perspektiv på AI-användning. Det är jätteroligt! Seminarierna genomförs online, de är kostnadsfria och öppna för alla som är intresserade av frågorna. Jag och professor Amanda Lagerkvist vid Uppsala universitet anordnar seminarieserien tillsammans med våra forskargrupper. Vi har plockat in otroligt intressanta forskare som talare. Det första seminariet genomfördes 20 oktober 2021, då medverkade professor Charles Ess från University of Oslo. Han diskuterade bland annat att de etiska riktlinjer som finns kopplade till AI-system ofta är otillräckliga.

Nästa seminarium är nu på onsdag, 10 november. Vad handlar det om?

– Vi har bjudit in Kristina Höök som är professor på KTH, och Jacek Smolicki som är konstnär och postdok på Uppsala universitet. Moderator är Ericka Johnson, professor på Linköpings universitet. Vi ser fram emot en spännande diskussion om hur etiska värderingar kan omsättas i praktiken när autonoma system utformas. Hela poängen med seminarieserien är att skapa förutsättningar för samtal och kunskapsdelning mellan alla som är intresserade av etikfrågor kopplat till AI.

Vad är WASP-HS och vad arbetar ni med inom ditt projekt?

– WASP-HS står för The Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society. Det är Wallenbergstiftelsernas satsning på AI-forskning inom humaniora och samhällsvetenskap. Jag leder forskningsprojektet ”Ethical and Legal Challenges in Relationship to AI-Driven Practices In Higher Education” som löper över fyra år, 2021–2024. Vi intresserar oss för hur AI och teknikstött lärande påverkar den högre utbildningen.

– Utvecklingen går med stormsteg, länder som USA, Australien och Storbritannien satsar på AI som ett teknikstöd för lärande och ”learning analytics”. Det kan till exempel handla om att studenter loggar in i ett system där läraren kan se vilka moment som studenterna har klarat av, och har möjlighet att ge personlig återkoppling. Den rådande diskursen är att detta är bra och positivt. Men jag ser också behov av att ifrågasätta hur data om studenter konstrueras – av vem och för vem? Vad händer med studenters autonomi och integritet? Och vilka studenter inkluderas eller exkluderas i den mall som den artificiella intelligensen är utformad efter? Vi måste ta in värderingar och världsbilder som fortfarande är implicita i diskussionen om etiska aspekter på AI i utbildningen.

Vad händer mer framöver?

– 17 november ska jag öppningstala på Grade Fall Symposium som Umeå universitet arrangerar. Jag kommer att diskutera kritiska frågor för datadrivna praktiker inom högre utbildning. 18 november deltar jag i WASP–HS årliga konferens på temat ”Shaping a Future with AI – The Role of Policies”. Det ser jag fram emot!

Kontakta tessy@dsv.su.se

 

Mer om Teresas forskning

Läs mer och anmäl dig till seminarieserien ”Undisciplined ethics and AI”

Teresa Cerratto Pargman utnämndes till professor i data- och systemvetenskap med inriktning människa–datorinteraktion i juni 2021

Läs mer på hennes profilsida på Stockholms universitet

Hon leder ett fyraårigt forskningsprojekt om AI i högre utbildning inom WASP–HS

Teresa Cerratto Pargman ingår också i ledningen för Digital Futures, ett samarbete mellan Stockholms universitet, KTH och RISE