Robust AI i fokus när forskare samlas i Halmstad

Artificiell intelligens har utvecklats snabbt under de senaste åren och datadrivna metoder används alltmer som verktyg inom både forskning och industri. Men när AI-system blir mer avancerade och används i mer krävande sammanhang blir en grundläggande fråga allt viktigare: Hur kan vi veta att systemen fungerar tillförlitligt även under andra förhållanden än dem som de utvecklades för?

– Skillnaden mellan vad AI kan göra och vad vi kan garantera att den kan göra på ett säkert sätt är nu ett praktiskt problem, inte bara ett teoretiskt, säger Grzegorz J. Nalepa, professor i maskininlärning vid Högskolan i Halmstad och huvudansvarig för ELLIIT:s fokusperiod i Halmstad.

Högskolan i Halmstad värd för ELLIIT:s fokusperiod

ELLIIT:s fokusperiod är ett återkommande internationellt gästforskarprogram där forskare samlas kring ett gemensamt forskningstema under fem veckor. Programmet innehåller seminarier, diskussioner, gemensamma forskningsaktiviteter och ett tredagars symposium.

En av utmaningarna som deltagarna kommer att diskutera och undersöka den här gången är hur AI-system hanterar data och situationer som skiljer sig mycket från dem som de är tränade på. Ett AI-system för medicinsk bildanalys kan till exempel fungera bra på bilder från en typ av skanner, men betydligt sämre på bilder från en annan, utan att signalera att systemets tillförlitlighet har förändrats.

– Robusthet handlar inte bara om hur bra algoritmerna fungerar. Det handlar också om att kunna avgöra när det går att lita på ett AI-system, säger Slawomir Nowaczyk, professor i maskininlärning vid Högskolan i Halmstad och medlem i organisationskommittén för ELLIITS fokusperiod i Halmstad.

Olika perspektiv möts

Flera forskningsutmaningar återstår. Det är till exempel svårt att säkerställa att vissa AI-system fungerar som de ska under olika förhållanden. Data från verkliga industrimiljöer kan till exempel vara oregelbundna eller finnas i begränsad mängd. Dessutom behöver forskarna utveckla bättre sätt att mäta hur robusta AI-system är och jämföra olika metoder.

Under fokusperioden kommer forskarna bland annat att undersöka kausal AI, där AI används för att resonera om orsak och verkan. De kommer också att diskutera hur AI kan kombinera lärande från data med kunskap och regler inom ett visst område. Ett annat tema är hur AI-system kan bli lättare att förstå och förklara. I stället för att bara ge en förklaring vid ett enskilt tillfälle kan systemen stödja en löpande dialog med användaren.

– Att se på robusthet ur flera olika områdens perspektiv är en viktig del av fokusperioden. Metoder som har utvecklats för ett område kan vidareutvecklas eller anpassas till andra och skapa möjligheter till nya forskningssamarbeten, säger Edison Pignaton de Freitas, professor i autonoma system vid Högskolan i Halmstad och medlem i organisationskommittén.

Möjligheter till nya forskningssamarbeten

Arrangörerna hoppas att fokusperioden ska leda till nya samarbeten inom pågående och framtida doktorandprojekt, och också inom större forsknings- och utvecklingsprojekt med europeiska partner.

ELLIIT:s fokusperiod i Halmstad 2026, ”Robust AI for Science and Industry”, pågår den 7 september–9 oktober. Ett tredagars symposium hålls den 22–24 september.

Text: Anna-Frida Agardson

Bild: Joachim Brink/Dan Bergmark