Utbildning avgörande för att motverka AI-genererade cyberhot

– Artificiell intelligens är ett tveeggat svärd inom cybersäkerhet. Å ena sidan möjliggör AI avancerad detektering, automatisering och motståndskraft, å andra sidan sänker AI tröskeln för sofistikerade attacker. Att hantera de här utmaningarna kräver nära samverkan mellan discipliner och över landsgränser, säger Olga Torstensson, projektledare och universitetsadjunkt vid Högskolan i Halmstad.

Under det ett år långa projektet har gruppen identifierat tre nyckelområden att fördjupa sig inom: AI för säkra kritiska infrastrukturer med stöd för IT-forensik, AI-applikationer inom cybersäkerhet, och cyberhot som antingen AI-genereras eller möjliggörs med hjälp av AI, såsom så kallade deepfakes och annan artificiellt producerad media.

Bland de viktigaste resultaten finns utvecklingen av koncept för tvärvetenskapliga utbildningsmoduler inom AI-driven cybersäkerhet. Projektet har också lett fram till ett flertal internationella finansieringsansökningar som ska bidra till att arbetet kan fortsätta efter projektets slut.

Samarbete över gränserna

Projektet, som finansierades av Svenska Institutets Baltic Sea Neighbourhood Programme, har fört samman Högskolan i Halmstad, Ivan Franko National University of Lviv i Ukraina, och University of the National Education Commission i Krakow, Polen, och lagt grunden för ett starkt internationellt partnerskap.

För att förbättra förståelsen för och detekteringen av AI-genererade cyberhot har lärosätena bland annat deltagit i gemensamma aktiviteter såsom gästföreläsningar, workshoppar och konferenser, där även industripartner, studenter och ett växande europeiskt nätverk har deltagit aktivt.

Dialogen med industrin har inkluderat partner såsom Siemens Sverige och SoftServe och bidragit till att knyta teorin närmare praktiska utmaningar. Studenternas medverkan har resulterat i två uppsatser kring stora språkmodeller och detektering av deepfakes, skrivna av studenter på Högskolan i Halmstads program IT-forensik och informationssäkerhet.

Projektet har också lett till att en ansökan tillsammans med 37 partner från 16 länder har skickats in till European Cooperation in Science and Technology (COST), en organisation som finansierar nya forskningsnätverk.

Nytt projekt beviljat

Framöver är planen att fortsätta samarbetet genom ett nytt projekt inom AI-driven cybersäkerhet, som har beviljats av Svenska Institutet. Det finns också planer för flera av Erasmus+ så kallade Blended Intensive Programmes (BIP – korta, intensiva kurser) för studenter och lärare, och andra sätt för att fortsatt arbeta för långsiktig samverkan inom forskning och utbildning i Europa.

– Vi vill rikta ett stort tack till alla partner och medverkande för deras engagemang, expertis och delade vision. Det här är ett stort steg framåt när det gäller hur vi tillsammans tar oss an nytillkomna cyberhot som möjliggörs av AI, avslutar Olga Torstensson.

Text och bild: Emma Swahn