Internationellt projekt lyfter den växande risken för AI-genererade cyberhot

Syftet med projektet, AI-cyberhot – att öka medvetenheten om AI-genererade cyberhot, är att fördjupa förståelsen för hur AI omformar cybersäkerhetslandskapet. Genom att kombinera forskning, utbildning och internationellt samarbete bidrar projektet till utveckling av strategier för att identifiera och motverka risker med AI.

Projektet samlar forskare, lärare och branschexperter från Sverige, Ukraina och Polen. Utöver Högskolan i Halmstad är Ivan Franko National University i Lviv, Ukraina, och University of the National Education Commission i Kraków, Polen, centrala samarbetspartner. Det växande nätverket är en värdefull plattform för kunskapsutbyte och innovation inom ett snabbt föränderligt område.

– Det här såddprojektet är ett samarbete som ska lägga grunden för framtida initiativ inom AI-säkerhet. Huvudmålet är att generera nya idéer och fungera som grund för tvärvetenskapliga utbildningsmoduler och forskning, förklarar Olga Torstensson, projektledare och universitetsadjunkt vid Högskolan i Halmstad.

Bygger långsiktiga samarbeten

Under två dagar utforskade deltagarna aktuella utmaningar och framtida möjligheter relaterade till AI-genererade cyberhot genom både föreläsningar och studentpresentationer, skapade i dialog med industripartner.

Lena Johansson från Siemens i Sverige talade om cybersäkerhetens roll i AI-drivna industriella ekosystem, och betonade vikten av digital tillit och beredskap inom industrin, medan Michael Kropyva från teknikbolaget SoftServe höll en session med titeln ”Generativ AI: Utmaningar och risker”, där han gav ett branschperspektiv på hur generativ AI påverkar både innovation och säkerhetshot.

Två studenter från kandidatprogrammet i IT-forensik och informationssäkerhet vid Högskolan i Halmstad, Filip Stenfors och Christiane Brüggemann, presenterade sitt examensarbete ”Frikort från fängelset”-promptar: Hur jailbreaking-teknik äventyrar säkerheten i stora språkmodeller. Arbetet illustrerade aktuella sårbarheter i AI-system.

Cybersäkerhet prioriterat område

Cybersäkerhet är ett prioriterat område för Högskolan i Halmstad, som även är en del av Cybercampus Sverige – en nationell satsning för att stärka forskning och utbildning inom cybersäkerhet. Susanna Öhman, Högskolan i Halmstads rektor, träffade också projektgruppen för att diskutera möjligheter till framtida samarbeten.

– För att möta aktuella och framtida hot är det avgörande att samarbeta både nationellt och internationellt, inte minst med Ukraina, som besitter särskild erfarenhet och expertis inom området. Krishantering är en central del av cybersäkerhetsarbetet, och utbyten kring metoder, beredskap och resiliens är viktiga för att stärka både civilt och offentligt försvar, säger Susanna Öhman.

Kopplar samman forskning och praktisk tillämpning

Det ettåriga projektet ska nu identifiera tre kärnområden för forskning kring AI-genererade cyberhot. Målet är att minska klyftan mellan den senaste forskningen och praktisk tillämpning, så att studenter, utbildare, beslutsfattare och yrkesverksamma kan bli bättre rustade för framtidens utmaningar.

– Jag ser en stor potential i samarbetet med Högskolan i Halmstad. Att utbyta idéer och övningar mellan våra lärosäten är mycket värdefullt, säger Oleg Gutik, universitetslektor vid institutionen för cybersäkerhet på Ivan Franko National University i Lviv.

Professor Sergii Semenov, chef för institutionen för cybersäkerhet vid University of the National Education Commission i Kraków, instämmer:

– Vårt universitet lägger stor vikt vid internationellt samarbete inom cybersäkerhet och informatik.

– Tillsammans kan vi stärka vår kompetens och lära av varandra, avslutar Olga Torstensson.

Text: Emma Swahn

Foto: Emma Swahn, Olga Torstensson