AI‑agenter kan agera som insiders: de kan söka, fatta beslut och utföra handlingar i företags interna system. Det gör dem till ett nytt, konkret säkerhetshot, varnar Anders Spalding, chef för säkerhetsskydd på HiQ och tidigare underrättelseofficer vid Must.

Vad är en AI‑insider? En AI‑agent skiljer sig från vanliga verktyg. Den kan inte bara svara på frågor som en chattbot — den kan hämta information, fatta beslut och utföra handlingar i interna system. "Ur ett säkerhetsperspektiv bör man se AI‑agenten som en aktör med operativ kapacitet som definitivt kan bli ett hot", säger Anders Spalding. Det räcker alltså inte att bara blockera ett verktyg. Företag måste fråga vem som kontrollerar agenten och vilka instruktioner eller prompts som används. Hur hotbilden har förändrats Under de senaste 10–15 åren har insiderhotet utvecklats kraftigt, enligt Spalding: från enstaka missnöjda medarbetare till organiserad brottslighet och statsaktörer. AI förvärrar situationen genom att underlätta kartläggning av sårbarheter och genom att skala social manipulation med trovärdiga, automatiserade kontakter. Spalding påpekar också att mycket av ett företags värde ligger i relationer, informella samtal och beslut — information som ofta fångas via mänsklig interaktion snarare än enbart filer. Varför traditionella lösningar brister Många organisationer ser insiderhot som ett rent tekniskt problem och förlitar sig på verktyg. Spalding menar att kärnan ofta handlar om beteenden och situationer: drivkrafter, tillgångar, tillfällen och brister i säkerhetsskyddet kombineras med personliga faktorer och livshändelser som kan trigga riskbeteenden. Organisatoriska stuprör mellan säkerhet, HR och IT gör att signaler ofta faller mellan stolar när ingen ansvarar för gränsytorna. Tre pelare för att möta AI‑insiders Spalding föreslår tre huvudprinciper: - Kollektiv säkerhetskultur: säkerhet är allas ansvar, inte en liten expertgrupp. - Multidisciplinärt engagemang: ledningen, inklusive VD, måste prioritera frågan och involvera säkerhet, HR, IT och andra funktioner. - Tekniskt stöd: använd system som detekterar avvikelser i dataflöden — exempelvis DLP (dataförlustskydd) och analys av användarbeteende — men kombinera alltid tekniken med mänsklig uppmärksamhet. Scenarier där AI‑agenter kan skada Tänkbara angreppsvägar är flera: - Automatisk insamling och korskoppling av interna data för att skapa falska identiteter eller manipulera beslutsfattare. - Utförande av transaktioner om agenten fått tillräckliga rättigheter. - Skapande av skalbara, trovärdiga kontakter som används för social ingenjörskonst. Företag måste därför ställa frågan vem som faktiskt kontrollerar och promptar agenten, och kombinera tekniska kontroller med kultur‑ och organisationsåtgärder.

Related Articles

"Vem kontrollerar och promptar agenten?" är den centrala frågan, säger Anders Spalding, chef för säkerhetsskydd på HiQ och tidigare underrättelseofficer vid Must.

Den här artikeln har skapats med hjälp av AI.