I många år har rådet varit enkelt, Var misstänksam mot mail med dålig svenska, märkliga formuleringar och uppenbara fel. Det har fungerat förvånansvärt bra som skydd mot bedrägerier. Men det var då och nu menar forskare att AI inte främst skapar helt nya hot, utan förändrar hur vi avgör vad som är äkta.
Internet har alltid byggt på en grundläggande förutsättning: Att det går att skilja det trovärdiga från det lite mer tveksamma innehållet. Många av de varningssignaler som tidigare avslöjade bedragare har varit lätta att känna igen. Språket har varit dåligt, avsändaren oklar och innehållet fullt av misstag.
Den utvecklingen håller på att förändras snabbt. Verktyg som kan skriva texter, skapa bilder och analysera stora mängder information gör att även personer med begränsad teknisk kunskap kan producera material som ser professionellt ut.
Digital säkerhet har blivit en lika viktig fråga som traditionell ekonomi. Bedrägerier mot äldre fortsätter att öka och kriminella använder allt oftare teknik för att vinna förtroende och få tillgång till pengar eller känslig information.
Tidigare kunde många bluffmail avslöjas genom dålig grammatik, märkliga översättningar eller formuleringar som ingen svensk myndighet eller bank skulle använda. Den typen av misstag blir allt ovanligare när AI kan skriva flytande svenska på några sekunder.
Det betyder inte att bedrägerierna blivit mer avancerade i teknisk mening. Däremot har kvaliteten på det som möter användaren höjts.
För mottagaren innebär det att flera av de varningssignaler som människor lärt sig att leta efter inte längre är lika användbara.
En utveckling som syns i allt från sms, kontaktannonser, kundtjänstchattar och inlägg på sociala medier till mail.
Den större frågan handlar egentligen inte om bedrägerier. Den handlar om förtroende.
När texter, bilder, röster och filmer kan skapas eller förändras med hjälp av AI blir det svårare att avgöra vad som faktiskt kommer från en människa och vad som är maskinellt framtaget.
Det innebär inte att internet plötsligt blivit opålitligt. Men det innebär att fler saker behöver kontrolleras innan de tas för givna.
En bild är inte längre automatiskt ett bevis på att något har hänt. En röst är inte nödvändigtvis personen den låter som. Ett välskrivet mejl är inte automatiskt legitimt.
På sikt kan den utvecklingen få större konsekvenser än de enskilda bedrägerierna. Om människor blir osäkra på vad de kan lita på riskerar förtroendet för digital kommunikation att minska.
Forskarna pekar på att AI framför allt förändrar ekonomin bakom bedrägerier. Det som tidigare krävde tid, kunskap och resurser kan nu göras betydligt snabbare. En bedragare som förr behövde skriva hundratals meddelanden själv kan i dag låta ett AI-verktyg skapa tusentals variationer på några sekunder. Varje meddelande kan dessutom anpassas efter mottagaren.
Konsekvensen blir att fler personer kan genomföra fler bedrägeriförsök.
Den stora förändringen är därför inte att varje enskild attack blivit farligare. Den stora förändringen är att det blivit billigare att genomföra dem.
Precis som i andra delar av ekonomin leder lägre kostnader ofta till ökad volym.
En intressant detalj är att AI kanske inte förändrar spelplanen mest för de professionella cyberbrottslingarna.
De största grupperna bakom avancerade utpressningsattacker och dataintrång har redan tillgång till kompetens, resurser och egna utvecklingsmiljöer. För dem är AI främst ytterligare ett verktyg.
Den verkliga effekten syns längre ned på skalan, där personer som tidigare saknade kunskap eller erfarenhet nu får tillgång till verktyg som gör det enklare att genomföra bedrägerier och attacker.
På så sätt bidrar AI till att sänka tröskeln för vem som kan ge sig in i den typen av verksamhet.
I takt med att de tekniska hjälpmedlen blir bättre förändras också kraven på användarna.
Under många år har fokus legat på att känna igen tekniska fel och varningssignaler. Nu blir det viktigare att förstå sammanhanget.
Den typen av frågor blir allt viktigare när det yttre skalet ser trovärdigt ut.
Flera säkerhetsexperter menar därför att framtidens digitala säkerhet kommer att handla mindre om teknisk kunskap och mer om omdöme, eftertanke och källkritik.
Utvecklingen har en annan sida som ofta hamnar i skymundan. Samma teknik som används av bedragare används också av banker, myndigheter och säkerhetsföretag.
AI hjälper redan till att upptäcka misstänkta transaktioner, identifiera avvikande beteenden och analysera stora mängder data på kort tid.
Det innebär att utvecklingen kan beskrivas som en kapprustning där både angripare och försvarare får tillgång till kraftfullare verktyg.
Frågan är därför inte om AI är god eller ond. Frågan är hur snabbt människor och organisationer anpassar sig till en verklighet där allt färre digitala signaler kan tas för givna.
