Användningen av generativ AI i offentlig sektor ökar snabbt och erbjuder stora möjligheter för effektivisering och bättre service till medborgarna. Men med teknologins möjligheter följer också nya och komplexa risker, vilket gör riskhantering till en central del av AI-projekt. Artikeln introducerar SAIF (Systematic dAta generatIon Framework), ett praktiskt och systematiskt ramverk som hjälper projektledare att identifiera och utvärdera risker i AI-projekt.
SAIF består av fyra steg. Först bryta ned risker. Sedan designa realistiska scenarier. Därefter tillämpa metoder för att testa AI:s motståndskraft, så kallade jailbreak-metoder. Slutligen utforska olika typer av prompts.
Ramverket är särskilt användbart för att systematiskt skapa testdata. Det hjälper också att säkerställa granskning av AI-system ur flera perspektiv, inklusive text, bild och video.
För projektledare innebär detta flera konkreta insikter:
- Bryt ned riskerna tydligt: Identifiera och kategorisera risker som systemfel, innehållsrisker, samhällsrisker och juridiska frågor tidigt i projektet.
- Använd scenarioplanering: Simulera verkliga användningssituationer som AI-systemet kan möta i praktiken.
- Testa systemets gränser: Använd metoder som prefixinjektion och hypotetiska scenarier för att kontrollera hur AI:n hanterar försök till missbruk.
- Variera prompttyper: Använd kedjereasoning och rollspel för att säkerställa att AI:n kan hantera komplexa och subtila interaktioner.
- Fokusera på det viktigaste: Anpassa tester efter de mest kritiska riskerna i just ert projekt för att undvika onödig komplexitet.
Genom att använda SAIF kan projektledare bättre förbereda sina organisationer för säker och ansvarsfull AI-implementering. Artikeln understryker att riskhantering måste vara dynamisk eftersom hotbilder och tekniker för att kringgå AI-säkerhet utvecklas snabbt.
För projektledare innebär detta att riskhantering inte är ett engångsarbete utan en integrerad del av hela AI-projektets livscykel.
Källa: “SAIF: A Comprehensive Framework for Evaluating the Risks of Generative AI in the Public Sector” av Kyeongryul Lee, Heehyeon Kim och Joyce Jiyoung Whang, publicerad 2025.