Google DeepMinds AI-videoverktyg Veo 3 kan generera realistiska videor av händelser som aldrig inträffat, inklusive upplopp, valfusk och geopolitiska konflikter. En undersökning av TIME, publicerad den 3 juni 2025, visar att verktyget producerar vilseledande material trots inbyggda säkerhetsspärrar. För projektledare och organisationer som arbetar med kommunikation, riskhantering och leverantörsbedömning är utvecklingen direkt relevant.
Huvudpunkter
- TIME genomförde en egen analys och lyckades med Veo 3 skapa realistiska videor med vilseledande innehåll, däribland scener av valfusk och uppdiktade humanitära händelser. Videorna innehöll noterliga felaktigheter, men experter bedömde att de vid spridning med felaktig bildtext i realtid kunde utlösa social oro eller våld.
- Under Veo 3:s första lanseringsvecka publicerade användare falska nyhetssändningar på flera språk, bland annat ett klipp där en nyhetsankare meddelade att J.K. Rowling avlidit.
- Google har implementerat ett synligt vattenmärke på Veo 3-genererade videor. Märket kan enkelt tas bort med vanlig videoredigeringsprogramvara. Företaget uppger även att videorna innehåller ett osynligt vattenmärke kallat SynthID, men ett detekteringsverktyg för detta är ännu inte allmänt tillgängligt (källa: TIME, 2025-06-03).
- I ett tekniskt dokument som Google publicerade tillsammans med Veo 3 tonar företaget ned riskerna och anger att modellen är dålig på att generera text och ofta producerar små felaktigheter som avslöjar att videon är falsk.
- Julia Smakman, forskare vid Ada Lovelace Institute, konstaterar att befintliga tekniska säkerhetsklassificerare hos teknikföretag inte räcker för att stoppa skadligt genererat material.
- I april 2025 antog den amerikanska kongressen Take it Down Act, som kriminaliserar icke-samtyckta deepfake-pornografiska videor och kräver att plattformar tar ned sådant material.
- Upphovsrättsfrågor har aktualiserats i och med att AI-laboratorier, inklusive Google, stäms av konstnärer för att ha tränat modeller på upphovsrättsskyddat material utan tillstånd. Google DeepMind har uppgett för TechCrunch att modeller som Veo “kan” vara tränade på YouTube-material.
Vad detta betyder för projektledare
- Riskbedömning av AI-verktyg i leverantörskedjor: Organisationer som upphandlar eller godkänner AI-verktyg för kommunikation och innehållsproduktion behöver inkludera deepfake-risker i sin riskanalys. Veo 3 visar att verktyg med otillräckliga säkerhetsspärrar kan skada en organisations anseende om de missbrukas av externa eller interna aktörer.
- Kommunikationsrisker vid kriser: I projekt med hög synlighet – infrastruktur, offentliga uppdrag, internationella leveranser – kan AI-genererade videor spridas och felaktigt kopplas till organisationens verksamhet. Krisplaner bör inkludera rutiner för att snabbt dementera deepfake-innehåll.
- Verifiering av källmaterial: Projektledare som arbetar med medieinslag, intressentkommunikation eller omvärldsbevakning bör etablera rutiner för att verifiera videomaterial innan det används som beslutsunderlag. TIMEs undersökning visar att realistiska falskvideor kan produceras med minimala uppmaningar.
- Juridiska aspekter vid AI-användning: Take it Down Act och pågående upphovsrättsprocesser mot Google pekar på ett snabbt föränderligt regelverk kring AI-genererat innehåll. Projekt som involverar AI-produktion av video eller bild bör ha juridisk granskning av tillämpliga lagar på relevanta marknader.
Begrepp i artikeln
- Veo 3: Googles AI-videoverktyg, utvecklat av Google DeepMind, som genererar realistiska videor från textuppmaningar inklusive ljud, dialog och rörelsefysik.
- Deepfake: AI-genererat video- eller bildmaterial som realistiskt avbildar händelser eller personer på ett sätt som inte stämmer överens med verkligheten.
- SynthID: Googles osynliga vattenmärke för AI-genererade videor, avsett att möjliggöra identifiering. Detekteringsverktyget är ännu inte allmänt tillgängligt (källa: TIME, 2025-06-03).
- Take it Down Act: Amerikansk lag antagen i april 2025 som kriminaliserar spridning av icke-samtyckta deepfake-pornografiska videor och kräver att plattformar tar ned sådant material.
- Safety classifier: Automatiserat filtreringssystem som AI-verktyg använder för att blockera generering av skadligt innehåll.
Vanliga frågor
Vad är Google Veo 3? Veo 3 är ett AI-videoverktyg utvecklat av Google DeepMind som genererar realistiska videor från textuppmaningar, inklusive dialog, ljud och fysikbaserade rörelser. Verktyget lanserades i maj 2025.
Kan Veo 3 användas för att sprida desinformation? Ja, enligt TIMEs undersökning från juni 2025. Verktyget producerade realistiska videor av uppdiktade händelser som valfusk och upplopp. Experter bedömde att videorna, om de sprids med vilseledande bildtexter, kan utlösa social oro.
Hur skyddar Google mot missbruk av Veo 3? Google har implementerat ett synligt vattenmärke och uppger att videorna innehåller det osynliga vattenmärket SynthID. Det synliga märket kan tas bort med videoredigeringsprogram, och ett detekteringsverktyg för SynthID är ännu inte allmänt tillgängligt (källa: TIME, 2025-06-03).
Vad är Take it Down Act? Take it Down Act är en amerikansk lag antagen i april 2025 som kriminaliserar icke-samtyckta deepfake-pornografiska videor och kräver att digitala plattformar tar ned sådant material på begäran.
Räcker nuvarande tekniska säkerhetsspärrar för att stoppa skadliga deepfakes? Nej, enligt Julia Smakman vid Ada Lovelace Institute. Befintliga säkerhetsklassificerare hos teknikföretag är otillräckliga för att förhindra generering av skadligt material, och industribevakare kräver ytterligare reglering (källa: TIME, 2025-06-03).
Källa: Google’s New AI Tool Generates Convincing Deepfakes of Riots, Conflict, and Election Fraud / TIME, Andrew R. Chow och Billy Perrigo, publicerad 2025-06-03.
Läs även
- Bortom effektivitet: Etiska överväganden för AI-driven projektledning
- Etiska överväganden vid användning av AI i projektledning
- 7 saker projektledare behöver veta om Dataintegritet och säkerhet i Microsoft Copilot för Microsoft 365
- AI-avatarer och digitala tvillingar – när VD:ar ersätts av AI i möten och rapporter
- AI-sökmotorer och problemet med källhänvisningar