Storbritannien kommer att kriminalisera skapandet av sexuellt explicita deepfake-bilder enligt en ny lag som syftar till att skydda människor mot pornografiskt material som genereras av AI utan samtycke. 

Enligt lagen, de som skapar sexuellt explicit deepfake bilder på en annan person utan deras samtycke kommer att dömas till åtal och obegränsade böter, även om de inte hade för avsikt att dela materialet.

Om bilden sedan delas mer allmänt kan brottslingar skickas till fängelse, sade Storbritanniens justitieministerium (MoJ) i ett uttalande på tisdagen.

Läs också: Kameran tar bort människor nakna för att väcka debatt om AI och integritet  

AI deepfakes: "Omoraliskt, föraktligt"

I takt med att artificiell intelligens blir mer avancerad har tekniken använts av vissa människor för att skapa deepfakes – realistiska men falska bilder som används för att imitera någon annan, inklusive deras röst.

Bilderna eller videorna ser ut och pratar precis som den som riktar sig till. Bilder på högprofilerade kvinnliga kändisar som t.ex Emma Watson och Taylor Swift, har manipulerats med AI för att skapa djupt falskt pornografiskt innehåll. Minderåriga skolflickor har inte blivit förskonade heller.

"Skapandet av djupt falska sexuella bilder är avskyvärt och helt oacceptabelt, oavsett om bilden delas", sade Storbritanniens minister för offer och skydd i ett pressmeddelande. meddelandet.

”Det är ytterligare ett exempel på hur vissa människor försöker förnedra och avhumanisera andra – särskilt kvinnor. Och det har kapacitet att orsaka katastrofala konsekvenser om materialet delas bredare. Den här regeringen kommer inte att tolerera det”, sa hon och tillade:

"Det här nya brottet sänder ett kristallklart budskap om att det är omoraliskt, ofta kvinnofientligt och ett brott att göra detta material."

Deling av "intima" djupförfalskningar gjordes redan olagligt i Storbritannien enligt Online Safety Act, som antogs 2023. Det nya brottet med djupförfalskad pornografi kommer att införas som en ändring av Criminal Justice Bill, som är på väg genom parlamentet.

MoJ sa att dess nya lag kommer att göra det straffbart för någon att skapa en sexuellt explicit deepfake, även om de inte har för avsikt att dela det, "men bara vill orsaka larm, förnedring eller nöd för offret." Det kommer att gälla bilder av vuxna eftersom lagen redan omfattar liknande beteende för barn under 18 år.

Skadliga online deepfakes kan ha en verklig inverkan, som @MissCallyJane vet.

Det är därför vi slår till mot dem som skapar sexuellt explicita deepfake-bilder utan samtycke – med lagöverträdare som riskerar ett brottsregister och obegränsade böter.

Mer: https://t.co/TBX7z0Epsu pic.twitter.com/dhMv7eww7v

— Justitieministeriet (@MoJGovUK) 16 april 2024

Offren välkomnar ny lag

I samma uttalande från MoJ, Cally Jane Beech, en kampanjare och tidigare Love Island-deltagare som var ett offer för AI djupfalska pornografiska bilder tidigare i år, sade lagen är viktig för att skydda kvinnor.

"Det här nya brottet är ett stort steg i att ytterligare stärka lagarna kring deepfakes för att bättre skydda kvinnor. Det jag utstod gick utöver pinsamhet eller besvär”, sa hon.

"Alltför många kvinnor fortsätter att få sin integritet, värdighet och identitet äventyrad av illvilliga individer på detta sätt och det måste sluta. Människor som gör det här måste hållas ansvariga, säger Beech.

En nyligen genomförd undersökning av Glamour visade att över 90 % av tidningens läsare tror att deepfake-teknologi utgör ett hot mot kvinnors säkerhet och från att höra personliga berättelser från offer.

"Även om detta är ett viktigt första steg, är det fortfarande en lång väg kvar innan kvinnor verkligen kommer att känna sig trygga från denna fruktansvärda aktivitet", säger Deborah Joseph, europeisk redaktionschef för Glamour.

Den brittiska regeringen, som betraktar våld mot kvinnor som ett nationellt hot, inför också nya brott för personer som tar eller spelar in riktiga intima bilder utan samtycke, eller installerar utrustning för att göra det möjligt för någon att göra det.

En ny lagstadgad försvårande faktor kommer att införas för lagöverträdare som orsakar dödsfall genom kränkande, förnedrande eller farligt sexuellt beteende – eller så kallat "grovt sex", sade MoJ.

AI-genererad Deepfake-bilder har blivit vanligare de senaste åren, med bilder som har setts miljontals gånger i månaden över hela världen. De falska bilderna och videorna är gjorda för att se hyperrealistiska ut med offret vanligtvis omedvetet och oförmöget att ge sitt samtycke till att bli sexualiserad på ett sådant sätt.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://metanews.com/uk-criminalizes-creating-ai-deepfake-porn-under-new-law/