V rámci boje proti šíření materiálů pro sexuální zneužívání dětí (CSAM) se koalice špičkových vývojářů generativní umělé inteligence – včetně Googlu, Meta a OpenAI – zavázala, že bude kolem nově vznikající technologie prosazovat mantinely.

Skupinu spojily dvě neziskové organizace: dětská technologická skupina Thorn a All Tech is Human sídlící v New Yorku. Thorn, dříve známý jako DNA Foundation, založili v roce 2012 herci Demi Moore a Ashton Kutcher.

The collective pledge was announced Tuesday along with a new Thorn report advocating a “Safety by Design” principle in generative AI development that would prevent the creation of child sexual abuse material (CSAM) across the entire lifecycle of an AI model.

“We urge all companies developing, deploying, maintaining, and using generative AI technologies and products to commit to adopting these Safety by Design principles and demonstrate their dedication to preventing the creation and spread of CSAM, AIG-CSAM, and other acts of child sexual abuse and exploitation,” Trn uvedl v prohlášení.

AIG-CSAM je CSAM generovaný umělou inteligencí, jehož vytvoření může být relativně snadné.

Thorn develops nástroje and resources focused on defending children from sexual abuse and exploitation. In its 2022 impact report, the organization said over 824,466 files containing child abuse material were found. Last year, Thorn reported more than 104 million files of suspected CSAM were reported in the U.S. alone.

Already a problem online, deepfake child pornography skyrocketed after generative AI models became publicly available, with stand-alone AI models that don’t need cloud services being circulated on tmavý web fóra.

Generativní AI, řekl Thorn, nyní usnadňuje vytváření objemů obsahu než kdykoli předtím. Jediný dětský predátor by mohl potenciálně vytvořit obrovské objemy materiálu pro sexuální zneužívání dětí (CSAM), včetně úpravy původních obrázků a videí do nového obsahu.

„Příliv AIG-CSAM představuje značná rizika pro již zdaněný ekosystém bezpečnosti dětí, zhoršuje problémy, jimž čelí orgány činné v trestním řízení při identifikaci a záchraně stávajících obětí zneužívání, a zvyšuje novou viktimizaci více dětí,“ poznamenává Thorn.

Thorn’s report outlines a series of principles the generative AI developers would follow to prevent their technology from being used to create child pornography, including responsibly sourcing training datových sad, incorporating feedback loops and stress-testing strategies, employing content history or “provenance” with adversarial misuse in mind, and responsibly hosting their respective AI models.

Others signing onto the pledge include Microsoft, antropický, Mistral AI, Amazonka, Stabilita AI, Civit AI, a Metafyzická, each releasing separate statements today.

„Součástí našeho étosu v Metaphysic je odpovědný vývoj ve světě umělé inteligence, správně, je to o posílení, ale je to o odpovědnosti,“ řekl marketingový ředitel Metaphysic Alejandro Lopez. Dešifrovat. „Rychle si uvědomujeme, že začít a rozvíjet to znamená doslova chránit ty nejzranitelnější v naší společnosti, což jsou děti, a bohužel i nejtemnější konec této technologie, která se používá pro materiály týkající se sexuálního zneužívání dětí ve formě hluboké falešné pornografie. , to se stalo."

Zahájen v 2021, Metafyzická came to prominence last year after it was revealed several Hollywood stars, including Tom Hanks, Octavia Spencer, and Anne Hathaway, were using Metaphysic Pro technology to digitize characteristics of their likeness in a bid to retain ownership over the traits necessary to train an AI model.

OpenAI odmítla tuto iniciativu dále komentovat, místo toho poskytla Dešifrovat Veřejné prohlášení vedoucího oddělení bezpečnosti dětí Chelsea Carlson.

“We care deeply about the safety and responsible use of our tools, which is why we’ve built strong guardrails and safety measures into ChatGPT and DALL-E,” Carlson said in a prohlášení. “We are committed to working alongside Thorn, All Tech is Human and the broader tech community to uphold the Safety by Design principles and continue our work in mitigating potential harms to children.”

Dešifrovat oslovil ostatní členy koalice, ale okamžitě se neozval.

“At Meta, we’ve spent over a decade working to keep people safe online. In that time, we’ve developed numerous tools and features to help prevent and combat potential harm—and as predators have adapted to try and evade our protections, we’ve continued to adapt too,” meta uvedl v připraveném prohlášení.

“Across our products, we proactively detect and remove CSAE material through a combination of hash-matching technology, artificial intelligence classifiers, and human reviews,” Google‘s vice president of trust and safety solutions Susan Jasper wrote in a post. “Our policies and protections are designed to detect all kinds of CSAE, including AI-generated CSAM. When we identify exploitative content we remove it and take the appropriate action, which may include reporting it to NCMEC.”

In October, the UK watchdog group, the Nadace Internet Watch Foundation, warned that AI-generated child abuse material could ‘overwhelm’ internetu.

Upravil Ryan Ozawa.

• SEO Powered Content & PR distribuce. Získejte posílení ještě dnes.
• PlatoData.Network Vertikální generativní Ai. Zmocnit se. Přístup zde.
• PlatoAiStream. Inteligence Web3. Znalosti rozšířené. Přístup zde.
• PlatoESG. Uhlík, CleanTech, Energie, Životní prostředí, Sluneční, Nakládání s odpady. Přístup zde.
• PlatoHealth. Inteligence biotechnologií a klinických studií. Přístup zde.
• Zdroj: https://decrypt.co/227731/aig-csam-google-meta-openai-fight-ai-child-sexual-abuse-material