Til að berjast gegn útbreiðslu efnis um kynferðisofbeldi gegn börnum (CSAM) hét samtök helstu kynslóða gervigreindarframleiðenda – þar á meðal Google, Meta og OpenAI – að framfylgja varnarlistum í kringum nýja tækni.

Hópurinn var tekinn saman af tveimur sjálfseignarstofnunum: barnatæknihópnum Thorn og New York-undirstaða All Tech is Human. Thorn, sem áður var þekkt sem DNA Foundation, var hleypt af stokkunum árið 2012 af leikarunum Demi Moore og Ashton Kutcher.

Sameiginlegt heitið var tilkynnt á þriðjudag ásamt nýju Thorn skýrsla að mæla fyrir „Safety by Design“ meginreglu í skapandi gervigreindarþróun sem myndi koma í veg fyrir að efni til kynferðisofbeldis gegn börnum (CSAM) yrði til yfir allan líftíma gervigreindarlíkans.

„Við hvetjum öll fyrirtæki sem þróa, innleiða, viðhalda og nota skapandi gervigreind tækni og vörur til að skuldbinda sig til að tileinka sér þessar reglur um öryggi í hönnun og sýna hollustu sína til að koma í veg fyrir stofnun og útbreiðslu CSAM, AIG-CSAM og aðrar kynferðislegar athafnir barna misnotkun og misnotkun,“ Thorn sagði í yfirlýsingu.

AIG-CSAM er gervigreind myndað CSAM, sem skýrslan sýnir að getur verið tiltölulega auðvelt að búa til.

Thorn þróast verkfæri og úrræði sem beinast að því að verja börn gegn kynferðislegri misnotkun og misnotkun. Í áhrifaskýrslu sinni fyrir árið 2022 sagði stofnunin að yfir 824,466 skrár sem innihéldu barnaníðingar hefðu fundist. Á síðasta ári greindi Thorn frá því að meira en 104 milljónir skráa með grun um CSAM hafi verið tilkynnt í Bandaríkjunum einum.

Nú þegar var vandamál á netinu, djúpgervi barnaklámi rauk upp úr öllu valdi eftir að skapandi gervigreind módel urðu almenningi aðgengileg, þar sem sjálfstæð gervigreind módel sem ekki þarfnast skýjaþjónustu var dreift á dökk vefur vettvangi.

Generative AI, sagði Thorn, gerir það auðveldara að búa til magn af efni núna en nokkru sinni fyrr. Eitt barn rándýr gæti hugsanlega búið til gríðarlegt magn af efni fyrir kynferðisofbeldi gegn börnum (CSAM), þar á meðal að breyta upprunalegum myndum og myndböndum í nýtt efni.

„Innstreymi AIG-CSAM hefur í för með sér verulega hættu fyrir vistkerfi barnaöryggis sem þegar hefur verið skattlagt, eykur áskoranir sem löggæsla stendur frammi fyrir við að bera kennsl á og bjarga núverandi fórnarlömbum misnotkunar og stækka ný fórnarlamb fleiri barna,“ segir Thorn.

Skýrsla Thorn lýsir röð meginreglna sem skapandi gervigreind þróunaraðilar myndu fylgja til að koma í veg fyrir að tækni þeirra sé notuð til að búa til barnaklám, þar á meðal ábyrgan þjálfun gagnasett, innlima endurgjöfarlykkjur og álagsprófunaraðferðir, nota efnisferil eða „uppruna“ með andstæða misnotkun í huga og hýsa á ábyrgan hátt viðkomandi gervigreindarlíkön.

Aðrir sem skrifa undir heitið eru ma Microsoft, mannkyns, Mistral AI, Amazon, Stöðugleiki AI, Civit AIog Frumspeki, hver um sig gefur út sérstakar yfirlýsingar í dag.

„Hluti af viðhorfi okkar hjá Metaphysic er ábyrg þróun í gervigreindarheimi, ekki satt, þetta snýst um að styrkja, en þetta snýst um ábyrgð,“ sagði Alejandro Lopez, markaðsstjóri Metaphysic. Afkóða. „Við gerum okkur fljótt grein fyrir því að til að byrja og þróa þýðir það bókstaflega að standa vörð um þá viðkvæmustu í samfélagi okkar, sem eru börn, og því miður, myrkasta enda þessarar tækni, sem er notuð fyrir kynferðisofbeldi gegn börnum í formi djúps falsaðs kláms. , það hefur gerst."

Hleypt af stokkunum í 2021, Frumspeki komst á sjónarsviðið á síðasta ári eftir að í ljós kom að nokkrar Hollywood-stjörnur, þar á meðal Tom Hanks, Octavia Spencer og Anne Hathaway, notuðu Metaphysic Pro tækni til að stafræna einkenni þeirra sem líkjast í því skyni að halda eignarhaldi yfir þeim eiginleikum sem nauðsynlegir eru til að þjálfa gervigreind líkan. .

OpenAI neitaði að tjá sig frekar um frumkvæðið, heldur veitti það Afkóða opinber yfirlýsing frá barnaöryggisstjóra Chelsea Carlson.

„Okkur er mjög annt um öryggi og ábyrga notkun verkfæra okkar, þess vegna höfum við byggt upp sterkar hlífar og öryggisráðstafanir í ChatGPT og DALL-E,“ sagði Carlson í yfirlýsingu. „Við erum staðráðin í að vinna við hlið Thorn, All Tech is Human og breiðari tæknisamfélagið til að viðhalda meginreglum um Safety by Design og halda áfram vinnu okkar við að draga úr mögulegum skaða fyrir börn.

Afkóða náði til annarra þingmanna Samfylkingarinnar en fékk ekki strax svar.

„Hjá Meta höfum við eytt meira en áratug í að vinna að því að tryggja öryggi fólks á netinu. Á þeim tíma höfum við þróað fjölmörg verkfæri og eiginleika til að koma í veg fyrir og berjast gegn mögulegum skaða – og þar sem rándýr hafa aðlagast að því að reyna að forðast vernd okkar, höfum við haldið áfram að aðlagast líka,“ Meta sagði í undirbúinni yfirlýsingu.

„Á öllum vörum okkar greinum við og fjarlægjum CSAE efni með blöndu af hass-samsvörun tækni, gervigreindarflokkara og mannlegum umsögnum,“ GoogleSusan Jasper, varaforseti trausts og öryggislausna, skrifaði í færslu. „Stefna okkar og vernd eru hönnuð til að greina alls kyns CSAE, þar á meðal CSAM sem myndast með gervigreind. Þegar við greinum misnotandi efni fjarlægjum við það og grípum til viðeigandi aðgerða, sem gæti falið í sér að tilkynna það til NCMEC.“

Í október hóf breski varðhundahópurinn, the Internet Watch Foundation, varaði við því að gervigreind myndað barnaníðingsefni gæti „yfirgnæfa' Internetið.

Breytt af Ryan Ozawa.

• SEO knúið efni og PR dreifing. Fáðu magnara í dag.
• PlatoData.Network Vertical Generative Ai. Styrktu sjálfan þig. Aðgangur hér.
• PlatoAiStream. Web3 upplýsingaöflun. Þekking aukin. Aðgangur hér.
• PlatóESG. Kolefni, CleanTech, Orka, Umhverfi, Sól, Úrgangsstjórnun. Aðgangur hér.
• PlatoHealth. Líftækni og klínísk rannsóknagreind. Aðgangur hér.
• Heimild: https://decrypt.co/227731/aig-csam-google-meta-openai-fight-ai-child-sexual-abuse-material