OpenAI, ásamt leiðtogum iðnaðarins, þar á meðal Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI og Stability AI, hefur skuldbundið sig til að innleiða öflugar öryggisráðstafanir fyrir börn í þróun, dreifingu og viðhaldi kynslóðar gervigreindartækni eins og lýst er í meginreglunum um öryggi í hönnun. Þetta framtak, undir forystu Thorn, sjálfseignarstofnun sem er tileinkuð því að verja börn gegn kynferðislegu ofbeldi, og Öll tækni er mannleg, stofnun sem hefur það að markmiði að takast á við tækni og flókin vandamál samfélagsins, miðar að því að draga úr áhættunni sem skapandi gervigreind hefur í för með sér fyrir börn. Með því að tileinka sér alhliða Safety by Design meginreglur, tryggja OpenAI og jafnaldrar okkar að öryggi barna sé sett í forgang á hverju stigi í þróun gervigreindar. Hingað til höfum við lagt mikið á okkur til að lágmarka möguleika fyrirsætanna okkar til að búa til efni sem skaðar börn, setja aldurstakmarkanir fyrir ChatGPT og taka virkan þátt í National Center for Missing and Exploited Children (NCMEC), Tech Coalition og önnur stjórnvöld. og hagsmunaaðila í iðnaði um barnaverndarmál og endurbætur á skýrslugerðum. 

Sem hluti af þessu átaki um hönnunaröryggi, skuldbindum við okkur til að:

1. Þróun: Þróa, smíða og þjálfa skapandi gervigreind módel
   sem takast á við áhættu barna í öryggismálum.
   • Sækja þjálfunargagnasöfn okkar á ábyrgan hátt, uppgötva og fjarlægja kynferðislegt barn
     misnotkunarefni (CSAM) og kynferðislega misnotkun barna (CSEM) frá
     þjálfunargögn og tilkynntu um staðfest CSAM til viðkomandi
     Yfirvöld.
   • Settu endurgjöfarlykkjur og endurteknar álagsprófunaraðferðir inn í
     þróunarferli okkar.
   • Settu upp lausnir til að bregðast við andstæðri misnotkun.
2. Dreifa: Slepptu og dreifðu kynslóðar gervigreindum gerðum eftir
   þau hafa verið þjálfuð og metin með tilliti til barnaöryggis og veita vernd
   allt ferlið.
   • Berjast gegn og bregðast við móðgandi efni og hegðun og innlima
     forvarnarstarf.
   • Hvetja til eignarhalds þróunaraðila í öryggi með hönnun.
3. Viðhalda: Viðhalda öryggi líkans og palls með því að halda áfram
   að skilja á virkan hátt og bregðast við öryggisáhættu barna.
   • Skuldbundið sig til að fjarlægja nýtt AIG-CSAM sem er búið til af slæmum leikurum frá okkar
     pallur. 
   • Fjárfestu í rannsóknum og framtíðartæknilausnum.
   • Berjist við CSAM, AIG-CSAM og CSEM á kerfum okkar.

Þessi skuldbinding markar mikilvægt skref í að koma í veg fyrir misnotkun gervigreindartækni til að búa til eða dreifa efni til að misnota börn (AIG-CSAM) og annars konar kynferðislega skaða gegn börnum. Sem hluti af vinnuhópnum höfum við einnig samþykkt að gefa út framvinduuppfærslur á hverju ári.