Aralarında Google, Meta ve OpenAI'nin de bulunduğu önde gelen üretken yapay zeka geliştiricilerinden oluşan bir koalisyon, çocukların cinsel istismarına yönelik materyallerin (CSAM) yayılmasıyla mücadele etmek için, gelişen teknolojinin etrafına korkuluklar uygulama sözü verdi.

Grup, kar amacı gütmeyen iki kuruluş tarafından bir araya getirildi: çocuklara yönelik teknoloji grubu Thorn ve New York merkezli All Tech is Human. Eskiden DNA Vakfı olarak bilinen Thorn, 2012 yılında oyuncular Demi Moore ve Ashton Kutcher tarafından kuruldu.

Toplu taahhüt Salı günü yeni bir açıklamayla birlikte açıklandı. Diken raporu Üretken yapay zeka gelişiminde, bir yapay zeka modelinin tüm yaşam döngüsü boyunca çocukların cinsel istismarı materyallerinin (CSAM) oluşturulmasını önleyecek bir "Tasarım Yoluyla Güvenlik" ilkesini savunuyoruz.

“Üretken yapay zeka teknolojilerini ve ürünlerini geliştiren, dağıtan, sürdüren ve kullanan tüm şirketleri, bu Tasarım Yoluyla Güvenlik ilkelerini benimsemeye ve CSAM, AIG-CSAM ve çocukların cinsel içerikli diğer eylemlerinin oluşturulmasını ve yayılmasını önlemeye yönelik kararlılıklarını göstermeye çağırıyoruz. istismar ve sömürü” diken yaptığı açıklamada.

AIG-CSAM, yapay zeka tarafından oluşturulan CSAM'dir ve raporda bunun oluşturulmasının nispeten kolay olabileceği gösterilmektedir.

Diken gelişir araçlar ve kaynaklar çocukları cinsel istismar ve sömürüden korumaya odaklandı. Kuruluş, 2022 etki raporunda çocuk istismarı materyali içeren 824,466'dan fazla dosyanın bulunduğunu söyledi. Geçen yıl Thorn, yalnızca ABD'de 104 milyondan fazla şüpheli CSAM dosyasının rapor edildiğini bildirdi.

Çevrimiçi ortamda zaten bir sorun olan deepfake çocuk pornografisi, üretken yapay zeka modellerinin kamuya açık hale gelmesiyle birlikte hızla arttı ve bulut hizmetlerine ihtiyaç duymayan bağımsız yapay zeka modelleri internette dağıtıldı. karanlık bir web forumları.

Thorn, üretken yapay zekanın hacimli içerik oluşturmayı artık her zamankinden daha kolay hale getirdiğini söyledi. Tek bir çocuk avcısı, orijinal görsellerin ve videoların yeni içeriğe uyarlanması da dahil olmak üzere, büyük miktarlarda çocuk cinsel istismarı materyali (CSAM) oluşturma potansiyeline sahiptir.

Thorn, "AIG-CSAM akışının, halihazırda vergilendirilen çocuk güvenliği ekosistemi için önemli riskler oluşturduğunu, kolluk kuvvetlerinin mevcut istismar mağdurlarını belirleme ve kurtarma ve daha fazla çocuğun yeni mağduriyetini ölçeklendirme konusunda karşılaştığı zorlukları daha da kötüleştirdiğini" belirtiyor.

Thorn'un raporu, üretken yapay zeka geliştiricilerinin, teknolojilerinin çocuk pornografisi oluşturmak için kullanılmasını önlemek için sorumlu kaynak kullanımı da dahil olmak üzere takip edecekleri bir dizi ilkeyi ana hatlarıyla belirtiyor veri kümeleri, geri bildirim döngülerini ve stres testi stratejilerini birleştiriyor, içerik geçmişini veya "kaynağı" düşmanca kötüye kullanımı göz önünde bulundurarak kullanıyor ve ilgili yapay zeka modellerini sorumlu bir şekilde barındırıyor.

Taahhüde imza atan diğer kişiler arasında şunlar yer alıyor: MicrosoftAntropik, Mistral Yapay Zeka, Amazon, Stabilite AI, Civit AI, ve metafizik, her biri bugün ayrı açıklamalar yayınlıyor.

Metaphysic'in pazarlama şefi Alejandro Lopez şunları söyledi: "Metaphysic'teki ahlak anlayışımızın bir kısmı, yapay zeka dünyasında sorumlu gelişimdir, doğru, bu yetkilendirmeyle ilgilidir, ancak bu sorumlulukla da ilgilidir." azalmak. “Başlamanın ve geliştirmenin, kelimenin tam anlamıyla toplumumuzdaki en savunmasız kişileri, yani çocukları korumak anlamına geldiğini ve ne yazık ki, derin sahte pornografi biçiminde çocuk cinsel istismarı materyalleri için kullanılan bu teknolojinin en karanlık ucunun olduğunu hemen anlıyoruz. , bu oldu.

2021 başlatılan, metafizik Geçtiğimiz yıl aralarında Tom Hanks, Octavia Spencer ve Anne Hathaway'in de bulunduğu birçok Hollywood yıldızının, bir yapay zeka modelini eğitmek için gerekli olan özelliklerin sahipliğini korumak amacıyla benzerlerinin özelliklerini dijitalleştirmek için Metaphysic Pro teknolojisini kullandığının ortaya çıkmasıyla öne çıktı .

OpenAI, girişim hakkında daha fazla yorum yapmayı reddetti; bunun yerine şunları sağladı: azalmak çocuk güvenliği lideri Chelsea Carlson'dan bir basın açıklaması.

Carlson, "Araçlarımızın güvenliğini ve sorumlu kullanımını derinden önemsiyoruz, bu nedenle ChatGPT ve DALL-E'ye güçlü korkuluklar ve güvenlik önlemleri oluşturduk" dedi. ifade. "Tasarım Yoluyla Güvenlik ilkelerini desteklemek ve çocuklara yönelik olası zararları azaltmak için çalışmalarımızı sürdürmek için Thorn, Tüm Teknoloji İnsandır ve daha geniş teknoloji topluluğuyla birlikte çalışmaya kararlıyız."

azalmak Koalisyonun diğer üyelerine ulaştı ancak hemen yanıt alamadı.

“Meta olarak, insanları çevrimiçi ortamda güvende tutmak için on yılı aşkın bir süredir çalışıyoruz. Bu süre zarfında, olası zararları önlemeye ve bunlarla mücadele etmeye yardımcı olacak çok sayıda araç ve özellik geliştirdik; yırtıcı hayvanlar korumalarımızdan kaçmaya çalışırken biz de uyum sağlamaya devam ettik." Meta hazırlanan bir açıklamada söyledi.

"Ürünlerimizde, karma eşleştirme teknolojisi, yapay zeka sınıflandırıcıları ve insan incelemelerinin bir kombinasyonu yoluyla CSAE materyalini proaktif bir şekilde tespit edip kaldırıyoruz." Google'nin güven ve güvenlik çözümlerinden sorumlu başkan yardımcısı Susan Jasper bir gönderide şunu yazdı: "Politikalarımız ve korumalarımız, yapay zeka tarafından oluşturulan CSAM dahil her türlü CSAE'yi tespit edecek şekilde tasarlandı. İstismar amaçlı içerik tespit ettiğimizde, onu kaldırıyoruz ve NCMEC'e raporlamayı da içerebilecek uygun eylemi gerçekleştiriyoruz."

Ekim ayında Birleşik Krallık gözlemci grubu, İnternet İzleme Vakfı, yapay zeka tarafından oluşturulan çocuk istismarı materyallerinin 'kaplamak' internet.

Düzenleyen ryan ozawa.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://decrypt.co/227731/aig-csam-google-meta-openai-fight-ai-child-sexual-abuse-material