為了打擊兒童性虐待內容 (CSAM) 的傳播，包括 Google、Meta 和 OpenAI 在內的頂級生成式 AI 開發者聯盟誓言要加強對這項新興技術的監管。
該組織由兩個非營利組織組成：兒童科技組織 Thorn 和總部位於紐約的 All Tech is Human。 Thorn 的前身是 DNA 基金會，由演員黛米摩爾 (Demi Moore) 和阿什頓庫徹 (Ashton Kutcher) 於 2012 年創立。
週二宣布了集體承諾以及新的承諾 刺報告 倡導生成式人工智慧開發中的「設計安全」原則，防止在人工智慧模型的整個生命週期中創建兒童性虐待材料（CSAM）。
「我們敦促所有開發、部署、維護和使用生成式人工智慧技術和產品的公司致力於採用這些設計安全原則，並展示他們致力於防止 CSAM、AIG-CSAM 和其他兒童性行為的產生和傳播。虐待和剝削” 刺 在一份聲明中說。
AIG-CSAM 是人工智慧產生的 CSAM，報告顯示其建立相對容易。
圖片：索恩
刺發育 工具 以及著重於保護兒童免受性虐待和性剝削的資源。該組織在 2022 年影響報告中表示，發現了超過 824,466 個包含虐待兒童資料的文件。去年，Thorn 報告稱，僅在美國就報告了超過 104 億份可疑 CSAM 文件。
在生成式人工智慧模式公開後，深度偽造兒童色情內容在網路上已經成為一個問題，不需要雲端服務的獨立人工智慧模式也在網路上傳播。 暗網 論壇。
索恩說，生成式人工智慧使創建大量內容比以往任何時候都更加容易。單一兒童掠奪者可能會創造大量兒童性虐待材料 (CSAM)，包括將原始圖像和影片改編成新內容。
索恩指出：「AIG-CSAM 的湧入給本已不堪重負的兒童安全生態系統帶來了重大風險，加劇了執法部門在識別和營救現有虐待受害者方面所面臨的挑戰，並擴大了更多位兒童的新受害範圍。
索恩的報告概述了產生人工智慧開發人員應遵循的一系列原則，以防止他們的技術被用來製作兒童色情內容，包括負責任地採購培訓 數據集，結合回饋循環和壓力測試策略，利用內容歷史或「來源」並考慮對抗性濫用，並負責任地託管各自的人工智慧模型。
其他簽署承諾的人包括 Microsoft微軟, 人擇, 西北風人工智能, Amazon, 穩定人工智能, 公民人工智慧和 形而上學，今天各自發表了單獨的聲明。
Metaphysical 首席行銷長 Alejandro Lopez 表示：“我們 Metaphysical 的精神之一是在人工智能世界中負責任地進行開發，對吧，這是關於授權，但也是關於責任。” 解碼。 「我們很快就認識到，啟動和發展這意味著真正保護我們社會中最弱勢的群體，即兒童，不幸的是，這項技術的最黑暗的結局是，它被用於以深度偽造色情內容形式傳播兒童性虐待材料，這已經發生了。
在2021推出， 形而上學 去年，湯姆漢克斯(Tom Hanks)、奧克塔維亞史賓塞(Octavia Spencer) 和安妮海瑟薇(Anne Hathaway) 等幾位好萊塢明星正在使用Metaphysical Pro 技術對他們的肖像特徵進行數位化，以保留對訓練人工智慧模型所需特徵的所有權後，這一問題就引起了人們的關注。
OpenAI 拒絕進一步評論該計劃，而是提供 解碼 兒童安全負責人切爾西卡爾森的公開聲明。
「我們非常關心我們工具的安全和負責任的使用，這就是為什麼我們在 ChatGPT 和 DALL-E 中建立了強大的護欄和安全措施，」卡爾森在一份報告中說道。 聲明。 “我們致力於與 Thorn、All Tech is Human 以及更廣泛的科技社區合作，維護安全設計原則，並繼續努力減輕對兒童的潛在傷害。”
解碼 我們聯繫了聯盟的其他成員，但沒有立即收到回覆。
「在 Meta，我們花了十多年的時間致力於確保人們的網路安全。在那段時間裡，我們開發了許多工具和功能來幫助預防和對抗潛在的傷害——隨著捕食者已經適應並試圖逃避我們的保護，我們也在繼續適應。 Meta 在準備好的聲明中說。
“在我們的產品中，我們透過結合哈希匹配技術、人工智慧分類器和人工審查來主動檢測和刪除 CSAE 材料，” 谷歌信任與安全解決方案副總裁蘇珊·賈斯珀（Susan Jasper）在一篇文章中寫道。 「我們的政策和保護措施旨在檢測各種 CSAE，包括人工智慧產生的 CSAM。當我們發現剝削性內容時，我們會將其刪除並採取適當的行動，其中可能包括向 NCMEC 報告。
10 月，英國監管機構 互聯網觀察基金會，警告說人工智慧生成的虐待兒童材料可能會“壓倒' 互聯網。
編輯 小澤賴恩.
