为了打击儿童性虐待内容 (CSAM) 的传播，包括 Google、Meta 和 OpenAI 在内的顶级生成式 AI 开发者联盟誓言要加强对这一新兴技术的监管。
该组织由两个非营利组织组成：儿童科技组织 Thorn 和总部位于纽约的 All Tech is Human。 Thorn 的前身是 DNA 基金会，由演员黛米·摩尔 (Demi Moore) 和阿什顿·库彻 (Ashton Kutcher) 于 2012 年创立。
周二宣布了集体承诺以及新的承诺 刺报告 倡导生成式人工智能开发中的“设计安全”原则，防止在人工智能模型的整个生命周期中创建儿童性虐待材料（CSAM）。
“我们敦促所有开发、部署、维护和使用生成式人工智能技术和产品的公司致力于采用这些设计安全原则，并展示他们致力于防止 CSAM、AIG-CSAM 和其他儿童性行为的产生和传播。虐待和剥削” 刺 在一份声明中说。
AIG-CSAM 是人工智能生成的 CSAM，报告表明其创建相对容易。
图片：索恩
刺发育 工具 以及侧重于保护儿童免受性虐待和性剥削的资源。该组织在其 2022 年影响报告中表示，发现了超过 824,466 个包含虐待儿童材料的文件。去年，Thorn 报告称，仅在美国就报告了超过 104 亿份可疑 CSAM 文件。
在生成式人工智能模型公开后，深度伪造儿童色情内容在网上已经成为一个问题，不需要云服务的独立人工智能模型也在网上传播。 暗网 论坛。
索恩说，生成式人工智能使创建大量内容比以往任何时候都更加容易。单个儿童掠夺者可能会创造大量儿童性虐待材料 (CSAM)，包括将原始图像和视频改编成新内容。
索恩指出：“AIG-CSAM 的涌入给本已不堪重负的儿童安全生态系统带来了重大风险，加剧了执法部门在识别和营救现有虐待受害者方面所面临的挑战，并扩大了更多儿童的新受害范围。”
索恩的报告概述了生成人工智能开发人员应遵循的一系列原则，以防止他们的技术被用来制作儿童色情内容，包括负责任地采购培训 数据集，结合反馈循环和压力测试策略，利用内容历史或“来源”并考虑到对抗性滥用，并负责任地托管各自的人工智能模型。
其他签署承诺的人包括 微软, 人择, 西北风人工智能, Amazon, 稳定人工智能, 公民人工智能及 形而上学，今天各自发表了单独的声明。
Metaphysical 首席营销官 Alejandro Lopez 表示：“我们 Metaphysical 的精神之一是在人工智能世界中负责任地进行开发，对吧，这是关于授权，但也是关于责任。” 解码。 “我们很快认识到，启动和发展这意味着真正保护我们社会中最弱势的群体，即儿童，不幸的是，这项技术的最黑暗的结局是，它被用于以深度伪造色情内容形式传播儿童性虐待材料，这已经发生了。”
在2021推出， 形而上学 去年，汤姆·汉克斯 (Tom Hanks)、奥克塔维亚·斯宾塞 (Octavia Spencer) 和安妮·海瑟薇 (Anne Hathaway) 等几位好莱坞明星正在使用 Metaphysical Pro 技术对他们的肖像特征进行数字化，以保留对训练人工智能模型所需特征的所有权后，这一问题就引起了人们的关注。 。
OpenAI 拒绝进一步评论该计划，而是提供 解码 儿童安全负责人切尔西卡尔森的公开声明。
“我们非常关心我们工具的安全和负责任的使用，这就是为什么我们在 ChatGPT 和 DALL-E 中建立了强大的护栏和安全措施，”卡尔森在一份报告中说道。 声明。 “我们致力于与 Thorn、All Tech is Human 以及更广泛的科技社区合作，维护安全设计原则，并继续努力减轻对儿童的潜在伤害。”
解码 我们联系了联盟的其他成员，但没有立即收到回复。
“在 Meta，我们花了十多年的时间致力于确保人们的在线安全。在那段时间里，我们开发了许多工具和功能来帮助预防和对抗潜在的伤害——随着捕食者已经适应并试图逃避我们的保护，我们也在继续适应。” 元 在准备好的声明中说。
“在我们的产品中，我们通过结合哈希匹配技术、人工智能分类器和人工审查来主动检测和删除 CSAE 材料，” 谷歌信任和安全解决方案副总裁苏珊·贾斯珀（Susan Jasper）在一篇文章中写道。 “我们的政策和保护措施旨在检测各种 CSAE，包括人工智能生成的 CSAM。当我们发现剥削性内容时，我们会将其删除并采取适当的行动，其中可能包括向 NCMEC 报告。”
10 月，英国监管机构 互联网观察基金会，警告说人工智能生成的虐待儿童材料可能会“压倒' 互联网。
编辑 小泽赖恩.
