联合国新闻处报道，联合国儿童基金会、国际组织ECPAT和国际刑警组织在11个国家联合进行的一项研究显示，全球数百万儿童和青少年正成为与制作性化深度伪造视频相关的犯罪的受害者。
根据这项研究，大约每25名儿童中就有一名成为性化深度伪造视频的受害者。至少有120万名儿童报告称，他们的照片被篡改并制作成露骨的性爱照片。联合国儿童基金会强调，问题的严重程度相当于每个教室里至少有一名儿童成为此类犯罪的受害者。
值得注意的是，深度伪造技术（即使用人工智能技术创建或处理的照片、视频或音频文件，使其看起来或听起来像真的一样）正越来越多地被用于制作以儿童为主角的性内容。
该组织指出，儿童自身也意识到了这些风险。在参与这项研究的几个国家中，约有三分之二的儿童表示，他们担心人工智能可能被用于制作虚假的色情图片或视频。
联合国儿童基金会强调，制作性暗示的深度伪造视频等同于虐待儿童。专家认为，此类虚假视频和照片会使性剥削未成年人的行为正常化，并助长对暴力内容的需求。
该基金会欢迎人工智能开发者为防止系统被滥用而采取的默认安全策略和强大的安全机制。然而，基金会强调，许多人工智能模型在创建时缺乏足够的安全措施，而当生成式人工智能工具直接集成到社交媒体中时，风险会进一步增加，因为处理后的图像会在社交媒体上高速传播。
联合国儿童基金会呼吁所有国家将制作、获取、存储和传播包含儿童性化图像的人工智能生成内容的行为定为刑事犯罪。此外，该组织认为，人工智能开发者必须在设计阶段就实施安全机制，数字公司也应防止此类内容的传播，而不是仅仅在滥用后才将其删除。
