联合国警告称，人工智能的普及对儿童构成日益严重的威胁，并呼吁采取紧急和全面的措施，保护未成年人免受暴力、剥削和心理创伤。这是联合国各机构于1月31日发表的联合声明中所述。
值得注意的是，大量利用人工智能技术创建的恶意内容正在网络上传播。主要威胁包括诱骗、深度伪造、在数字服务中植入恶意功能、网络欺凌以及儿童访问不适宜内容。
国际电信联盟电信发展局局长科斯马斯·扎瓦扎瓦表示，现代技术使网络犯罪分子能够分析儿童的在线行为、情绪状态和兴趣，从而更精准地制定策略来吸引和操纵他们。他指出，在新冠疫情期间，许多儿童，尤其是女孩，遭受了网络虐待，在某些情况下甚至造成了身体伤害。
联合国还指出，人工智能使犯罪分子能够伪造真实儿童的图像，这导致了一种新型性勒索形式的出现。根据独立机构“全球儿童安全儿童之光研究所”（Childlight Institute for Global Child Safety）发布的2025年报告，美国利用科技手段实施的儿童性虐待案件数量将从2023年的4700起增加到2024年的67000多起。
声明强调，一些国家已经开始出台严格的监管措施。具体而言，澳大利亚于2025年底成为全球首个禁止16岁以下儿童拥有社交媒体账户的国家。该决定基于一项全国性调查，调查显示，近三分之二的10至15岁儿童接触过暴力、辱骂或令人痛苦的内容，超过一半的儿童遭受过网络欺凌。
据报道，包括马来西亚、英国、法国和加拿大在内的其他国家也在准备采取类似措施或提出立法提案。媒体报道称，法国国民议会本周一读通过了一项法案，禁止15岁以下儿童使用社交媒体，之后该法案将提交参议院审议。
2026年初，多个致力于保护儿童权利的联合国机构签署了一份关于人工智能与儿童权利的联合声明。该文件强调，儿童、教师、家长和监护人对人工智能的了解程度普遍较低，同时政府机构在人工智能监管、数据保护以及评估技术对儿童权利的影响等方面的技术准备也不足。
该声明特别强调了科技公司的责任。联合国指出，大多数人工智能工具的开发并未考虑儿童的利益和福祉。与此同时，据扎瓦扎瓦称，尽管有人担心创新速度可能会放缓，但私营部门代表仍表示愿意提高产品的安全性。
他强调，负责任地使用人工智能可以同时促进企业发展、维持市场份额并确保用户安全。然而，国际电信联盟表示，当技术可能导致不良后果时，它有义务发出警报。
联合国回顾说，早在2021年，《儿童权利公约》就新增了反映数字时代挑战的条款。然而，据该组织各机构称，各国仍然缺乏有效监管的实用指导。
为此，我们制定了一系列建议，其中特别强调需要加强人工智能监管体系，确保技术的透明度和问责制，保护儿童个人数据，防止暴力和剥削，并在制定政策和人工智能系统时考虑儿童的意见。我们指出，人工智能的发展必须具有包容性，消除偏见，并有助于可持续发展。
