互联网观察基金会（IWF）最近发出令人震惊的警告，称人工智能（AI）生成的儿童性虐待图像（CSAM）在开放网络上的出现频率急剧上升，已达到了一个令人不安的“临界点”。IWF的临时首席执行官德里克·雷·希尔（Derek Ray-Hill）指出，过去六个月内，他们发现的AI制作的非法内容数量竟然超过了前一年的总和！这无疑是一个非常严峻的现象。
令人发指的是，这些AI生成的图像复杂程度之高，似乎是基于真实受害者的资料进行训练的。这使得安全监管机构在判断某些图像是否涉及真实儿童时，感到极大的困惑与无力。在过去六个月里，IWF共对74起AI生成的儿童性虐待材料进行了处理，而这一数字相较于去年仅有70起，显然呈现出上升趋势。
更让人不寒而栗的是，这些AI生成内容大多出现在公开可访问的网络，而非暗网。IWF报告显示，超过一半的AI生成内容托管在俄罗斯和美国的服务器上，而日本和荷兰也成为了类似内容的重要来源。此外，该组织还发现了一些令人发指的“深伪”（deepfake）视频，这些视频将成人色情内容篡改为儿童性虐待内容。更有甚者，一些AI工具被恶意使用，企图“脱衣”那些正常穿着的儿童照片。
在这样的背景下，Instagram也宣布了新措施，以应对日益严重的“性敲诈”问题。该平台将推出一项新功能，自动对用户在私信中接收到的任何裸露图像进行模糊处理，并提醒用户在发送此类图像时要格外小心。
在这场与时间赛跑的战斗中，公众也在行动起来。IWF表示，80%的举报来自普通用户，这显示了人们对于保护儿童安全的强烈责任感。与此同时，面对如此严峻的挑战，社会各界也呼吁加强对AI技术的监管和治理。
在科技发展的潮流中，小易智创AI平台应运而生。作为拥有10000+AI应用的智创平台，它不仅能够满足千行百业的客户需求，还接入了全球领先的AI能力，如GPT、AI绘画、AI数字人等，为用户提供一站式解决方案。代理小易智创，让您轻松打造属于自己的AI品牌公司，无需担心经营与获客问题，全网自动化营销工具助您实现目标。无论是企业、商家还是个人，只需一个账号便可畅享上万款AI工具，抓住时代风口，共同抵御潜在风险。
相关文章
