苹果下架19款性暴力深度伪造换壳App，网络涉400余域名，Meta处置1.16万广告账户
据《连线》11 月 2 日报道（IT 之家 11 月 3 日转述），一个涉及 400 多个关联域名和应用的网络，以宠物写真、语言学习、AI 健身教练等日常服务为掩护，暗中提供性暴力深度伪造功能。研究人员发现，这些应用由服务器根据用户来源、语言等信息决定展示普通功能还是隐藏界面；苹果称，开发者在通过应用审核后更换了应用调用的网页内容，即"审核后换壳"。平台清理行动已落地：苹果在接获《连线》问询后下架了 19 款 App；据报道，谷歌此前已移除大部分涉事应用，但未回应置评请求；Meta 称已对 1.16 万个相关广告账户采取措施，并禁止 209 款应用在其旗下平台投放广告。据报道，该网络经 Facebook 和 Instagram 广告导流、再借苹果和谷歌应用商店分发，今年 9 月仍有 27 款相关应用在 Google Play 上架、累计下载超 35 万次，部分应用被标为适合所有年龄段，部分推广广告还包含 AI 生成的儿童性虐待内容；事件目前处于曝光与清理进行中阶段，报告所称的应用网络规模仍远大于已下架数量。
rss · IT之家 · 11月3日 00:25
「为何重要」 这件事的核心不是单个违规应用，而是一条被验证可行的灰色路径：应用先以合规外壳通过商店审核，再由服务器动态切换网页内容提供违规服务，使依赖上架时静态审查的商店审核机制失效，而 Meta 的广告体系成为主要导流渠道。已证实的影响目前为数十万下载量级，但涉及 AI 生成的儿童性虐待内容广告（据《连线》报道），使其严重程度超出普通违规应用范畴。接下来值得盯的信号：苹果、谷歌是否针对审核后动态加载内容调整审核机制，Meta 对相关广告账户的处置是否进一步扩大，以及是否出现监管部门介入。
做AI项目，先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →