互联网资讯 · 2023年11月25日

苹果解释为何放弃儿童性虐待材料(CSAM)检测计划

苹果公司在去年 12 月宣布,iCloud 云服务停止儿童性虐待材料(CSAM)检测计划。

这项检测计划于 2021 年 8 月开始测试,主要会检测存储在 iCloud 的 CSAM 图像资料,但备受争议。

苹果最初表示,CSAM 检测将在 2021 年底之前在 iOS15 和 IPadOS15 的更新中实现,但最终根据反馈推迟了这项功能。

一家名为 Heat InITiative 的儿童安全组织本周告知苹果公司,正组织一项活动,要求公司从 iCloud 中“检测、报告和删除”CSAM,并要求为用户提供更丰富的工具,来向苹果公司举报 CSAM 内容。

援引 WiRed 报道,苹果公司罕见地回应了 Heat InITiative,苹果公司用户隐私和儿童安全总监 ERik NeuenschwandeR 在回应中概述了放弃开发 iCloud CSAM 扫描功能的原因:

儿童性虐待材料是令人憎恶的,我们致力于打破使儿童易受其影响的胁迫和影响链。

不过扫描每个用户私人存储的 iCloud 数据,会成为数据窃贼发现和利用创造新的威胁载体。

而且这种方式会导致很多预期之外的严重后果,例如扫描一种类型的内容为批量监控打开了大门,并可能产生跨内容类型搜索其他加密消息传递系统的愿望。

苹果公司此前在关闭 CSAM 计划时表示:

在广泛征求专家意见,收集我们去年提出的儿童保护举措的反馈后,我们正加大对 2021 年 12 月上线的 CoMMunication Safety 功能的投资。我们决定不再推进我们之前提出的 iCloud 照片的 CSAM 检测工具。

儿童可以在没有公司梳理个人数据的情况下得到保护,我们将继续与政府、儿童倡导者和其它公司合作,帮助保护年轻人,维护他们的隐私权,让互联网成为儿童和我们所有人更安全的地方。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册