AppleNeuralHash2ONNX

[Death]

https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX

hackernews 上对应的讨论： https://news.ycombinator.com/item?id=28218391

issue 里已经有人给出了碰撞样例： https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1

[rpman]

能复现碰撞那就 verify 了这个模型
完犊子了，各种模型攻击搞起来

[hahastudio]

Believe it or not, this algorithm already exists as early as iOS 14.3, hidden under obfuscated class names.

[tsohgdivil]

以后千万不要随便保存来历不明的图片……

[VIVVACI]

精彩，总之就是非常的精彩

[pocarisweat]

推上已经有人指责这个扫描会误伤 lgbt 内容了，用魔法打魔法。
考虑到苹果连 Safari 样式的改变都不敢强推，如今力排众议搞这个估计是遭到什么铁拳打击了。

[daveh]

@pocarisweat 这需要什么铁拳？当 99%-100%的 X 侵儿童变态用着 iPhone，受着保护，由于取不了证的可能逍遥法外时，能作为一个正常人都知道该干点什么。

[regex]

@daveh 好家伙 “正常人” 能想出扫描所有人照片的做法？

[daveh]

@regex 不去扫描照片，怎么能识别出照片里面是你还是猪还是狗还是其他事物？怎么去做人脸识别？怎么去做扫码？
有些人，好像一说扫描照片就侵犯他隐私了，你让大量的图像处理 app 怎么活？

[alexzuo]

@daveh 咱们拿房子打个比方，现在普遍的规矩是，只要有合法程序，可以搜查嫌疑人的屋子，但不能监视每个人的屋子。手机里面的东西，至少照片，我觉得是个人隐私，和屋子差不多。
之前苹果的做法是，哪怕嫌犯的手机也不能开锁，现在的做法匹配每个人图片。
我觉得苹果在保护隐私这件事上，做的挺分裂的。

[daveh]

@alexzuo 那么好，你在你家房子里安装监控，是否侵犯了你隐私？
如果你房子里的监控设备支持防盗报警，当检测出异常可能有人非法闯进时，请问这个监控要不要因为隐私问题，不去通知报警？监控拍摄的照片，要不要提交给警方作为证据？
你用房子这个比喻很好，Apple 充其量只是给你提供监控防盗设备而已，你家监控设备不会侵犯你隐私，当有异常时，监控设备支持自动报警。
这个异常就是违规图片 hash 。

[alexzuo]

@daveh 请问我的房子装不装监控，是我做主还是苹果做主？我房子里的监控要不要主动报警，是我来设置还是苹果设置？这个监控主要是监视我的，还是监视其他人的？为什么要监视我？没有合法手续就监视私人空间，是不是不合法？

[Aary]

@daveh 问题不在于这个技术本身，而是在于苹果这个机制：
1 、无论怎么 hash 对比，最后是有人工审核以及举报环节的。
2 、苹果的 hash 库是第三方的，苹果没法控制别人可不可以向那个 hash 库加 hash
3 、苹果自己决定用哪方的 hash 库，所以说，这个审查的底线是没有的。
只要有这个机制在，就可能在未来搜索任何东西。
说的悲观一点，当文革开始的时候，这样的机制会变成天然的作恶工具。今天为了孩子，明天我为了种族歧视，审查你的言论可不可以？当然这有点滑坡，但是你想想云上贵州，这个技术是不是就很现实了？

[daveh]

@alexzuo 当然是你来做主，你可以不安装监控，Apple 这个你也可以关闭，甚至你可以不用 Apple 的东西。但既然选择安装了监控，就别问后面这些幼稚问题。

[daveh]

@Aary 苹果这个机制相比其他的，比如云上贵州共享密钥全盘扫描、各 XX 网盘的扫描，已经好太多了。很少有厂商做的像苹果这么透明。
hash 苹果也是能控制的，并不是别人可以随便加。只有疑似有问题照片，才会进入人工审核环节，如果有问题肯定要举报，这是一个违法的问题。
苹果并没有审查言论，不要自行脑补，而且技术上也很难做到，而且你举报有什么用？

[Aary]

@daveh 你要知道云上贵州是独立于 apple 运营的，但云上贵州 icloud 的技术是谁提供的？你觉得云上贵州 /苹果可以拒绝 zf 的要求吗？没有这个技术的应用，那么云上贵州就没法这么廉价的来扫描用户照片。类比一下，如果苹果当年没有发布 icloud，那么就不会有云上贵州，也不会有共享密钥全盘扫描这种事情发生。苹果完全可以选择不引入这个机制。

苹果比其他厂商做的好，这也是我们选择苹果的原因，但是这代表苹果就绝对正确么？不要用你不喜欢可以不用这种小孩打嘴炮的方式来回应，因为你也不是苹果老板，我相信老板也不会对用户说这种话。本质上我们才是同一个阵营的，所以应该讨论的焦点是关注于我们自身的利益得失，而不是苹果的利益。

至于言论 censor 技术上难做到的话，请你在微信里私聊发几次那个 you-know-who 的名字+sb 试试？至于苹果有没有，你觉得在西方都在左转的大环境下，苹果能做到不 zz 正确，独善其身？

[daveh]

@Aary 看来你对 iCloud 根本不了解，你以为 iCloud 上的数据，除了你，苹果就不能解开？事实上除了少部分数据，像照片这样的数据，苹果也是能解开的。
那云上贵州和自营 iCloud 的区别在哪？区别是云上的用户私钥，苹果得无条件提供；而它自营的 iCloud，不会这样做。意味着例如在美区，如果执法机构想要通过查看用户 iCloud 数据去搜索证据，苹果是不会同意的。而云上不存在这样的问题。
这就是为什么苹果用 hash 这样去折腾一下，既要保护用户隐私，不随便提供用户私钥去解密数据；又要打击犯罪，通过 hash 标志特定照片并能用特定密钥解开，便于警方获取犯罪证据。否则只能像云上一样直接提供用户私钥，能解开跟犯罪证据无关的数据，侵犯了用户隐私。
明白了不？苹果这个机制是用来保护你私钥，不被司法机构滥用的。

[Aary]

@daveh 你这逻辑上有问题啊，既然苹果有你的私钥，可以解开你的文件看内容，那他还要一套这个专门来匹配 hash 的系统干嘛？他直接用私钥解开用户的数据，扫一遍就好了，然后既可以按照苹果自己的标准举报用户，也可以配合 zf 执法机构来打击犯罪，因为“苹果是不会同意的”，只要他不把私钥交给 zf 就行了。完全不需要脱裤子放 p 啊。

"For certain sensitive information, Apple uses end-to-end encryption. This means that only you can access your information, and only on devices where you’re signed into iCloud. No one else, not even Apple, can access end-to-end encrypted information.

In some cases, your iCloud data may be stored using third-party partners’ servers—such as Amazon Web Services or Google Cloud Platform—but these partners don’t have the keys to decrypt your data stored on their servers."
https://support.apple.com/en-us/HT202303

这是苹果 icloud 官方的解释，如果苹果有私钥可以解开你的 icloud 内容，那么他敢这样写吗？不是欺诈？
这套系统，本身就是因为苹果没法直接看，所以要加一个间接的手段，来了解你存了什么。所以，这套系统用在保护隐私上，本来就是逻辑清奇。

[Aary]

@daveh 这套系统的好处，就是在你没有被标记出来前，苹果依旧看不到你的其他 icloud 内容。但是问题来了，标记你有没有问题的标准，是取决于苹果公司一个私企的价值观和他们选择的第三方机构的标准。这个标准就是个黑箱，所以问题不在于技术本身，而是你能保证这个标准在这个大环境下，会不会滑坡呢？就像云上贵州的 icloud 一样，Apple：云上贵州怎么样用我的技术不关我的事，反正我是在符合本国法律。苹果再正义，也是要赚钱的，否则它就不该在开云上贵州，对吧？

[daveh]

@Aary 你这看文不看前提：For certain sensitive information，例如 iCloud 钥匙串才满足这样要求。
是否用了端到端加密连 Apple 都不能访问，看数据是否限制了只能指定设备访问。而 iCloud 照片，随便找个电脑开个浏览器就能访问，是不会使用端到端加密的。

[Aary]

@daveh 1.请你打开链接看一下下面的表格 2.钥匙串才满足 e2e，那 windows 上的钥匙串插件见鬼了？