Comment se sont passées vos vacances ? Vous avez voyagé ? Vous vous êtes relaxés ? Si vous faites partie du département juridique ou communication d'Apple, il y a de grandes chances que vous ayez passé l'été dans un bureau à consulter les news et à envoyer des démentis dans tous les sens. Apple et surtout iOS s'en sont pris plein la poire pomme ces deux derniers mois. Voici un petit récap' des évênements.

Lire la suite sur le site : iOS = Détresse.

Pour NeuralHash on peut ajouter que pour le moment il semble "facile" a tromper...
https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1#issuecomment-903094036

Et malgré tout, on a aussi passé les $150 pour la première fois...

Ils ont pas un comité d'éthique chez Apple ? Tout ce truc de neuralhash est complètement gogol.

Le problème de neuralhash c'est pas tellement les risques de collision, bien que ça peut le devenir si quelqu'un décide de faire chier apple et génère en masse des images "anodines" a potentiel viral, avec juste ce qu'il faut de GAN pour trigger en mass les flags rendant la review humaine impossible (faut imaginer une image avec un peu de bruit dedans mixée avec une image porno de quelqu'un qui a l'air jeune et vous imaginez le délire).
Non le problème c'est surtout qu'en fait leur systeme il suffit d'utiliser une autre base de données de hashes (mettons des documents qui viennent juste de fuiter d'un whistleblower par ex) pour retrouver le leaker originel.. et tous les gens qui l'ont aidé. On rappelle qu'a la base Apple vend iCloud comme E2E, et leur truc c'est le bullshit classique metadata vs données réelles... et non c'est pas acceptable.
Y'a pas que la Chine qui fait ce genre de truc sales, tous les pays le font... et c'est là ou ça pue.

BeatKitano a écrit :
Non le problème c'est surtout qu'en fait leur systeme il suffit d'utiliser une autre base de données de hashes (mettons des documents qui viennent juste de fuiter d'un whistleblower par ex) pour retrouver le leaker originel.. et tous les gens qui l'ont aidé. On rappelle qu'a la base Apple vend iCloud comme E2E, et leur truc c'est le bullshit classique metadata vs données réelles... et non c'est pas acceptable.
Y'a pas que la Chine qui fait ce genre de truc sales, tous les pays le font... et c'est là ou ça pue.

Merci pour ce commentaire éclairant.

Mais dites moi, Android ne fait pas déjà ça avec ses images retrouvables par mot clé ?
genre je tape "visage Dudule" sur mon smartphone et il me sort toutes mes photos où on voit le visage de Dudule ? Sans que j'ai jamais rentré un tag pour lui dire ce qu'il y avait sur chaque image. Il y a bien un analyseur d'image derrière qui trouve les mots clés en fonction de ce qu'il a analysé, non ?
Après, il ne reste plus au système qu'à les communiquer au service de censure local pour qu'il efface tes images/ supprimes ton compte/ t'envoie au goulag.

Ce qui me tue, c'est que même avec toutes ces casseroles, Apple reste un leader mondial..

Android ne le fait que si tu l'autorises. Enfin, je sais pas si il ne se permet pas de le faire de manière transparente sans que tu sois informé. Mais moi, toutes ces features sont bloquées sur Android et il ne fait aucune relation avec mes photos.

Ceci dit, tous les produits Google ont quasi zéro autorisation sur mon téléphone : )

Frostis Advance a écrit :
Ce qui me tue, c'est que même avec toutes ces casseroles, Apple reste un leader mondial..

Tu veux dire, comme Amazon ( qui pense que ses employés payés au lance pierre et qui ne peuvent pas aller aux chiottes sont des fainéants ) ? Comme Total ? Comme peu importe quelle grosse marque dont tout le monde connait les pratiques et soupirent "holala oui ces boite ce sont des gros cons" et continuent d'aller acheter chez eux ?

Merci pour ce résumé complet, j'étais passé à côté de FakeSpot, c'est cocasse.

BeatKitano a écrit :
Le problème de neuralhash c'est pas tellement les risques de collision, bien que ça peut le devenir si quelqu'un décide de faire chier apple et génère en masse des images "anodines" a potentiel viral

C'est en cours

Laurent a écrit :
Mais dites moi, Android ne fait pas déjà ça avec ses images retrouvables par mot clé ?

Google le fait déjà mais sur ses serveurs. Donc si Drive est activé, il est très probable que les images soient scannées de la même manière.
La différence ici c'est que Apple, scanne, ou plutôt compare les hashs en local sur le téléphone (ou Mac). Avec validation sur leurs serveurs à postériori, d'après Apple (la fonctionnalité est activée que si tu actives iCloud toujours d'après Apple).

Un autre problème que la communauté pointe du doigt, c'est le fait qu'on pourrait "attaquer" des gens en leur faisant stocker volontairement des photos anodines qui matchent un hash CSAM pour qu'ils soient flaggués chez Apple et potentiellement par la police.

Mais le plus gros problème, comme le dit BeatKitano, c'est que toute l'infrastructure existe pour juste ajouter un hash qui n'est pas CSAM pour répondre à un besoin de tracking d'un gouvernement.
Et ça, c'est peut-être déjà le cas sur les serveurs Apple/Google, sans qu'on puisse s'en rendre compte car on ne peut pas savoir ce qu'il se passe sur leurs serveurs... Et en effet, sans doute que la plupart des pays le font déjà.

Laurent a écrit :
Mais dites moi, Android ne fait pas déjà ça avec ses images retrouvables par mot clé ?
genre je tape "visage Dudule" sur mon smartphone et il me sort toutes mes photos où on voit le visage de Dudule ? Sans que j'ai jamais rentré un tag pour lui dire ce qu'il y avait sur chaque image. Il y a bien un analyseur d'image derrière qui trouve les mots clés en fonction de ce qu'il a analysé, non ?
Après, il ne reste plus au système qu'à les communiquer au service de censure local pour qu'il efface tes images/ supprimes ton compte/ t'envoie au goulag.

Faut pas confondre reconnaissance faciale et hash de données. Le systeme d'apple fait la même chose en local (donc perso ça me pose pas trop de prb), mais là on parle d'identifier le contenu d'un fichier après son indexation, sans casser le cryptage. On n'analyse pas l'image on la compare a une base de données de fichiers déjà connus, et le systeme est même pas en place on voit déjà des failles grosses comme ma.

Burps a écrit :

Un autre problème que la communauté pointe du doigt, c'est le fait qu'on pourrait "attaquer" des gens en leur faisant stocker volontairement des photos anodines qui matchent un hash CSAM pour qu'ils soient flaggués chez Apple et potentiellement par la police.

Et ça bien qu'il y ai toujours une review humaine une fois passé le cap des x images détectés (ce qui peut changer si apple se retrouve bombardé): c'est un vrai gros problème.
Je rappelle que, par ex, quelqu'un qui utilise watsapp (ahah bien fait !) peut se retrouver avec un compte piraté par quelqu'un de mal intentionné qui va utiliser le compte pour envoyer x images CSAM a tous les contacts. Watsapp étant un des services qui balance ses images autotéléchargées dans le dossier photo (qui est sync par iCloud)... je vous laisse imaginer le potentiel de merde que ça peut engendrer. Pour vous et vos contacts.
C'est qu'un cas spécifique... mais y'a surement des dizaines d'autres auquels on ne pense pas et qui sont terrifiants.

Et quand bien même vous finissez par prouver que non vous êtes pas un pedo... votre vie privée a été passée au peigne fin.
Au passage, je ne sais pas quels accords il y a entre pays, mais y'a des chances que ça se limite pas aux US... L'idée est bonne, mais l'implémentation est doomed to fail.

https://m.media-amazon.com/images/P/2205041223.01._SCLZZZZZZZ_SX500_.jpg

__MaX__ a écrit :

Frostis Advance a écrit :
Ce qui me tue, c'est que même avec toutes ces casseroles, Apple reste un leader mondial..

Tu veux dire, comme Amazon ( qui pense que ses employés payés au lance pierre et qui ne peuvent pas aller aux chiottes sont des fainéants ) ? Comme Total ? Comme peu importe quelle grosse marque dont tout le monde connait les pratiques et soupirent "holala oui ces boite ce sont des gros cons" et continuent d'aller acheter chez eux ?

Amazon, c'est RIEN à côté d'AWS.

Frostis Advance a écrit :
Amazon, c'est RIEN à côté d'AWS.

Heu non, pas dutout.



Amazon, c'est aussi Whole Foods Market, Amazon Air qui a 73 Boeing 737 et 767, Audible, Goodreads, IMDB, Twitch, Ring etc…

choo.t a écrit :

Frostis Advance a écrit :
Amazon, c'est RIEN à côté d'AWS.

Heu non, pas dutout.

Ça dépend sinon parle des revenus ou des profits.

muldoon a écrit :
Ça dépend sinon parle des revenus ou des profits.

Effectivement, ça marge bien :

digitalcommerce360 a écrit :
While AWS accounted for only 13.1% of Amazon’s Q2 sales, it contributed 54.4% of operating income, down from 57.5% in the same quarter last year.

BeatKitano a écrit :
Au passage, je ne sais pas quels accords il y a entre pays, mais y'a des chances que ça se limite pas aux US... L'idée est bonne, mais l'implémentation est doomed to fail.

Pour l'instant c'est vraiment limité aux USA.

Dragonir a écrit :

BeatKitano a écrit :
Au passage, je ne sais pas quels accords il y a entre pays, mais y'a des chances que ça se limite pas aux US... L'idée est bonne, mais l'implémentation est doomed to fail.

Pour l'instant c'est vraiment limité aux USA.

Je pense que ça restera pas exclusifs aux us longtemps. Leur base de donnée est nationale mais je suis sur que interpol ou des organismes multinationaux vont utiliser la techno. Enfin... si ça marche (mais bon microsoft et google utilisent des techniques similaires depuis des années donc bon...)