Apple News

La portée excessive d’Apple contre le porno – bonne intention, mauvaise exécution


Ah, Pomme. Ne peux-tu pas peser dans n’importe quoi sans faire de gâchis?

La dernière en date : Apple veut utiliser ses pouvoirs étendus pour lutter contre la pédopornographie. Comme d’habitude, l’entreprise a de bonnes intentions, veut faire avancer un grand objectif – et utilise ensuite une telle portée qu’elle donne aux gens des dizaines de raisons de s’y opposer. Pour paraphraser le vieil adage, la route de l’enfer dans ce cas commence à One Apple Park Way. Alternativement, pensez à Cupertino comme où les bonnes idées vont devenir des exécutions monstrueuses.

Cela a commencé la semaine dernière avec l’annonce par Apple de son intention de faire quelque chose pour ralentir la pédopornographie et les enfants exploités. Bien, jusqu’ici. Ses tactiques consistent à dire aux parents lorsque leur progéniture télécharge des images nues ou autrement érotiques. Avant d’aborder les aspects technologiques de tout cela, examinons brièvement le nombre presque infini de façons dont cela pourrait mal tourner. (Peut-être c’est où l’ancien siège social d’Apple a obtenu son nom Infinity Loop.)

Pensez aux jeunes adolescents qui peuvent explorer leurs sentiments, essayer de comprendre leurs désirs et leurs pensées. Et pour que ces recherches soient immédiatement partagées avec leurs parents. Cet enfant n’a-t-il pas le droit de discuter de ces sentiments avec qui il veut, quand il veut ? Comme d’autres l’ont noté, dans certains foyers, ces enfants peuvent être sévèrement punis. Ceci à partir d’une recherche sur leur téléphone pour explorer leurs esprits ?

En tant que parent, j’ai de sérieux doutes quant à savoir si c’est nécessairement la bonne décision pour l’enfant. Mais que ce soit ou non, je faire sachez que je ne veux pas que les ingénieurs Apple – et certainement pas les algorithmes Apple – fassent cet appel. Pour d’autres arguments sur les implications de la vie privée, voici une excellente lettre ouverte.

N’oubliez pas que, par principe, Apple s’engage d’une manière conforme aux lois et réglementations locales. Réfléchissez ensuite à la façon dont certains pays perçoivent ces problèmes et laissez-les s’imprégner. Comme Apple l’a exprimé, les changements « permettront aux parents de jouer un rôle plus éclairé en aidant leurs enfants à naviguer dans la communication en ligne. L’application Messages utilisera l’apprentissage automatique sur l’appareil. pour mettre en garde contre les contenus sensibles… » Et « à titre de précaution supplémentaire, on peut également dire à l’enfant que, pour s’assurer qu’il est en sécurité, ses parents recevront un message s’ils le voient ».

Mais il existe encore un problème potentiellement pire pour l’informatique d’entreprise et, comme toutes les mauvaises choses, il s’agit de contourner le cryptage.

Commençons avec L’annonce d’Apple. Voici un passage plus long de la déclaration pour offrir plus de contexte :

« Avant qu’une image ne soit stockée dans iCloud Photos, un processus de correspondance sur l’appareil est effectué pour cette image par rapport aux hachages CSAM connus. Ce processus de correspondance est alimenté par une technologie cryptographique appelée intersection d’ensembles privés, qui détermine s’il y a une correspondance sans révéler le résultat. L’appareil crée un bon de sécurité cryptographique qui encode le résultat de la correspondance ainsi que des données cryptées supplémentaires sur l’image. Ce bon est téléchargé sur iCloud Photos avec l’image. En utilisant une autre technologie appelée partage de seuil secret, le système garantit le contenu de les bons de sécurité ne peuvent être interprétés par Apple que si le compte iCloud Photos franchit un seuil de contenu CSAM connu.Le seuil est défini pour fournir un niveau de précision extrêmement élevé et garantit moins d’une chance sur un billion par an de signaler de manière incorrecte un élément donné. Ce n’est que lorsque le seuil est dépassé que la technologie cryptographique permet à Apple d’interpréter le contenu du s des bons de sécurité associés aux images CSAM correspondantes. Apple examine ensuite manuellement chaque rapport pour confirmer qu’il existe une correspondance, désactive le compte de l’utilisateur et envoie un rapport au NCMEC. Si un utilisateur estime que son compte a été signalé par erreur, il peut faire appel pour que son compte soit rétabli. »

Avant d’aborder les problèmes technologiques, essayons d’envisager de manière réaliste à quel point Apple effectuera sans aucun doute ce processus d’appel de manière rapide, facile et pratique. Je pense qu’il est sûr de dire que beaucoup de ces enfants percevront la sécurité sociale bien avant de voir la résolution d’une décision d’appel et d’une explication.

Portez une attention particulière à ceci : « En utilisant une autre technologie appelée partage de secret de seuil, le système garantit que le contenu des bons de sécurité ne peut pas être interprété par Apple à moins que le compte iCloud Photos ne franchisse un seuil de contenu CSAM connu. Le seuil est défini pour fournir un haut niveau de précision et garantit moins d’une chance sur un billion par an de signaler de manière incorrecte un compte donné. Ce n’est que lorsque le seuil est dépassé que la technologie cryptographique permet à Apple d’interpréter le contenu des bons de sécurité associés aux images CSAM correspondantes. « 

Il se passe deux choses ici qui devraient effrayer tout CISO ou le personnel de la cybersécurité. Pour tous les cryptographes, cela vous fera probablement exploser la tête. Premièrement, le système d’Apple récupère les images avant qu’elles ne soient cryptées. Cela ne va pas autant à l’encontre du cryptage qu’il le contourne. Du point de vue du cybervoleur, ce n’est pas si différent.

Deuxièmement, considérez ceci à partir de la dernière ligne citée : « Ce n’est que lorsque le seuil est dépassé que la technologie cryptographique permet à Apple d’interpréter le contenu… ».

C’est mendier pour un cauchemar. Si les contrôles cryptographiques d’Apple peuvent être ouverts « lorsque le seuil est dépassé », tout ce qu’un méchant doit faire est de faire croire au système que son seuil est dépassé. Oubliez le porno. Cela pourrait être une bonne porte dérobée pour afficher toutes sortes de contenus sur ce téléphone.

Toute la prémisse de la cryptographie par téléphone est qu’elle soit aussi proche de l’absolu que possible. S’il permet d’accéder à quelque chose avant le cryptage ou permet à ce cryptage d’être annulé lorsqu’un algorithme conclut que certains critères sont remplis, alors ce n’est plus sécurisé. Il s’agit simplement de tracer une feuille de route permettant aux attaquants d’accéder à tous les moyens de données.

Est-ce une porte dérobée ? Peut-être, mais même si ce n’est pas le cas, c’est beaucoup trop près.

Copyright © 2021 IDG Communications, Inc.



Source link

Quelle est votre réaction ?

Excité
0
Heureux
0
J'adore
0
Pas certain
0
ridicule
0

Vous aimerez aussi

Laisser une réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Plus dans:Apple News