Le plan CSAM bâclé d’Apple montre le besoin de droits numériques

De l’horrible piratage de l’iPhone du groupe NSO chez Apple système récemment révélé pour analyser les appareils des utilisateurs, il est temps de mettre un terme au glissement sans fin des missions de la commodité technologique à la surveillance.

Apple résout un problème, en crée un autre

Prenez Apple, par exemple. Le brouhaha entourant sa décision d’inventer une technologie pour numériser les images des utilisateurs à la recherche de matériel CSAM a apparemment « surpris » l’entreprise.

À mes yeux cyniques, le fait qu’Apple ait annoncé le déménagement dans un note publiée discrètement sur son site à la fin du cycle hebdomadaire de nouvelles en dit long. À mon avis, chaque personne responsable des relations publiques sur la planète sait que faire des annonces à la fin de la semaine est un moyen d’enterrer les mauvaises nouvelles.

Cela me fait penser que ce n’était pas vraiment surpris. Il n’a tout simplement pas réussi à gérer la réaction – et est maintenant en contrôle des dégâts car il continue d’ajouter des explications supplémentaires à l’annonce originale. Le vice-président senior des logiciels de la société, Craig Federighi, a même été sorti pour essayer de mieux expliquer les choses.

Je suis heureux que la critique du mouvement soit maintenant se déroulant à l’intérieur de l’entreprise. Je pense que la motivation d’Apple était de créer une solution qui lui permettait de numériser des bibliothèques d’images tout en défendant la confidentialité des utilisateurs, mais je vois aussi qu’elle a fini par construire un cadre technologique qui peut facilement être tordu pour porter atteinte à la vie privée.

Il voulait protéger la vie privée, mais a plutôt inventé un système qui pourrait la miner. Cette Apple maintenant juste veut que nous lui fassions confiance pour ne pas étendre le système à d’autres domaines étire la crédulité. Maintenant que le système a été inventé et que l’entreprise a confirmé son existence, il n’y a plus moyen de revenir en arrière.

Par accident ou intentionnellement, Apple a ouvert la boîte de Pandore. La confiance est une monnaie, mais à ce niveau elle doit être adossée à une réglementation.

L’éthique d’un hacker

C’est la même chose pour le groupe NSO, qui propose d’envahir la vie privée de presque n’importe qui pour un prix très élevé. Tandis que l’entreprise promet que si vous n’avez rien à cacher, vous n’avez rien à craindre, et dit que cela ne fonctionne qu’avec les gouvernements, vous n’avez qu’à regarder comment c’est des hacks ont été récemment utilisés pour voir le problème.

Le manque de respect des droits de l’homme dont témoigne la façon dont la technologie de NSO a déjà été utilisée met en évidence le défi auquel Apple est désormais confronté s’il veut vraiment tenir sa promesse de ne pas étendre son système de numérisation CSAM à d’autres domaines.

Nous avons besoin de réglementation

Le problème est que maintenant nous savons que le système existe, il n’y a aucun moyen de le faire reculer – et les gouvernements qui veulent de tels systèmes dans vos appareils savent que c’est possible. La pression est donc là.

C’est pourquoi un Les Nations Unies appellent à un moratoire sur la vente de technologies de surveillance telles que Pegasus du groupe NSO semble opportun. « Il est hautement dangereux et irresponsable de permettre à la technologie de surveillance et au secteur commercial de fonctionner comme une zone sans droits humains », prévient l’ONU.

« Le droit international des droits de l’homme exige que tous les États adoptent de solides garanties juridiques nationales pour protéger les individus contre la surveillance illégale, l’atteinte à leur vie privée ou les menaces à leur liberté d’expression, de réunion et d’association », a déclaré l’agence.

Ce qu’il faut, c’est un cadre juridique convenu au niveau international qui réglemente l’utilisation de la surveillance basée sur la technologie à tous les niveaux, du type de publicité basée sur la surveillance contre laquelle Apple a tant poussé à l’utilisation flagrante de la technologie, telle que Cambridge Analytica, le groupe NSO et Apple espionnant sur l’appareil viennent de révéler.

Toute personne utilisant un appareil doit avoir une attente raisonnable quant à la façon dont son utilisation de cet appareil est protégée. Et cela devrait être un ensemble de normes internationalement acceptées, probablement construites autour des principes de la liberté d’expression et d’association.

Où est Tim Cook ?

Il est bouleversant, compte tenu de son leadership en matière de confidentialité, que le PDG d’Apple, Tim Cook, soit resté silencieux sur cette question. C’était seulement en 2019 il a écrit, « Il est temps de défendre le droit à la vie privée – le vôtre, le mien, le nôtre », dans Temps magazine.

En 2018 Il avait dit: « Des acteurs malhonnêtes et même des gouvernements ont profité de la confiance des utilisateurs pour approfondir les divisions, inciter à la violence et même saper notre sens commun de ce qui est vrai et de ce qui est faux. »

Ce dernier point est celui sur lequel Cook revient souvent. Au Canada plus tôt cette année, il a mis en garde contre la nécessité de protéger la liberté d’expression, et discuté récemment la nécessité de donner « aux utilisateurs la tranquillité d’esprit en renforçant ce contrôle et la liberté d’utiliser leur technologie sans se soucier de qui regarde par-dessus leur épaule ».

Il y a un peu plus d’une semaine, le processus lent mais régulier vers l’adoption de telles règles était acceptable. Les choses ont changé.

Apple n’est pas une petite entité. Les Mac, iPhone et iPad comptent plus d’un milliard d’utilisateurs. La décision d’activer la surveillance sur l’appareil sur ses plates-formes signifie qu’il est désormais essentiel de mettre en place un charte internationale des droits numériques.

Afin de tenir sa promesse de protéger notre vie privée, Apple devrait – moralement, je pense – maintenant mettre toute l’étendue de sa puissance d’entreprise derrière le développement d’un tel ensemble de droits. Rien de moins ne fera l’affaire.

Merci de me suivre sur Twitter, ou rejoignez-moi dans le Bar & grill AppleHolic et Discussions Apple groupes sur MeWe.