Tech coms échec

adminaccount888 Actualités

Ceci est un article invité de John Carr, le principal penseur britannique sur la suppression des images d'abus commis sur des enfants sur Internet. Le blog original sur les enquêtes du New York Times est paru sur John's Desiderata site Web. Nous avons présenté d'autres blogs récents de John ici, ici ici .

En septembre, le New York Times a publié le premier d'une série d'articles dans lequel ils se sont concentrés sur la réaction de l’industrie de l’internet à la croissance explosive de la détection de matériel pédopornographique en ligne (csam).

Ils ont commencé avec les statistiques fournies par NCMEC. Sous 1998, ils ont reçu des rapports 3,000 sur csam. Le nombre de rapports 2018 s'élevait à des millions de rapports 18.4 et faisait référence à des millions d'images fixes et de vidéos 45 de csam.

Nous avons été informés dans un article postérieur dans 2013, moins de vidéos 50,000 csam avaient été rapportées. En 2018, ce chiffre atteignait le million de 22. La vidéo a été le principal secteur de croissance. le Centre canadien de protection de l'enfance et du Royaume-Uni Fondation de surveillance Internet ont connu des niveaux de croissance similaires.

Bien que ces chiffres soient choquants, ils démontrent probablement simplement le déploiement accru et l'efficacité accrue des outils utilisés pour détecter la CSAM par un nombre relativement réduit de sociétés Internet.

Cependant, ce que les articles du New York Times ont principalement montré, c’est l’insuffisance de la réponse de l’industrie de l’internet au sens large et, en fait, de la réaction de certains des principaux acteurs de l’industrie. Nous avons été conduits sur le chemin du jardin.

Si la sécurité des enfants était vraiment intégré dans la culture d'une entreprise, des histoires du genre publiées par le New York Times ne seraient tout simplement pas possibles. Pourtant, ils comparaissent depuis des années, voire jamais, avec un tel détail médico-légal.

La coalition technologique

En 2006 le Coalition technologique a été établi. Voici sa mission déclarée

Notre vision est d'éliminer l'exploitation sexuelle des enfants en ligne. Nous avons investi dans la collaboration et le partage d'expertise les uns avec les autres, car nous reconnaissons que nous partageons les mêmes objectifs et faisons face aux mêmes défis.

Ceci est la rubrique standard. Vous l'entendez tout le temps. De tout le monde. Ce n'est pas vrai

Les agresseurs d'enfants courent de toutes leurs forces alors que les entreprises de technologie se tournent de l'autre côté

C'était le titre de la deuxième article dans la série du New York Times. Il efface complètement la façade d'une campagne collective énergique et résolue visant à éliminer le csam d'Internet.

Voici quelques extraits de la pièce:

Les sociétés disposent des outils techniques pour arrêter la recirculation des images d'abus en comparant les images nouvellement détectées aux bases de données du matériel. Pourtant, l'industrie ne tire pas pleinement parti des outils.

Plus précisément, on nous a dit

Le plus grand réseau social au monde, Facebook, analyse en profondeur ses plates-formes, représentant plus de 90 pour cent des images signalées par les entreprises de technologie l'année dernière. mais la société n’utilise pas toutes les bases de données disponibles pour détecter le matériel… .. (Nous soulignons).

Apple ne scanne pas son stockage en nuage…. et chiffre son application de messagerie, rendant la détection pratiquement impossible. Dropbox, les produits grand public de Google et de Microsoft, recherchent des images illégales, mais uniquement lorsque quelqu'un les partage, pas quand elles sont téléchargées.

… D'autres entreprises, y compris…. Yahoo (propriété de Verizon) cherche des photos mais pas des vidéos, même si le contenu vidéo illicite explose depuis des années.

Selon le Horaires

Il n’existe pas de liste unique de hachages d’images et de vidéos que toutes les entreprises concernées peuvent utiliser.

Google et Facebook ont ​​développé des outils pour détecter les vidéos csam qui sont différentes et incompatibles. Un plan pour créer un processus de partage de vidéo "empreintes" (hachage pour accélérer la détection) a apparemment allé nulle part.

Il y a plus

Les entreprises technologiques sont beaucoup plus susceptibles de revoir des photos, des vidéos et d’autres fichiers sur leurs plateformes pour…. détection de logiciels malveillants et application du droit d'auteur. Toutefois, certaines entreprises affirment que la recherche de contenu abusif est différente car elle peut soulever des problèmes de confidentialité importants.

Amazon, certes pas membre de la Technology Coalition mais premier fournisseur mondial de services de cloud computing, effectue des analyses pour rien.

Un porte-parole d'Amazon…. a déclaré que «la confidentialité des données des clients est essentielle pour gagner la confiance de nos clients»…… Microsoft Azure a également déclaré ne pas avoir analysé le contenu, invoquant des raisons similaires.

À un moment donné, il sera intéressant de déconstruire ce que «Confiance des clients» signifie vraiment.

Et nous savons tout cela parce que…

Comment avons-nous appris tout cela? Cela a-t-il émergé à la suite de déclarations ouvertes de sociétés de technologie? Évidemment pas. Suite à une analyse minutieuse par une équipe dédiée d'universitaires? La vérité a-t-elle été révélée par un organisme chargé de l'application de la loi, une ONG ou un organisme gouvernemental qui a finalement décidé que l'omertà n'était pas dans l'intérêt public? Non.

Nous avons acquis ces connaissances parce que la direction du New York Times a décidé de donner à deux journalistes, Michael Keller et Gabriel Dance, l’espace et les ressources nécessaires pour poursuivre une histoire si importante en soi.

J'ai rencontré ces gars pour la première fois aux bureaux du New York Times lundi dernier, mais je leur ai d'abord parlé en juin. Ils enquêtaient sur csam depuis février, volant (littéralement), discutant avec une multitude de personnes, rassemblant des informations à partir de sources enregistrées et non enregistrées.

Ce fut un effort gigantesque qui fit une éclaboussure proportionnelle sur la première page du journal. Cela semble avoir l'effet désiré.

Une lettre de cinq sénateurs

Une conséquence immédiate des articles du New York Times est apparue la semaine dernière lorsque cinq sénateurs américains (deux démocrates et trois républicains) écrit un impressionnant lettre détaillée à trente-six entreprises de technologie. Ils comprennent tous les membres de la Coalition technologique et bien d’autres encore. Les Sénateurs veulent des réponses d’ici le 4th December.

Voyons comment les entreprises répondent. La lettre contient toutes les bonnes questions. C’est précisément à ce type que les entreprises de technologie devraient être légalement tenues de répondre. Une fois les élections terminées au Royaume-Uni, espérons que nous pourrons agir rapidement pour mettre en place un régulateur fort, capable de leur demander avec confiance de recevoir des réponses véridiques. Toute hésitation ou refus de la part des entreprises américaines de répondre à la lettre des sénateurs ne fera que renforcer le sentiment d'urgence.

Le New York Times a aidé des enfants du monde entier

Les enfants du monde entier doivent beaucoup à Keller and Dance et à leurs patrons, mais il est scandaleux qu'il ait fallu un journal pour l'exploser. Où se trouve l'organisme d'intérêt public qui dispose des ressources et de la capacité de suivre et de faire rapport de manière constante au fil du temps sur des questions de ce type? Ça n'existe pas. Cela devrait.

Je soutiens depuis des lustres que nous avons besoin d'un observatoire mondial, entre autres choses, pour faire régulièrement ce que le New York Times vient de faire en une fois. Quelque part, il est nécessaire de mettre en place un organisme indépendant doté de ressources suffisantes, ayant à cœur les intérêts des enfants et les industries de haute technologie. Mais un tel organisme doit être durable dans le temps. C'est une chose lourde et coûteuse à faire, mais je vais essayer de le faire une autre fois.

Print Friendly, PDF & Email

Partagez cet article