Ceci est un article invité de John Carr, le principal penseur britannique sur la suppression des images d'abus d'enfants sur Internet. Le blog original sur les enquêtes du New York Times est apparu sur John's Desiderata site. Nous avons présenté d'autres blogs récents de John ici, ici et ici.

En septembre, le New York Times a publié le premier d'une série d'articles dans lequel ils se sont concentrés sur la réponse de l'industrie de l'Internet à la croissance explosive de la détection de matériel d'abus sexuel d'enfants en ligne (csam).

Ils ont commencé avec les statistiques fournies par NCMEC. En 1998, ils ont reçu 3,000 2018 rapports de csam. Le nombre de 18.4 était de 45 millions de rapports, faisant référence à XNUMX millions d'images fixes et de vidéos de csam.

Nous avons été informés dans un article postérieur en 2013, moins de 50,000 2018 vidéos csam avaient été signalées. En 22, c'était jusqu'à XNUMX millions. La vidéo a été le principal domaine de croissance. le Centre canadien de protection de l'enfance et du Royaume-Uni Fondation de surveillance Internet ont connu des niveaux de croissance similaires.

Bien que ces chiffres soient choquants, ils démontrent probablement simplement le déploiement accru et l'efficacité accrue des outils utilisés pour détecter la CSAM par un nombre relativement réduit de sociétés Internet.

Cependant, ce que les articles du New York Times ont principalement montré était l'insuffisance de la réponse de l'industrie Internet au sens large et, en fait, l'insuffisance de la réponse de certains des principaux acteurs de l'industrie. Nous avons été conduits sur le chemin du jardin.

Si la sécurité des enfants était vraiment intégré dans la culture d'une entreprise, des histoires comme celles publiées par le New York Times ne seraient tout simplement pas possibles. Pourtant, ils ont comparu pendant des années, voire jamais auparavant, avec autant de détails médico-légaux.

La coalition technologique

En 2006, le Coalition technologique a été établi. Voici sa mission déclarée

Notre vision est d'éliminer l'exploitation sexuelle des enfants en ligne. Nous avons investi dans la collaboration et le partage d'expertise les uns avec les autres, car nous reconnaissons que nous partageons les mêmes objectifs et faisons face aux mêmes défis.

C'est la rubrique standard. Vous l'entendez tout le temps. De tout le monde. Ce n'est pas vrai.

Les agresseurs d'enfants courent de toutes leurs forces alors que les entreprises de technologie se tournent de l'autre côté

C'était le titre de la deuxième article dans la série du New York Times. Il efface complètement la façade d'une campagne collective énergique et résolue visant à éliminer le csam d'Internet.

Voici quelques extraits de la pièce:

Les sociétés disposent des outils techniques pour arrêter la recirculation des images d'abus en comparant les images nouvellement détectées aux bases de données du matériel. Pourtant, l'industrie ne tire pas pleinement parti des outils.

Plus précisément, on nous a dit

Le plus grand réseau social au monde, Facebook, analyse en profondeur ses plates-formes, représentant plus de 90 pour cent des images signalées par les entreprises de technologie l'année dernière. mais l'entreprise n'utilise pas toutes les bases de données disponibles pour détecter le matériel… .. (Nous soulignons).

Apple ne scanne pas son stockage cloud…. et crypte son application de messagerie, rendant la détection pratiquement impossible. Dropbox, Google et les produits grand public de Microsoft recherchent des images illégales, mais uniquement lorsque quelqu'un les partage, pas lors de leur téléchargement.

… D'autres entreprises, y compris…. Yahoo (propriété de Verizon), recherchez des photos mais pas des vidéos, même si le contenu vidéo illicite explose depuis des années. 

Selon le Horaires

Il n’existe pas de liste unique de hachages d’images et de vidéos que toutes les entreprises concernées peuvent utiliser.

Google et Facebook ont ​​développé des outils pour détecter les vidéos csam qui sont différentes et incompatibles. Un plan pour créer un processus de partage de vidéo "empreintes" (hachages pour accélérer la détection) a apparemment allé nulle part. 

Il y a plus

Les entreprises technologiques sont beaucoup plus susceptibles de consulter des photos, des vidéos et d'autres fichiers sur leurs plates-formes pour…. détection des logiciels malveillants et application des droits d'auteur. Mais certaines entreprises affirment que la recherche de contenu abusif est différente car elle peut soulever des problèmes de confidentialité importants.

Amazon, qui n'est certes pas membre de la Technology Coalition mais le plus grand fournisseur mondial de services cloud, ne scanne rien.

Un porte-parole d'Amazon…. a déclaré que «la confidentialité des données client est essentielle pour gagner la confiance de nos clients», …… Microsoft Azure a également déclaré qu'il n'avait pas analysé le matériel, citant des raisons similaires.

À un moment donné, il sera intéressant de déconstruire ce que «La confiance des clients» signifie vraiment.

Et nous savons tout cela parce que…

Comment avons-nous appris tout cela? At-il émergé à la suite de déclarations ouvertes des entreprises technologiques? Évidemment pas. Suite à une analyse approfondie par une équipe dédiée d'universitaires? Non. La vérité a-t-elle été révélée par un organisme d'application de la loi, une ONG ou une agence gouvernementale qui a finalement décidé que l'omertà n'était pas dans l'intérêt public? Non.

Nous avons acquis ces connaissances parce que la direction du New York Times a décidé de donner à deux journalistes, Michael Keller et Gabriel Dance, l’espace et les ressources nécessaires pour poursuivre une histoire si importante en soi.

J'ai rencontré ces gars pour la première fois aux bureaux du New York Times lundi dernier, mais je leur ai d'abord parlé en juin. Ils enquêtaient sur csam depuis février, volant (littéralement), discutant avec une multitude de personnes, rassemblant des informations à partir de sources enregistrées et non enregistrées.

C'était un effort gigantesque qui a fait une impression proportionnée sur la première page du journal. Cela semble avoir l'effet escompté.

Une lettre de cinq sénateurs

Une conséquence immédiate des articles du New York Times est apparue la semaine dernière lorsque cinq sénateurs américains (deux démocrates et trois républicains) écrit un impressionnant lettre détaillée à trente-six entreprises de technologie. Ils comprennent tous les membres de la Coalition technologique et bien d’autres encore. Les Sénateurs veulent des réponses d’ici le 4th December.

Voyons comment les entreprises réagissent. La lettre contient toutes les bonnes questions. Ce sont précisément les entreprises de technologie qui devraient être légalement tenues de répondre. Une fois les élections britanniques terminées, espérons que nous pourrons agir rapidement pour mettre en place un régulateur fort qui pourra leur demander d'être sûrs de recevoir des réponses véridiques. Toute hésitation ou refus des entreprises américaines de répondre à la lettre des sénateurs ne fera qu'ajouter à un sentiment d'urgence ici.

Le New York Times a aidé des enfants du monde entier

Les enfants du monde entier doivent beaucoup à Keller and Dance et à leurs patrons, mais il est scandaleux qu'il ait fallu un journal pour l'exploser. Où se trouve l'organisme d'intérêt public qui dispose des ressources et de la capacité de suivre et de faire rapport de manière constante au fil du temps sur des questions de ce type? Ça n'existe pas. Cela devrait.

Je dis depuis des lustres que nous avons besoin d'un observatoire mondial, entre autres pour faire régulièrement ce que le New York Times vient de faire ponctuellement. Quelque part, il doit y avoir une agence indépendante dotée de ressources adéquates qui a les intérêts des enfants en son cœur et les industries de haute technologie en vue. Mais un tel organisme doit être durable dans le temps. C'est une chose importante et coûteuse à faire, mais je vais essayer de le faire à nouveau.