IBM et le NYPD ont collaboré sur la surveillance de masse

Suite aux attentats du 11 septembre 2001, la police de New York n'a cessé de renforcer son infrastructure de vidéosurveillance. Cherchant à rendre le plus utile possible les images captées par ses caméras, le NYPD s'est associé à diverses entreprises high-tech pour développer des outils de recherche très élaborés. On apprend aujourd'hui qu'IBM a eu accès à des rushs du NYPD pour développer, à sa demande, des algorithmes de recherche très poussés, y compris sur des critères ethniques.

Si l'on en croit cet article de The Intercept, IBM aurait secrètement exploité des vidéos tournées par le système de vidéosurveillance de la police de New York afin de développer des algorithmes d'analyse d'image capables d'identifier des individus en fonction de caractéristiques physiques telles que la taille, le poids, l'âge ou la couleur de peau. The Intercept disposerait de preuves tangibles de l'existence de ce partenariat, citant à la fois des documents confidentiels, mais aussi des extraits d'échanges tenus entre chercheurs d'IBM et officiels du NYPD. 

Aux États-Unis, ces révélations font couler beaucoup d'encre dans un contexte où les liens entre grands groupes high-tech et autorités gouvernementales sont scrutés de près. Le fait est que depuis plusieurs années, l'émergence de technologies de surveillance de masse dopées à l'intelligence artificielle se fait de plus en plus tangible, et qu'en absence de législation claire les concernant, les dérives à même d'en découler inquiètent fortement l'opinion publique.

Un vieux projet qui aurait été abandonné

Depuis 2007, le NYPD travaille sur ce genre de technologies, d'abord avec l'une des filiales de Microsoft (Vexcel), puis avec IBM. Les premiers tests concrets ont été réalisés dans le sud de Manhattan, en 2010, sur une cinquantaine des plus de cinq cents caméras installées dans le quartier à l'époque. Avec le temps, le procédé s'est perfectionné et autorise désormais à conduire des recherches sur les flux vidéo d'un grand nombre de caméras, et aussi sur un nombre de critères importants incluant le genre, l'âge, la couleur de cheveux, la pilosité faciale ou la couleur de peau.

Au NYPD, on nie avoir déjà utilisé concrètement cette technologie, en particulier en ce qui concerne le profilage ethnique. “Bien que des outils permettant de chercher des individus sur des critères raciaux ont déjà été proposés au NYPD, ils ont toujours été refusés”, déclare un représentant de la police cité par The Intercept. Pourtant, chez IBM, Rick Kjeldsen (un chercheur ayant travaillé sur cette solution) est formel : “Nous n'aurions pas exploré ces pistes si cela n'avait pas été une demande du NYPD (…) Aucune entreprise ne va dépenser de l'argent s'il n'y a pas d'intérêt de la part des clients”. Ce dernier ajoute que des chercheurs d'IBM s'inquiétaient de l'utilisation qui pourrait être faite de cette technologie, beaucoup estimant qu'il était nécessaire de mieux informer le public quant à l'existence et l'utilisation de ces outils. Officiellement, le NYPD n'utilise plus les technologies d'IBM depuis 2016.

Lire la suite : IBM et le NYPD ont collaboré sur la surveillance de masse