Amazon a présenté sa reconnaissance faciale à ICE, montrent des emails publiés

Des documents obtenus par le biais d'un projet de loi sur la liberté de l'information (POGO) montrent que l'unité de vente gouvernementale d'Amazon cherchait activement à fournir au département de la Sécurité intérieure des enquêtes sur la sécurité intérieure du Département de la sécurité intérieure, Immigration et application des douanes (ICE), le visage controversé. système de reconnaissance. Cette présentation faisait partie d'une discussion plus large sur les offres Amazon Web Services proposées à ICE HSI, comprenant des algorithmes d'intelligence artificielle et des analyses prédictives.

Amazon a déjà fourni des services de cloud computing à DHS, notamment aux services de citoyenneté et d'immigration des États-Unis (USCIS). USCIS utilise le stockage en nuage Amazon pour stocker des données, y compris des informations associées aux numéros d’enregistrement des étrangers (numéros A), numéros également utilisés par ICE, le Customs and Border Patrol et d’autres organismes DHS pour identifier et suivre les immigrants. Et DHS a insisté pour que AWS fasse davantage. Dans une demande d'information (RFI) de 2017, DHS a demandé "des informations concernant la technologie DEVSECOP (développement, sécurité et opérations modernes), en particulier en association avec le Big Data, l'Analytics, le PersonCentric, la résolution d'entités et l'apprentissage automatique … , améliorer et prendre en charge les systèmes dans les grands environnements cloud, notamment Amazon Web Services (AWS). "

Dans un courrier électronique adressé à un destinataire DHS le 15 juin, le responsable des ventes fédéral d’Amazon Web Service pour Homeland Security a poursuivi la conversation sur les technologies d’intelligence artificielle (AI) et d’apprentissage automatique (ML) d’Amazon qui se sont déroulées à Redwood City, en Californie, société de conseil McKinsey & Company. La société avait signé avec ICE un contrat de "services de gestion intégrée du conseil", dont une partie était consacrée au "développement de ICE [Enforcement and Removal Operations’] vision et stratégie modernisées. "

"Nous sommes prêts et disposés à soutenir la mission vitale de HSI", a écrit le responsable des ventes, dont le nom est expurgé dans le communiqué. "J'espère que ce que nous avons partagé concernant … les dernières mises à jour de développement entourant notre suite AI / ML était utile." Le représentant d'Amazon a ensuite répertorié les "actions" de la conversation, notamment la mise en place potentielle d'un "atelier d'innovation d'une journée axé sur un gros problème lié au HSI". La liste comprenait également la mise en place d’un briefing technique plus approfondi sur un certain nombre de technologies d’IA et de ML, notamment:

• Capacités d'analyse prédictive et scénarios de déploiement.
• Elasticsearch en tant que service géré, [and] chemin vers un ATO [Authority to Operate].
• Valeur de la base de données Neptune Graph, cas d'utilisation et sécurité.
• Rekognition Video tagging / analysis, scalability, [and] bibliothèques d'objets personnalisés.

Les points d'action mentionnent une introduction à une personne de l'USCIS pour discuter de la mise en œuvre Elasticsearch de cette agence.

Ironiquement, la réunion chez McKinsey a eu lieu alors que les employés de McKinsey parlaient des préoccupations morales et éthiques entourant le contrat du cabinet avec ICE. Un contrat de McKinsey avec la division ICE Enforcement and Removal Operations a pris fin en juillet.

En juillet, l'Union américaine des libertés civiles du nord de la Californie a publié les résultats d'un test effectué à l'aide de photos de membres du Congrès et d'une base de données publique contenant 25 000 clichés d'arrêt. Au total, 28 membres du Congrès, dont six membres du Black Caucus du Congrès, ont été signalés comme matches. Le test ACLU faisait suite à plusieurs études – dont une réalisée par le US Government Accountability Office en mars 2017 – révélant des taux inacceptables de faux positifs dans les systèmes de reconnaissance faciale. Une étude du MIT Media Lab a révélé que les systèmes de reconnaissance faciale souvent mal identifiés des personnes à la peau plus sombre.

Amazon a contesté les résultats du test ACLU et cherché à rassurer DHS. Dans un courrier électronique de suivi adressé au contact DHS, le responsable des ventes Amazon a envoyé un lien vers un article de blog Amazon, indiquant "[Dr. Matt Wood’s] les commentaires sur l'ACLU, la précision de la reconnaissance faciale et les "niveaux de confiance" peuvent présenter un intérêt compte tenu de vos efforts soutenus. "

En réponse à cette divulgation, l'ACLU a réitéré son appel en faveur d'un "moratoire sur l'utilisation de la technologie de reconnaissance faciale à des fins de répression de l'immigration et du respect de la loi jusqu'au congrès et au débat public sur les utilisations éventuelles de cette technologie qui devraient être autorisées". et annoncé une demande en vertu de la loi sur la liberté de l'information "exigeant du ministère de la Sécurité intérieure qu'il divulgue au public si, et de quelle manière, l'agence utilise ou prévoit d'utiliser la technologie."

"ICE ne devrait pas utiliser la reconnaissance faciale pour l'immigration ou l'application de la loi", a déclaré Neema Singh Guliani, conseillère législative principale de l'ACLU. reconnaissance à des fins d'immigration ou d'application de la loi. "