Amazon a annoncé à ses employés qu'il continuerait à vendre des logiciels de reconnaissance faciale aux forces de l'ordre

Amazon a récemment été critiqué pour la licence de son système controversé Rekognition, un puissant logiciel de reconnaissance faciale, au gouvernement et aux agences chargées de l'application de la loi. Le dernier développement impliquant des révélations selon lequel Amazon a rencontré Amazon a été révélé aux États-Unis. au cours de l'été pour conclure un accord pour l'utilisation de la reconnaissance. À présent, les employés d’Amazon associent le leadership de la société à la vente de cette technologie, en particulier lorsqu’elle pourrait servir à traquer des êtres humains et à les renvoyer dans des environnements potentiellement dangereux à l’étranger.

Lors de la réunion plénière d'aujourd'hui, Andrew Jassy, ​​PDG d'Amazon Web Services, a déclaré: «Nous sommes vraiment ravis de la valeur qu'Amazon Rekognition offre à ses clients de toutes tailles et de tous types d'industries application ", selon un employé d'Amazon qui a parlé avec Le bord sous condition d'anonymat et fourni une transcription partielle de la conversation. BuzzFeed d'abord rendu compte des commentaires de Jassy plus tôt cet après-midi.

Amazon n'était pas immédiatement disponible pour commenter.

AWS, la division d'informatique en nuage d'Amazon, est responsable de l'activation de Rekognition, qui est actuellement utilisée par les services de police de la Floride et de l'Oregon. Jeff Bezos, PDG d’Amazon, a demandé à Jassy de répondre spécifiquement à une question sur la reconnaissance et les éventuels contrats gouvernementaux conclus avec des organisations comme ICE. Jassy a poursuivi en affirmant "que vous ne voulez pas vous débarrasser de cette technologie", mais a indiqué que des violations des conditions de service d’AWS ou des violations des droits constitutionnels en général obligeraient Amazon à interdire l’utilisation de ses services. Il a toutefois fait remarquer que la société estimait que «c’est au gouvernement qu’incombe la responsabilité d’aider à préciser ce que devraient être les directives de la réglementation en matière de technologie».

La participation d'Amazon aux contrats du gouvernement avec Rekognition est une recherche qui prouve que le système est profondément défectueux, à la fois en termes de précision et de biais raciaux. L’American Civil Liberties Union a testé Reconnaissance au cours de l’été et a découvert que le système avait identifié à tort 28 membres du Congrès sur une base de données de 25 000 clichés. (Amazon a rejeté les conclusions de l’ACLU dans son étude, avec Matt Wood, son directeur général de l’apprentissage en profondeur et de l’IA, déclarant dans un article de blog en juillet que les données de son test avec l’API Rekognition avaient été générées avec une confiance de 80%. loin du taux de confiance de 99% recommandé par la loi.)

La société a également refusé de participer à une étude exhaustive sur les biais algorithmiques menée par l’Institut national des normes et de la technologie, qui cherche à identifier les facteurs pouvant influencer le taux d’erreur d’un algorithme de reconnaissance faciale.

Amazon n’est pas le seul géant de la technologie à subir l’opposition de ses propres employés quant à la manière dont les produits sont vendus et utilisés par le gouvernement américain. La direction de Google a fait face à une immense réaction cette année suite à sa participation à une initiative de drone du Pentagone appelée Project Maven, obligeant la société à annoncer qu'elle ne renouvellerait pas son contrat l'année prochaine et à publier un ensemble de directives éthiques relatives à l'utilisation de l'intelligence artificielle et au développement de produits. Google est également sous le feu des critiques pour son projet de lancer un produit d'information et de recherche pour le marché chinois qui serait conforme à la politique de censure du gouvernement.

Voici la transcription intégrale de l’échange de la réunion plénière:

Q: Que fait-on pour répondre aux préoccupations exprimées par les employés d’Amazon et les groupes de défense des droits de la personne selon lesquels Amazon vendrait des technologies de reconnaissance faciale au gouvernement et aux organisations policières, y compris ICE?

Le PDG d'Amazon, Jeff Bezos: Bien. Andy, tu veux prendre celui-là?

Andrew Jassy, ​​PDG d'AWS: Merci, nous parlons donc d'Amazon Rekognition, qui est la reconnaissance d'image en apprentissage profond, la reconnaissance faciale, le service de reconnaissance vidéo AWS et, vous savez, avec plus de cinq cent mille employés comme chez Amazon, je pense que nous allons d'avoir des gens qui ont des opinions très diverses, ce qui est formidable. Mais nous sommes vraiment ravis et vraiment convaincus de la valeur qu'Amazon Rekognition fournit à nos clients de toutes tailles et de tous types d'industries, que ce soit dans le domaine de l'application de la loi ou en dehors de l'application de la loi.

Vous le voyez dans la valeur que les gens obtiennent même après environ un an, un an et demi de service, où Rekognition est activement utilisé pour aider à mettre fin à la traite des êtres humains, à réunir les enfants disparus avec leurs parents pour des applications éducatives, pour la sécurité et la sécurité. authentification multi-facteurs pour prévenir le vol.

Amazon Rekognition offre beaucoup de valeur. Maintenant, maintenant, bien sûr, quelle que soit la technologie, vous devez vous assurer qu’elle est utilisée de manière responsable, et c’est le cas des technologies nouvelles et existantes. Pensez simplement à tout le mal qui pourrait être fait avec des ordinateurs ou des serveurs et a été fait, et vous pensez à quel endroit notre monde serait différent si nous ne savions pas comment les gens ont des ordinateurs.

Donc, vous ne voulez pas vous débarrasser de cette technologie. Vous voulez vous assurer que les utilisateurs utilisent la technologie de manière responsable, et AWS propose un ensemble de conditions et de services. Et avec tous nos services, y compris Rekognition, où si des personnes enfreignent ces conditions de service et ne les utilisent pas de manière responsable, elles ne pourront plus utiliser nos services. En fait, si nous constatons que les citoyens violent les droits constitutionnels des citoyens, ils ne pourront pas utiliser les services. Je pense aussi que, soit dit en passant, dans une démocratie, le gouvernement a aussi pour rôle d'aider à préciser ce que les directives d'un règlement devraient être en matière de technologie. Et, si et quand cela se produit, nous les respecterons également. Je vous remercie.

Mise à jour du 11/8, 19h16 HE: Ajout d’informations sur la recherche sur les failles du système de reconnaissance Rekognition d’Amazon.