Safe image

Pourquoi le système de reconnaissance faciale d'Amazon devrait vous inquiéter

 

Pour aggraver les choses, il a été récemment révélé au Royaume-Uni que certains systèmes de reconnaissance faciale modernes ont une précision choquante, renvoyant des identités erronées pouvant atteindre 98% du temps. Je n'ai pas été en mesure de trouver des statistiques sur l'exactitude du système Amazon Reconnaissance, mais l'enthousiasme des gouvernements à adopter une technologie douteuse sur le profil de leurs citoyens est néanmoins troublant.

 

 

Pour aggraver les choses, il a été récemment révélé au Royaume-Uni que certains systèmes de reconnaissance faciale modernes ont une précision choquante, renvoyant des identités erronées pouvant atteindre 98% du temps. Je n'ai pas été en mesure de trouver des statistiques sur l'exactitude du système Amazon Reconnaissance, mais l'enthousiasme des gouvernements à adopter une technologie douteuse sur le profil de leurs citoyens est néanmoins troublant.

Qu'est-ce que Amazon Rekognition et pourquoi devriez-vous vous en soucier?

Amazon Rekognition est une IA d'apprentissage en profondeur qui peut analyser des vidéos et des images pour diverses applications. Celles-ci incluent la reconnaissance de texte, l'analyse du contenu de l'image, le signalement du contenu inapproprié… et la reconnaissance faciale des caméras de surveillance. Dans un article de blog , Amazon affirme que le système est capable d'effectuer des «recherches de visage en temps réel sur des collections de dizaines de millions de visages… Dans les applications de sécurité, vous pouvez désormais identifier des personnes intéressées par une collection de millions de visages. en temps quasi réel, permettant des cas d'utilisation tels que la prévention du crime en temps opportun et précis.

La société n’a pas peur des applications dystopiques potentielles de son logiciel et cite la ville d’Orlando parmi ses clients d’essai existants. Comme l’a souligné l’ ACLU , «il est possible que les personnes soupçonnées par les gouvernements - telles que les sans-papiers ou les activistes noirs - soient considérées comme un jeu équitable pour la surveillance de la reconnaissance.»

Comme nous l'avons vu dans le scandale de repérage de téléphone Securus, il n'y a absolument aucune raison de faire confiance à votre gouvernement pour la collecte de données sensibles et invasives, car ces données ont été et peuvent toujours être utilisées, abusées ou exposées sans précaution. Maintenant, les gouvernements locaux qui n'ont pas gagné la confiance du public en matière de collecte de données trouveront encore plus facile de profiler les citoyens et de suivre chacun de leurs mouvements.

Attendez, cependant - la technologie de reconnaissance faciale n’a-t-elle pas existé depuis un certain temps? Pourquoi cette nouvelle? Eh bien, la reconnaissance faciale utilisée par de nombreux organismes d’application de la loi n’était disponible que pour les images ou les vidéos enregistrées. Cela signifie qu'en cas de crime, les enquêteurs récupèrent une vidéo ou des photos pertinentes pour leur enquête et identifient ensuite les personnes représentées. Le service Rekognition d'Amazon promet toutefois de transformer n'importe quelle caméra qui l'utilise en une machine de surveillance en temps réel pour la reconnaissance du visage et le suivi des personnes, élargissant ainsi considérablement les capacités de surveillance des gouvernements locaux.

Graves préoccupations concernant la précision de la reconnaissance faciale

L'utilisation passive de la reconnaissance faciale en temps réel pour surveiller les actions de citoyens innocents et suspects 24 heures sur 24 et 7 jours sur 7 est un problème éthique majeur et une violation de la confiance et de la vie privée, mais le problème ne s'arrête pas là. Il est difficile de savoir à quel point Amazon Rekognition est exacte (Amazon insiste sur le fait que c'est exact), mais les résultats d'autres systèmes de reconnaissance faciale en direct ont été absolument catastrophiques. Selon un rapport de Big Brother Watch , une organisation de surveillance du respect de la vie privée basée au Royaume-Uni, «en moyenne, 95% des« matches »ont indûment identifié des personnes innocentes».

Dans son analyse de la police du sud du pays de Galles, le rapport de Big Brother Watch indiquait que le système avait affecté de manière significative «31 membres du public innocents identifiés à tort par le système et invités à prouver leur identité et leur innocence.

En bref, les gouvernements britanniques qui testent et utilisent déjà des technologies comme Amazon Rekognition sont presque totalement incapables d’identifier correctement qui que ce soit - mais cela ne les empêche pas d’essayer d’arrêter des personnes en raison de cette technologie hautement imprécise et invasive. Dans le meilleur des cas, l'adoption de systèmes comme Amazon Reckognition sera un abus de pouvoir gouvernemental maladroit et incompétent qui mettra arbitrairement en danger des citoyens au hasard, exposera des données sur les lieux et les actions des citoyens aux pirates et permettra aux criminels de se faufiler. Au pire, il deviendra un statu quo invasif et dystopique dans lequel les citoyens peuvent s’attendre à ce que chaque action soit analysée de manière approfondie par les organismes chargés de l’application de la loi.

  • Aucune note. Soyez le premier à attribuer une note !