Cet article est un type de suivi. Il y a six mois, nous avons publié des informations selon lesquelles Microsoft travaillait à la réforme du programme de reconnaissance faciale, considéré comme ayant un préjugé racial. Maintenant, l'iPad lui-même organise la reconnaissance des visages pour éviter les préjugés. Donc, il a été mis en place avec des programmes biaisés, et maintenant, ils veulent que l’ensemble de l’industrie soit organisé de manière à empêcher quiconque d’avoir des programmes biaisés.
Le problème initial
Comme nous l'avons mentionné en juin, l'API d'interface utilisateur basée sur Microsoft Azure a été critiquée dans un document de recherche. Le programme a rencontré des difficultés pour identifier les personnes de couleur foncée ou les femmes. Le taux d'erreur était de 20.8%, mais avec "les visages plus légers que les hommes", le taux d'erreur était de 0%.
La raison de cette différence de reconnaissance est que l'intelligence artificielle doit être programmée par les gens. Les résultats seront aussi bons que ceux qui ont programmé. Les programmeurs Microsoft n'ont pas utilisé suffisamment de personnes aux tons de peau foncés ou de femmes.
Microsoft a résolu ce problème en diversifiant ses données de formation et en testant ses systèmes en interne avant de les déployer. Ils ont réduit le taux d'erreur chez les personnes à la peau foncée jusqu'à 20 fois et le taux d'erreur des femmes neuf fois.
Paiement pour législation
Six mois plus tard j'ai demandé Les gouvernements de Microsoft adoptent une législation exigeant de tester la technologie de reconnaissance faciale Indépendamment pour s’assurer de leur exactitude, pour éviter les préjugés et pour protéger les droits des utilisateurs.
"La reconnaissance des visages, pour ainsi dire, vient de sortir de la bouteille", a déclaré Brad Smith, conseiller principal de Microsoft.
"Si nous n'agissons pas, nous risquons de prendre cinq ans pour constater que les services de reconnaissance faciale se sont étendus de manière à aggraver les problèmes sociaux." D'ici là, ces défis seront beaucoup plus difficiles.
IPad pour examiner les résultats de la reconnaissance faciale par des personnes plutôt que de laisser la tâche à des ordinateurs.
"Cela comprend les endroits où les décisions peuvent entraîner un risque de préjudice physique ou émotionnel pour le consommateur, ainsi que des conséquences sur les droits de l'homme ou des droits fondamentaux, où la liberté personnelle ou la vie privée du consommateur peuvent être violées."
En outre, Smith a suggéré que ceux qui utilisent la reconnaissance faciale doivent "reconnaître qu'ils n'ont pas été libérés de leur obligation de se conformer aux lois interdisant la discrimination à l'égard des consommateurs ou des groupes de consommateurs".
Il souhaitait également s'assurer que l'utilisation de la reconnaissance faciale par le gouvernement n'équivalait pas à des libertés démocratiques et aux droits humains des personnes.
"Nous devons nous assurer que le 2024 générique ne ressemble pas à une page du roman 1984" sur lequel il est estampillé.
En outre
Microsoft a raison, bien sûr. Il est intéressant de noter qu’il ya six mois, ils n’ont pas reconnu la nécessité de veiller à ce que leurs programmes ne soient pas discriminatoires. Ils ne le réalisent pas maintenant, mais veulent aussi s’assurer que personne ne peut commettre les mêmes erreurs. Ils l'ont fait.
Quel que soit leur statut antérieur, Microsoft at-il le droit de demander une législation et de vérifier les options de reconnaissance faciale? Dites-nous ce que vous pensez de la demande de Microsoft dans la section commentaires ci-dessous.
