Эта статья является продолжением типов. Шесть месяцев назад мы сообщили, что Microsoft работает над исправлением программного обеспечения для распознавания лиц, которое было признано предвзятым на расовой почве. Теперь сама компания требует, чтобы распознавание лиц было регулируемым, чтобы предотвратить предвзятость. Итак, все было установлено с предвзятым программным обеспечением, и теперь они хотят, чтобы вся отрасль регулировалась, чтобы никто другой не мог получить предвзятое по расовому признаку программное обеспечение.
Основная проблема
Как мы сообщали в июне, API пользовательского интерфейса Microsoft, основанный на Azure, подвергся критике в исследовательской статье. Программа испытывала трудности с распознаванием темнокожих людей или женщин. Уровень ошибок достигал 20.8%, но с «более светлыми мужскими лицами» уровень ошибок составлял ноль процентов.
Причина такой разницы в признании заключается в том, что ИИ должны программировать люди. Результаты будут настолько хороши, насколько хороши люди, которые программировали. Программисты Microsoft не использовали достаточно людей с более темным оттенком кожи или женщин.
Microsoft исправила это, диверсифицировав свои обучающие данные и начала внутреннее тестирование своих систем перед развертыванием. Им удалось снизить количество ошибок для темнокожих людей до двадцати раз и количество ошибок для женщин в девять раз.
Плата за законодательство
Шесть месяцев спустя я спросил Microsoft из правительства принимает закон, требующий тестирования технологии распознавания лиц независимо друг от друга для обеспечения точности, предотвращения предвзятости и защиты прав пользователей.
«Джин распознавания лиц, так сказать, только что вышел из бутылки», - сказал в своем блоге Брэд Смит, старший консультант Microsoft.
«Если мы не предпримем никаких действий, мы рискуем проснуться через пять лет и обнаружить, что услуги по распознаванию лиц распространились таким образом, что обострили социальные проблемы. К тому времени эти задачи станут намного сложнее.
Компания просит людей проверять результаты распознавания лиц, а не оставлять их на усмотрение компьютеров.
«Это включает в себя места, где решения могут привести к риску физического или эмоционального вреда потребителю, где это может иметь последствия для прав человека или основных прав и где может быть нарушена личная свобода или неприкосновенность частной жизни потребителя».
Кроме того, Смит предположил, что те, кто использует распознавание лиц, должны «признать, что они не были освобождены от своей обязанности соблюдать законы, запрещающие дискриминацию в отношении отдельных потребителей или групп потребителей».
Он также хотел убедиться, что использование правительством распознавания лиц не соответствует демократическим свободам и правам человека.
«Мы должны сделать так, чтобы 2024 год не выглядел как страница из романа« 1984 », - заключил он.
Кроме того, это
Конечно, Microsoft права. Интересно, что полгода назад они не осознавали необходимости быть осторожными, чтобы их программы не отличались друг от друга, а теперь они не только осознают это, но и хотят убедиться, что никто другой не может повторить те же ошибки. Они сделали.
Независимо от их прежнего статуса, вправе ли Microsoft требовать принятия законодательства и проверки возможностей распознавания лиц? Поделитесь с нами своими мыслями о заказе Microsoft в разделе комментариев ниже.
