Tech новости

Microsoft улучшает частоту ошибок распознавания лиц по цвету кожи, полу

Microsoft улучшает распознавание лица, чтобы лучше оценить оттенки кожи, пол

Сегодня Microsoft объявила, что она улучшила свой API распознавания лиц, чтобы лучше распознавать пол и более темные оттенки кожи, устраняя два слабых места в доступных в настоящее время технологиях распознавания. Эти улучшения, по словам Microsoft, привели к снижению числа ошибок среди мужчин и женщин с более темной кожей в 20 раз, а общих ошибок среди женщин — в девять раз.

В настоящее время технология распознавания лиц лучше всего работает у мужчин с более светлой кожей и хуже у женщин с более темной кожей. Microsoft прикрепляет это встроенное смещение к данным, используемым для обучения ИИ за системами распознавания лиц. Чтобы повысить точность, компании необходимо учитывать разнообразие людей, а также другие факторы, такие как прическа, украшения и очки.

Решая проблему, команда исследователей Microsoft стремилась сосредоточиться на трех ключевых областях улучшения своих наборов данных: возраст, пол и оттенки кожи. Ханна Уоллах, исследователь из Microsoft в Нью-Йорке, сказала:

У нас были разговоры о различных способах выявления предвзятости и обеспечения справедливости. Мы говорили об усилиях по сбору данных для диверсификации данных обучения. Мы говорили о различных стратегиях внутреннего тестирования наших систем перед их развертыванием.

В будущем Microsoft стремится донести все свои знания об устранении предвзятости в своих инструментах ИИ до других своих служб. По словам Microsoft, усилия будут охватывать «от создания идей и сбора данных до обучения, развертывания и мониторинга моделей» Уоллах объясняет:

Если мы обучаем системы машинного обучения имитировать решения, принимаемые в предвзятом обществе, используя данные, полученные этим обществом, то эти системы обязательно воспроизведут его предубеждения. Это возможность по-настоящему задуматься о том, какие ценности мы отражаем в наших системах и являются ли они ценностями, которые мы хотим отражать в наших системах.

Мы можем заработать комиссию за покупки, используя наши ссылки. Узнайте больше

Похожие посты
Tech новости

Про совет: Протрите порно с вашего телефона перед заменой его

Tech новости

Охранная фирма детализирует проблемы конфиденциальности; разработчик рассказывает нам свою сторону истории

Tech новости

Проект Android UI Utilities приносит унифицированные инструменты дизайна для разработчиков

Tech новости

Google утверждает, что популярные обои-приложения считаются безопасными