Сегодня Microsoft объявила, что она улучшила свой API распознавания лиц, чтобы лучше распознавать пол и более темные оттенки кожи, устраняя два слабых места в доступных в настоящее время технологиях распознавания. Эти улучшения, по словам Microsoft, привели к снижению числа ошибок среди мужчин и женщин с более темной кожей в 20 раз, а общих ошибок среди женщин — в девять раз.
В настоящее время технология распознавания лиц лучше всего работает у мужчин с более светлой кожей и хуже у женщин с более темной кожей. Microsoft прикрепляет это встроенное смещение к данным, используемым для обучения ИИ за системами распознавания лиц. Чтобы повысить точность, компании необходимо учитывать разнообразие людей, а также другие факторы, такие как прическа, украшения и очки.
Решая проблему, команда исследователей Microsoft стремилась сосредоточиться на трех ключевых областях улучшения своих наборов данных: возраст, пол и оттенки кожи. Ханна Уоллах, исследователь из Microsoft в Нью-Йорке, сказала:
У нас были разговоры о различных способах выявления предвзятости и обеспечения справедливости. Мы говорили об усилиях по сбору данных для диверсификации данных обучения. Мы говорили о различных стратегиях внутреннего тестирования наших систем перед их развертыванием.
В будущем Microsoft стремится донести все свои знания об устранении предвзятости в своих инструментах ИИ до других своих служб. По словам Microsoft, усилия будут охватывать «от создания идей и сбора данных до обучения, развертывания и мониторинга моделей» Уоллах объясняет:
Если мы обучаем системы машинного обучения имитировать решения, принимаемые в предвзятом обществе, используя данные, полученные этим обществом, то эти системы обязательно воспроизведут его предубеждения. Это возможность по-настоящему задуматься о том, какие ценности мы отражаем в наших системах и являются ли они ценностями, которые мы хотим отражать в наших системах.
Мы можем заработать комиссию за покупки, используя наши ссылки. Узнайте больше