Моральная позиция Microsoft по распознаванию лиц хороша для всех (особенно для Microsoft)

Во время конференции разработчиков BUILD от Microsoft в 2017 году компания представила технологию камер, управляемую искусственным интеллектом, в рамках своей стратегии компьютерных технологий. Технология способна распознавать людей, деятельность, объекты и многое другое и может активно действовать в зависимости от того, что она видит. Microsoft продемонстрировала, как она уведомляла рабочего на рабочем месте, что другому работнику нужен инструмент, который был рядом. Microsoft также показала, как в больничной обстановке система, связанная с данными пациента, предупреждала персонал о его потребностях, когда она «наблюдала» за тем, как он идет, огорченный, в коридоре.

Сильной стороной этой системы является то, что она основана на программном обеспечении и может быть развернута в системах камер, которые уже используются предприятиями, школами, правительствами, муниципалитетами и другими организациями.

Microsoft стремится доминировать в отрасли как платформенная компания, предоставляя предприятиям и правительствам стандартное программное обеспечение и инструменты, такие как Office, Azure и другие, чтобы помочь им «достичь большего». Технология камер, управляемая искусственным интеллектом, — это еще одна платформа, которую компания надеется продать предприятиям и правительствам, чтобы по мере того, как эти организации «достигали большего», Microsoft завоевала доминирующее положение на рынке и заработала больше денег. Однако, как относительно молодая технология, плохая пресса вредна для бизнеса.

Смещение, смещение

Предвзятости, которые в настоящее время отражаются в управляемых ИИ системах распознавания лиц, вероятно, являются результатом «предубеждений» (хотя, возможно, и непреднамеренных), присущих процессам машинного обучения, используемым для их обучения. Белые мужчины составляют большинство людей, работающих в IT. Таким образом, перспективы команд, создающих эти системы, относительно однородны. Широта ввода, множество соображений, ассортимент моделей и перспективное влияние технологии на определенные группы, которые более разнообразная команда внесла бы вклад в создание и обучение этих систем, были потеряны.

Microsoft осознает непосредственные социальные последствия и, в конечном счете, долгосрочные финансовые последствия развертывания своей технологии распознавания лиц с ее текущими ограничениями. Таким образом, он отказался от двух потенциально прибыльных (в краткосрочной перспективе) продаж . Компания отказалась от продажи в калифорнийские правоохранительные органы для использования в автомобилях и телекамерах, потому что система, после сканирования лица, скорее всего, приведет к тому, что меньшинства и женщины будут задерживаться на допросах чаще, чем белые. Президент Microsoft Брэд Смит признал, что, поскольку ИИ в основном обучался с белыми мужчинами, он имеет более высокий уровень ошибочной идентичности с женщинами и меньшинствами. Microsoft также отказалась внедрять технологию распознавания лиц в системах камер страны, некоммерческая организация Freedom House, которая считается бесплатной.

Отказ Microsoft сделать эти продажи согласуется с ее позицией, сформулированной Смитом в сообщении в блоге :

Мы не верим, что мир будет лучше всего обслуживать коммерческая гонка ко дну, когда технические компании будут вынуждены выбирать между социальной ответственностью и рыночным успехом.

Я уверен, что альтруистические соображения способствуют «высокотехнологичному» подходу Microsoft к технологии распознавания лиц. Я также считаю, что компания понимает, что если другие игроки отрасли займут менее социально сознательную позицию, негативные последствия могут повлиять на принятие технологий и, в конечном итоге, на цель Microsoft предоставить платформу с широким и прибыльным диапазоном потенциальных приложений.

Одно плохое яблоко разрушает распознавание лица для группы