Это звучит как что-то из Джорджа Оруэлла 1984 года : человек отправляет личное письмо и оказывается за это арестованным. Электронное письмо не было перехвачено следователем полиции; человек даже не подозревал до своего ареста. Электронная почта была проанализирована автоматизированной системой, о которой мало кто знает, и оскорбительная электронная почта была доведена до сведения властей.
Похоже ли это на мир, в котором вы хотите жить? Этот мир уже здесь, и эта система была использована , чтобы поймать парень , отправки детской порнографии .
Поймали с поличным
Так как же это случилось? Джон Скиллерн посылал другу неприличные фотографии детей и вскоре оказался под арестом. То, что он не знали, что Google автоматически сканирует изображения, которые передаются через Gmail и сравнивает их с базой данных восстановленной детской порнографии; если совпадение найдено, полиция уведомляется. В этом случае они впоследствии получили ордер на обыск его компьютер и планшет, где они нашли другие порнографические изображения детей.
закон США требует, чтобы любая компания, обнаружив доказательства детской порнографии сообщить об этом в полицию немедленно. Это традиционно применяется к разработчикам фотографий, службам размещения фотографий и другим компаниям, связанным с фотографией, но относится ко всем компаниям, включая поисковые системы. Конечно, это хорошо — сексуальная эксплуатация детей — отвратительное преступление, и мы должны использовать все имеющиеся у нас ресурсы. Компании с удовольствием соблюдают эти законы, и в целом люди рады за них.
Но существование этой технологии беспокоит некоторых людей.
Как это работает?
Технология, которая используется для сканирования ребенка порно Gmail является частью программного обеспечения, созданный Microsoft под названием PhotoDNA. Когда изображение добавляется в базу данных PhotoDNA, математический хеш создается и используется как уникальный идентификатор. После того, как несколько тысяч изображений были добавлены в базу данных, она действительно хорошо идентифицирует фотографии на основе этих идентификаторов, даже если эти фотографии подверглись незначительным изменениям.
Microsoft разработала PhotoDNA совместно с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC), так что это было предназначено для борьбы с детским порно с самого начала. И, очевидно, это работает. Он поймал Skillern, и его используют Bing, OneDrive, Facebook, Twitter и Gmail, а также другие потенциальные.
К сожалению, PhotoDNA может идентифицировать только фотографии, которые уже были добавлены в базу данных, что означает, что торговля новыми изображениями не вызовет оповещение. Но с количеством незаконного материала, который уже там, это может быть чрезвычайно полезным для выявления потенциальных детской порнографии.
Был ли это секрет?
После объявления об аресте Скиллерна было много споров о том, является ли развертывание PhotoDNA Gmail проблемой конфиденциальности. Gmail предоставляет рекламные объявления пользователям и просматривает содержимое личных сообщений электронной почты, чтобы определить, какую рекламу показывать. Google утверждает, что это сканирование выполняется анонимно, а учетные записи студентов, предприятий и государственных учреждений не сканируются. Недавние проблемы с конфиденциальностью и правовыми вопросами привели к тому, что Google немного отказалась от сканирования, но откровение об использовании PhotoDNA заставило многих задуматься о том, получаем ли мы всю историю.
В то время как Google никогда не отрицал, что они сканировали сообщения Gmail для детской порнографии, они были очень скрытными об этом. Даже если люди уверены в поддержке мер по борьбе с детской порнографией, идея, что Google сканируют изображения в своей электронной почте, возможно, не перешла так хорошо. Но новости уже вышли, и мы должны спросить себя, будет ли Google сообщать о том, что они делают с нашими электронными письмами. Мы знаем, что электронная почта по своей природе небезопасна. , но поиск доказательств слежения со стороны Google нервирует.
Gmail Паноптикум
В конце 18-го века Джереми Бентам разработал планы здания, называемого паноптикумом, в котором все учащиеся, дети или — что наиболее приемлемо — заключенные в здании могли бы контролироваться одним наблюдателем. Никто из заключенных не может сказать, за ними ли следят, поэтому они должны предположить, что они находятся под наблюдением, побуждая их смягчить свое поведение, чтобы не привлекать к себе внимание.
Это то, к чему ведет нас Gmail? Прямо сейчас, они сканирование изображений для детской порнографии. Но, как отмечают некоторые журналисты, Google связан законами стран, в которых он работает. , что означает, что правительства могут требовать что они передают другие виды информации, найденной в их сканированиях. Это может показаться натянутым, но, принимая условия и положения Gmail, мы даем Google много возможностей делать то, что они хотят, с нашими данными.
И неужели так сложно представить, что эта технология будет использоваться для преследования лиц, совершивших другие преступления? В настоящее время Google утверждает, что кто-то может открыто планировать преступления другого типа через Gmail, и они не будут подвергаться никакому риску. Но как долго это будет продолжаться? Google теперь сотрудничает с правоохранительными органами, сканируя наши личные сообщения. . Теперь, когда эта технология использовалась для поимки преступника и была показана публике, там очень сильная связь.
Что Google будет сканировать дальше? Террористические угрозы? Заговоры убийства? Воровство в магазинах? Мнения, которые отличаются от тех, которые поддерживаются политическим большинством? Признаки намерения прекратить использование сервисов Google? Мы можем увидеть большой поворотный момент в ближайшем будущем, вызванный растущими требованиями со стороны правительств. И не только наше — что более репрессивные правительства попросят Google перевернуть? Электронные письма, содержащие доказательства гомосексуализма? Политическое несогласие? Гуманитарные миссии?
Мы просто не знаем. И сложно сказать, как Google ответит.
И это будет трудно не сказать после того, как они показали, что их сканирование может поймать детской порнографии. Кто собирается попросить их прекратить использовать эту технологию, когда они неизбежно попросят «Поддерживаете ли вы детскую порнографию, а затем?» В ответ? От этого, возможно, не вернешься — общественному мнению будет трудно противостоять системе, которая поймает некоторых из самых оскорбленных преступников в мире.
Это начало конца конфиденциальности?
Если есть одна компания, которая является синонимом Интернета, это Google. И если они сканируют наши электронные письма, конфиденциальность в Интернете может подходить к концу (по крайней мере, на основных каналах; всегда будут другие варианты). Если вы читаете мою часть , вы будете знать, что я боюсь, что конфиденциальность сталкивается с серьезными атаками с разных сторон, как корпоративных, так и правительственных. И это сотрудничество между этими двумя может создать проблемы для конфиденциальности и безопасности в Интернете.
Хотя я не думаю, что мы наблюдаем рассчитанный шаг со стороны Google, чтобы улучшить общественное мнение об их сканировании, я думаю, что они сделают все возможное, чтобы сделать это положительным моментом. Возможно, они не надеялись на то, что это сканирование будет доведено до сведения общественности, но здесь есть широкая возможность показать миру, что они могут сделать для нас в обмен на часть нашей конфиденциальности.
Следующий шаг, который Google предпримет в ответ на эту историю, будет очень показательным, и я с нетерпением жду, когда смогу прочитать эту историю, чтобы узнать, что они говорят об этом. Что вы думаете? Гугл переступает через границы, сканируя каждое отправленное нами изображение? Или вы счастливы пожертвовать некоторые из вашей личной жизни, чтобы бороться с детской порнографией? Будете ли вы чувствовать себя так же, если Google начнет поиск других преступлений? Или если правительства начнут требовать от них пересылки определенных электронных писем? Здесь есть много места для споров и дискуссий — перезвоните ниже и дайте нам знать, что вы думаете!
Изображение предоставлено: Всевидящее око. Стиль Doodle (отредактированный) через Shutterstock , Человек в черном через Shutterstock , Мика Болдуин через flickr , DieBuche через Wikimedia Commons , Роберт Скобл через flickr , Бен Робертс через flickr .