У Google Home проблема с поддельными новостями

Google может быть относительно легко игровым, и при достаточном количестве манипуляций конкретный сайт может подняться на вершину результатов поиска.

Проблемы возникают, когда Google уравновешивает представление о том, что его поисковая система по своей сути заслуживает доверия — большинство людей говорят, что они считают, что информация, которую они находят на веб-сайтах, показанных на первой странице Google, — с алгоритмами машинного обучения, которые помогают конкретным частям информации расти до лучший результат.

По словам Дэнни Салливана из Search Engine Land, способность читать избранные фрагменты также является основной отличительной чертой Google Home и таких конкурентов, как Amazon Echo и Siri. «Google рассматривает это как конкурентное преимущество, и они не хотят его отключать», — сказал он. Проблема в том, что даже когда они ошибочны, избранные фрагменты пользуются наибольшим одобрением Google. «Где переломный момент, когда вы получаете достаточно этих смущающих ответов, что вы решаете отключить его?»

Это очень сложная проблема для решения. Google использует свой обширный График знаний, чтобы предоставить то, что он считает лучшим ответом на любой вопрос, и его самая сильная сторона — данные, и использование его для предоставления ответа практически на любой запрос — также является его самой большой ответственностью. Это потому, что Google может быть относительно легко игровым, и при достаточном количестве манипуляций конкретный веб-сайт может подняться до результатов поиска. В настоящее время Google не делает различий между своей поисковой системой — текстовым и видео-списком результатов, которые миллионы людей используют каждый день, — и своим помощником, который предоставляет ответы на Google Home. В будущем, его могут заставить проверять результаты более часто задаваемых вопросов или рисковать распространением контента, за которым он не обязательно стоит.

Конечно, сам Google не претендует на поддержку каких-либо из этих утверждений и не проверяет достоверность лучших результатов, предоставленных Home. В каждом ответе очень четко говорится, что перед каждым ответом ставится «согласно [источнику]». Но большинство пользователей, в лучшую или худшую сторону, не отличают поисковую систему от Google от надежного источника новостей Google , и это вызовет у компании неприятности по мере появления новых противоречивых примеров.

Наш собственный Джерри Хильденбранд писал о проблеме публичности Google Home в предыдущей колонке:

Правильный способ решения этой проблемы, по мнению Google, — сообщить о выбранном фрагменте как неуместном. Проблема в том, что это не является неуместным на сайте, который не читает его вслух. Я не думаю, что поиск будет лучше, если убрать интересный результат, показанный вверху, пока жуткий женский роботизированный голос не читает его вслух детям. А Google Home спроектирован так, чтобы быть открытым для всех, кто делает свое дело. Он больше не приватный, когда выходит из динамика.

В этом суть проблемы: люди лучше могут отличить реальное от подделки, когда им показывают список альтернативных результатов. Когда Google предлагает только один окончательный результат, люди чаще воспринимают его как правду.

Тем временем, Google Home собирается начать работу в Великобритании и зарекомендовал себя как один из крупнейших достижений Google за последние несколько лет.