За последние несколько месяцев в Интернете появились различные примеры того, как Google Home отвечает на запросы ответами сомнительной правдивости. Вот один из таких примеров.
И вот что произойдет, если вы спросите Google Home "планирует ли Обама переворот?" pic.twitter.com/MzmZqGOOal
- Рори Селлан-Джонс (@ ruskin147) 5 марта 2017 г.
Проблема в том, что Google, чтобы оптимизировать голосовые ответы, считывает верхний результат поиска по данному запросу - без необходимости проверять, дает ли этот источник правдивые ответы. Согласно The Outline, эта проблема будет только усугубляться, так как все больше людей вкладывают средства в голосовых компаньонов ИИ, которые берут на себя ответственность за получение знаний:
Количество подключенных к интернету устройств без браузера быстро растет, и уже на рынке появляются уже активированные голосом помощники, такие как Amazon Echo и Google Home. Традиционный список результатов поиска Google не очень хорошо озвучивается. Представьте, что Google Home читает список из 10 веб-сайтов, когда вы просто хотите узнать, сколько калорий в апельсине.
Google может быть относительно легко настроен, и при достаточном количестве манипуляций конкретный веб-сайт может подняться на вершину результатов поиска.
Проблемы возникают, когда Google уравновешивает представление о том, что его поисковая система по своей сути заслуживает доверия - большинство людей говорят, что они считают, что информация, которую они находят на веб-сайтах, показанных на первой странице Google, - с алгоритмами машинного обучения, которые помогают конкретным частям информации расти до лучший результат.
По словам Дэнни Салливана из Search Engine Land, способность читать избранные фрагменты также является основной отличительной чертой Google Home и таких конкурентов, как Amazon Echo и Siri. «Google рассматривает это как конкурентное преимущество, и они не хотят его отключать», - сказал он. Проблема в том, что даже когда они ошибочны, избранные фрагменты пользуются наибольшим одобрением Google. «Где переломный момент, когда вы получаете достаточно этих смущающих ответов, что вы решаете отключить его?»
Это очень сложная проблема для решения. Google использует свой обширный График знаний, чтобы предоставить то, что он считает лучшим ответом на любой вопрос, и его самая сильная сторона - данные, и использование его для предоставления ответа практически на любой запрос - также является его самой большой ответственностью. Это потому, что Google может быть относительно легко игровым, и при достаточном количестве манипуляций конкретный веб-сайт может подняться до результатов поиска. В настоящее время Google не проводит различий между своей поисковой системой - текстовым и видео-списком результатов, которые миллионы людей используют каждый день, - и своим помощником, который предоставляет ответы на Google Home. В будущем, возможно, его заставят следить за результатами более часто задаваемых вопросов или рисковать распространением контента, за которым он не обязательно будет стоять.
Конечно, сам Google не претендует на поддержку каких-либо из этих утверждений и не проверяет достоверность лучших результатов, предоставленных Home. В каждом ответе очень четко говорится, что перед каждым ответом ставится «согласно». Но большинство пользователей, в лучшую или худшую сторону, не отличают поисковую систему от Google от надежного источника новостей Google, и это вызовет у компании неприятности по мере появления новых противоречивых примеров.
Наш собственный Джерри Хильденбранд писал о проблеме публичности Google Home в предыдущей колонке:
Правильный способ решения этой проблемы, по мнению Google, - сообщить о выбранном фрагменте как неуместном. Проблема в том, что это не является неуместным на сайте, который не читает его вслух. Я не думаю, что поиск будет лучше, если убрать интересный результат, показанный вверху, пока жуткий женский роботизированный голос не читает его вслух детям. А Google Home спроектирован так, чтобы быть открытым для всех, кто делает свое дело. Он больше не приватный, как только выходит из динамика.
В этом суть проблемы: люди лучше могут отличить реальное от подделки, когда им показывают список альтернативных результатов. Когда Google предлагает только один окончательный результат, люди чаще воспринимают его как правду.
Тем временем, Google Home собирается начать работу в Великобритании и зарекомендовал себя как один из самых больших успехов Google за последние несколько лет.
