Alexa установлена на более чем 100 миллионах устройств по всему миру, и в процессе их получают миллиарды пользовательских запросов. Как и все цифровые помощники, Alexa полагается на модели данных, чтобы предлагать лучшие ответы, но похоже, что Amazon также помог цифровому помощнику в форме человеческих обзоров. Расследование Bloomberg показало, что у Amazon есть глобальная команда, которая транскрибирует и анонсирует записи Alexa со всего мира, чтобы «устранить пробелы в понимании Алекса человеческой речи» и позволить ассистенту лучше обрабатывать ваши запросы.
Издание обнаружило, что в Amazon работают тысячи людей по всему миру - как подрядчики, так и сотрудники, работающие полный рабочий день, - для просмотра записей Alexa, причем команды разбросаны по Бостону, Коста-Рике, Индии и Румынии. По словам неназванного источника, каждый рецензент анализирует более 1000 аудиоклипов в течение девятичасовой смены, комментирует их и передает их обратно в систему для улучшения ответов Alexa. Из Bloomberg:
Один рабочий в Бостоне сказал, что он добыл накопленные голосовые данные для определенных высказываний, таких как «Тейлор Свифт», и прокомментировал их, чтобы указать, что искатель имел в виду музыкального исполнителя.
Иногда слушатели подбирают вещи, которые владельцы «Эха», скорее всего, предпочитают не посещать: например, женщина, поющая плохо в душе, или ребенок, кричащий о помощи. Команды используют внутренние чаты, чтобы делиться файлами, когда им нужна помощь в разборе запутанного слова - или наткнуться на забавную запись.
Издание также обнаружило, что сотрудники сталкиваются с записями, которые имеют тревожный характер:
Иногда они слышат записи, которые они считают расстраивающими, или, возможно, криминальными. Двое из рабочих сказали, что они подняли то, что они считают сексуальным насилием. Когда что-то подобное происходит, они могут поделиться опытом во внутреннем чате как способ снять стресс.
Amazon говорит, что у него есть процедуры, которым должны следовать работники, когда они слышат что-то огорчительное, но два румынских сотрудника сказали, что после запроса руководства для таких случаев им сказали, что вмешательство Amazon не является задачей.
Записи не имеют полного имени или адреса пользователя, но они включают имя пользователя, номер учетной записи и серийный номер устройства. Ранее Amazon упоминал, что для обучения Alexa он использует обработку естественного языка, но признал Bloomberg, что использует человеческий фактор для аннотирования «небольшой выборки голосовых записей Alexa»:
Мы серьезно относимся к безопасности и конфиденциальности личной информации наших клиентов. Мы только аннотируем очень небольшую выборку голосовых записей Alexa, чтобы улучшить качество обслуживания клиентов. Например, эта информация помогает нам обучить наши системы распознавания речи и понимания естественного языка, чтобы Alexa могла лучше понять ваши запросы и обеспечить, чтобы сервис работал хорошо для всех.
Мы придерживаемся строгих технических и эксплуатационных гарантий и придерживаемся политики абсолютной нетерпимости в отношении злоупотреблений нашей системой. Сотрудники не имеют прямого доступа к информации, которая может идентифицировать человека или учетную запись как часть этого рабочего процесса. Вся информация обрабатывается с высокой степенью конфиденциальности, и мы используем многофакторную аутентификацию, чтобы ограничить доступ, шифрование услуг и аудит нашей контрольной среды для ее защиты.
Это не просто Amazon, который обращается к людям-помощникам для разработки своего цифрового помощника. Блумберг обнаружил, что у Apple также есть человеческая команда, которая проверяет, соответствует ли интерпретация запросов Siri тому, что просили пользователи. У Google есть рецензенты, которые обучают Ассистента, но клипы не содержат никакой информации, позволяющей установить личность, а само аудио искажается, чтобы не допустить идентификации.
