Мы на пороге серьезных изменений в том, как наши устройства работают. Искусственный интеллект и машинное обучение больше не являются тем, что вы бы видели в научно-фантастическом романе, и интеллектуальные машины используются для выполнения даже самых обыденных задач, а также более громких вещей, которые привлекают наше внимание. Хотя я думаю, что до того момента, когда у всех нас есть свои роботы-дворецкие и летающие машины, еще как минимум несколько лет, возможности больше не вызывают сомнений.
Никто не хочет компьютеры, которые являются злыми, и никто не строит их.
Наряду с прорывами, которые позволяют машинам принимать реальные решения, присущ страх перед последствиями. Некоторые из них действительны, многие глупы, но у каждого из них отличный заголовок. Независимо от того, сообщаете ли вы о том, что крестовый поход Элона Маск на миллиард долларов, чтобы остановить AI Апокалипсис (настоящий заголовок), или напоминаете нам, что все на расстоянии одного вздоха от кражи нашей личности, репортеры и публикации должны предоставить обе стороны каждой проблемы и указать нам на ресурсы, где мы можем узнать больше. Ни то, ни другое не делает нас излишне подозрительными к технологическим прорывам, которые станут частью нашего будущего.
Я собираюсь выбрать на iPhone X сегодня. Прежде чем кто-то расстроится, я расскажу о своем впечатлении от iPhone X, даже не прикасаясь к нему - очень жаль, что классные вещи, которые он может сделать, были сначала от Apple, потому что я действительно не хочу использовать iPhone каждый день. Это iPhone в корпусе Essential Phone с превосходной технологией наверху, которая может делать действительно интересные вещи. Если вам нравится экосистема iOS, кажется, что это телефон, который вы хотите купить. И из-за того, что Apple увлекается всем, она получает львиную долю внимания западной прессы. Это могло бы быть хорошо для других компаний, хотя большая часть прессы, окружающая вещи, которые делают это особенным, не обязательно является хорошим видом.
В двух последних статьях рассказывается о сегодняшней новой интеллектуальной технологии, о том, как она используется Apple, и почему о ней нужно беспокоиться, но я уверен, что есть и другие. В октябре Wired рассказали о том, как машинное обучение «МОГУТ ПОВЕРХАТЬ СЕКРЕТЫ ВАШЕГО IPHONE» (да, во всех заглавных буквах), и Reuters рассказала нам, как распознавание лиц «пугает» экспертов по конфиденциальности. При чтении обоим нужен очень критический взгляд.
Рене Ричи проделал отличную работу, обсудив проблемы со статьей Wired, которая в основном утверждает, что машинное обучение может найти ваши обнаженные фотографии и сделать с ними что-то нехорошее, но мне все же нужно выделить небольшой текст из самой статьи.
Исследователи быстро замечают, что хотя Core ML вносит важные нюансы, особенно в процесс проверки приложений, он не обязательно представляет собой принципиально новую угрозу. «Я полагаю, что с CoreML можно злоупотреблять, но в настоящее время приложения уже могут получить полный доступ к фотографиям», - говорит Уилл Страфах, исследователь безопасности iOS и президент Sudo Security Group. «Так что, если они хотят получить и загрузить вашу полную библиотеку фотографий, это уже возможно, если разрешение будет предоставлено».
По сути, система Apple Core ML (их алгоритмы машинного обучения и аппаратное обеспечение, которое может обрабатывать данные) не может делать ничего, чего не может сделать ни одно другое приложение. Даже если вы скажете системе искоренить фотографии, на которых изображены обнаженные люди, она ничего не сможет с ними сделать, если найдет их. Тем не менее, статья и ее панический заголовок доступны для всех.
Reuters предполагает, что исследователи безопасности боятся того, что распознавание лиц Apple означает для нашей конфиденциальности данных. В частности, что сторонний разработчик может каким-то образом использовать данные с камеры iPhone X таким образом, чтобы они вторгались в нашу жизнь или даже использовали эти данные в качестве идентификационных данных. Хорошо, что исследователи безопасности и защитники конфиденциальности беспокоятся об этих вещах. Это то, что они должны делать. Это не так хорошо, когда Reuters не объясняет, какие данные передаются третьим сторонам и что можно с ними сделать, когда они сообщают нам, что ACLU внимательно изучает данные.
IPhone X привлекает внимание, но это новые технологии, которые каждая компания использует в своих планах.
Это не проблема Apple, хотя это их продукт в центре внимания. Мы все видели или читали о том, что Google может сделать с помощью своих продвинутых алгоритмов машинного обучения, будь то создание лучшей камеры и галереи для съемки и просмотра ваших фотографий или диагностика заболевания раньше, чтобы лечение могло начаться тогда, когда оно наиболее необходимо. Но машинное обучение играет большую роль, которую мы бы не ассоциировали с технологиями, например, одноразовые ручки или помидоры.
Целые отрасли промышленности уже используют машины, которые принимают элементарные решения и будут развертывать еще более умные по мере их разработки. Многие продукты, которые вы используете (или даже едите!) Каждый день, обрабатывались автоматизированной линией, которая производила, сортировала и проверяла их с использованием камер и интеллектуальных компьютерных систем. Затем они были упакованы с использованием машин, которые знали, какой размер ящика использовать, основываясь на том, что было выгружено в бункер и помещены на правильный поддон, чтобы их можно было доставить с помощью подходящего оборудования в правильный погрузочный док.
Сенсация приведет к ненужному и нежелательному надзору. Это всегда так.
Обеспокоенность по поводу того, что еще большее улучшение может означать для безработицы, должна обсуждаться непрофессионалами, но неотъемлемые проблемы безопасности и конфиденциальности лучше оставить экспертам до тех пор, пока не будут найдены реальные проблемы. Сенсационность на данном этапе приведет только к правилам, принятым людьми, которые совершенно не квалифицированы. Представьте, что ваш сенатор или член парламента пытается проанализировать Tensorflow или Cloud ML и найти способы «защитить» нас от них.
Нам нужны высококвалифицированные люди, чтобы долго и усердно смотреть на машины, которые могут думать. Нам также нужна ответственная отчетность о том, что говорят эти исследователи, а не о приманке. Помните, что каждый заголовок, который вы можете видеть, также виден членам Подкомитета по конфиденциальности, технологиям и законодательству Сената США. Очень важно, чтобы все мы получили факты без гиперболы. Давайте не будем убивать следующую большую вещь, пока она не взлетела.
Фотография Space X предоставлена Пушкром - https://www.flickr.com/photos/pushkargujar/23791728242/, Creative Commons 2.0
