Оглавление:
Искусственный интеллект и машины, которые могут научиться, - это то, как вещи, которые мы используем каждый день, будут улучшаться. Google и Android идут ва-банк с AI с помощью Google Assistant и машинного обучения, поэтому важно знать, как работает сервер, как они туда попали и какое оборудование делает все это возможным. И это действительно круто!
Людям, которые будут строить эту технологию будущего, понадобятся инструменты для этого. В 2017 году NVIDIA делает свое дело, и Jetson TX2 является воплощением этой идеи. Разработчики нуждаются в оборудовании, которое не только способно выполнять вычисления и думать (да, я скажу это), что понадобится нашему умному будущему, но также легко использовать и развертывать.
ИИ на краю.
NVIDIA называет это «предоставлением искусственного интеллекта на грани», и это подходящее описание. TX2 - это полноценный суперкомпьютер. Он способен обрабатывать данные самостоятельно в том месте и в то время, когда это происходит, а не за тысячи миль через Интернет. Мы считаем подключение само собой разумеющимся из-за способа, которым мы используем его прямо сейчас, но есть много случаев, когда ожидание двусторонней передачи данных от умного устройства просто слишком долго ждать. И большая часть этого голубого мрамора, на котором мы живем, не имеет подключения к Интернету и не будет очень долгое время.
Небольшой компьютер, который может делать что угодно и обрабатывать все данные, которые он собирает сам, - вот как вы решаете эти проблемы. NVIDIA, кажется, прибил это здесь.
Что это за вещь?
Это не то, что вы можете найти в Best Buy, чтобы использовать для вещей, которые вы делаете со своим телефоном. Он не работает под управлением Android (но это наверняка не составит труда исправить), и большинство из нас этого не купят. Но это все еще очень важная часть того, что мы любим.
Jetson TX2 - это инструмент разработки. Jetson TX2 - это также готовый к работе модуль для питания любого оборудования на базе AI. Это компьютер размером с кредитную карту со всеми входами и выходами, которые есть у «обычного» компьютера. Когда вы подключаете модуль TX2 к его специально спроектированной задней панели (это часть комплекта для разработки), он в основном превращается в типичный ПК небольшого форм-фактора со всеми портами и разъемами, которые есть и на вашем рабочем столе.
Разработчики могут использовать это для создания оборудования и использовать Jetson для запуска демонстраций и симуляций. Это способная маленькая машина, которая может выполнять все вычисления, что-то гораздо большее, используя для этого крошечное количество энергии. Технические характеристики впечатляют.
- Серия NVIDIA Parker Tegra X2: 256-ядерный графический процессор Pascal и два 64-разрядных ядра процессора Denver в сочетании с четырьмя процессорами Cortex-A57 в конфигурации HMP
- 8 ГБ 128-битной памяти LPDDR4
- Встроенное хранилище eMMC 5.1 емкостью 32 ГБ
- 802.11b / g / n / ac 2x2 MIMO Wi-Fi
- Bluetooth 4.1
- USB 3.0 и USB 2.0
- Гигабитный Ethernet
- Слот для SD-карты для внешнего хранилища
- SATA 2.0
- Полный многоканальный PMIC
- 400-контактный высокоскоростной и низкоскоростной стандартный разъем ввода / вывода
Лучшая техническая спецификация заключается в том, что Jetson TX2 - это штырь для замены штыря в замене на прошлогодний Jetson TX1. Позвольте этому немного поглотить - разработчики, которые используют существующие компьютеры NVIDIA TX1 для питания мозга за своим оборудованием, смогут отключить систему, вытащить старую плату и вставить новую. Программное обеспечение для TX1 будет обновлено до того же программного обеспечения, которое используется TX2, так что оно будет буквально заменой. Если вы когда-либо выполняли какие-либо полевые или заводские работы с оборудованием, которое стоит много денег в случае простоя, вы понимаете, насколько это важно. Пока разрабатывается оборудование следующего поколения, оно использует оборудование, которое на 100% работает с существующим поколением.
Секрет здесь кроется в ядрах NVIDIA Pascal GPU. По той же причине, по которой ядра Pascal используются в видеокартах очень высокого класса, предназначенных для игр VR и 4K 3D, они используются для Jetson TX2. Ядра GPU - более эффективный способ сокращения чисел. Они быстрее и потребляют намного меньше энергии.
Священный Грааль компьютерных технологий - это искусственный интеллект (ИИ): создание такой умной машины, что она может учиться самостоятельно без явных инструкций. Глубокое обучение является важным компонентом для достижения современного ИИ. Глубокое обучение позволяет ИИ «мозгу» воспринимать окружающий мир; машина учится и в конечном итоге принимает решения сама. В настоящее время в академических кругах и промышленности широко признано, что графические процессоры являются современным в обучении глубоких нейронных сетей (DNN) благодаря преимуществам как по скорости, так и по энергоэффективности по сравнению с более традиционными платформами на базе ЦП.
Компьютеры NVIDIA GPU уже делают удивительные вещи. Они управляют глубоким обучением, используемым для самостоятельного вождения автомобилей, обучая роботов моторным навыкам, таким как ходьба и хватание, анализируя видео на высокой скорости, чтобы обеспечить текстовые надписи и даже играть в Го. И победить действительно хороших человеческих противников.
Ядра GPU могут выполнять ту же работу, потребляя меньше энергии, чем традиционные процессоры CPU.
Настоящее испытание ИИ и мозгов, которые могут управлять им, на горизонте. Автономные роботы и беспилотники разрабатываются для таких задач, как промышленный осмотр, портативные медицинские устройства, которые можно использовать в полевых условиях, чтобы отчаянно нуждаться в нуждающихся, и даже интеллектуальные камеры безопасности, которые могут анализировать то, что они видят, и предпринять соответствующие действия, скоро быть реальностью. Эти идеи нуждаются в вычислениях, которые могут стимулировать ИИ с помощью алгоритмов глубокого обучения и способности самостоятельно анализировать собранные данные нейронной сети. Они не могут быть прикреплены к кабелю и будут использоваться в местах, где даже Verizon не имеет покрытия.
Помимо того, что он мощный, он должен быть компактным и портативным и должен быть энергоэффективным. Тестирование показывает (файл.pdf), что вычисления на базе GPU NVIDIA могут быть эквивалентны процессору Intel Core i7 6700K и потреблять 6 Вт электроэнергии по сравнению с 60. Для оборудования, не подключенного к электросети, это важно.
Мы провели несколько тестов, используя AlexNet и GoogLeNet - CV на основе программного обеспечения для классификации и обнаружения категорий объектов, и результаты были фантастическими. В режиме Max-P (высокой мощности) Jetson TX2 был способен анализировать в среднем 641 изображение в секунду, используя сеть AlexNet, используя при этом всего 13 Вт мощности. Тестирование GoogLeNet составило в среднем 278 изображений в секунду при использовании мощности 14 Вт. Тесты Max-Q (малое энергопотребление) показали в среднем 481 изображение в секунду в AlexNet и 191 изображение в секунду в GoogLeNet при использовании всего 7 Вт энергии. Это почти вдвое больше, чем у Jetson TX1 прошлого года, и это тоже было неплохо.
Когда вы можете обрабатывать информацию так быстро и точно на месте, подключение к облаку не является ограничивающим фактором, которым она была раньше.
В лаборатории
Jetson TX2 должен быть очень способным в полевых условиях. Это первая машина следующего поколения, которая будет обучаться без подключения к облаку и существенного обновления существующего оборудования. Но у этого также есть особенности, которые разработчики будут любить.
Вычислительный модуль размером с кредитную карту может подключаться к полной несущей плате, доступной как часть комплекта разработки Jetson TX2. Несущая плата использует 400 выводов ввода / вывода на модуле Jetson для обеспечения стандартных подключений к рабочему столу. Разработчик программного обеспечения может использовать стандартную USB-клавиатуру и мышь, стандартный монитор и Jetson TX2 для создания полноценной среды разработки.
Работая на операционной системе Linux4Tegra на основе Ubuntu 16.04, все инструменты, которые могут вам понадобиться для разработки и отладки приложений глубокого обучения AI, включены в состав программного обеспечения NVIDIA JetPack. Разработчики могут загрузить пакет из Зоны разработчиков NVIDIA, а также следовать учебным курсам и знаниям сообщества, чтобы увидеть, что может сделать Jetson, и начать работу над своими собственными идеями. Входящее в комплект JetPack программное обеспечение предварительно настроено для работы оптимизировано в системе обработки TX2:
- cuDNN - GPU-ускоренная библиотека примитивов для глубоких нейронных сетей.
- NVIDIA VisionWorks - это пакет разработки программного обеспечения для Computer Vision (CV) и обработки изображений.
- CUDA Toolkit - комплексная среда разработки для разработчиков C и C ++, создающих приложения с GPU-ускорением.
- TensorRT - высокопроизводительная среда выполнения глубокого обучения для классификации изображений, сегментации и нейронных сетей обнаружения объектов.
- NVIDIA Nsight Eclipse - полнофункциональная и настраиваемая Eclipse IDE для разработки, отладки и профилирования приложений CUDA-C.
- Tegra System Profiler и Tegra Graphics Debugger - инструменты для профилирования и демонстрации приложений с использованием OpenGL.
- Необходимый залог и активы для разработки и проектирования оборудования с использованием NVIDIA Jetson TX2.
Использование одной и той же платформы для сборки и отладки любого приложения является обязательным условием для всего сложного и сложного. Это один из способов, с помощью которого разработчики могут упростить этот процесс, а все, что может помочь облегчить жизнь, делает счастливых разработчиков счастливее. Хотя Jetson TX2 и не предназначен для использования в качестве единственного компьютера для разработки и сборки, который будет использовать любая группа, знание того, что он способен, является благом для установки и полевых работ. В Edge можно вносить небольшие корректировки и изменения так же, как при обработке, без отправки данных в другой компьютерный банк для обработки и возврата.
Оборудование может быть спроектировано с использованием доступных аппаратных средств и чертежей, чтобы не только уменьшить сложность, но и обеспечить легкий интерфейс с использованием легкодоступных периферийных устройств и программного обеспечения. Вооруженный ноутбуком и кабелем USB, инженер или полевой техник имеет все необходимое для восстановления с нуля, если это необходимо.
Программное обеспечение NVIDIA Jetpack позволяет разработчикам сосредоточиться на своей работе, а не настраивать среду сборки.
Даже установка Jetpack от NVIDIA упрощена. Рецензентам была предоставлена обновленная версия для установки, и, следуя нескольким простым инструкциям через умный графический интерфейс, была полностью перестроена вся программа, всего за несколько шагов и чашка кофе. Опять же, мы видим, что NVIDIA упрощает работу, поэтому разработчики могут сосредоточиться на своей работе, а не на поддержке самой среды сборки.
После нескольких дней наладки и тестирования всего, я был очень впечатлен тем, что NVIDIA предлагает здесь. Первый Jetson TX1 был отличным продуктом, который удовлетворял потребность в быстрой разработке с использованием ядер графического процессора для тяжелой работы в приложениях нейронной сети с глубоким обучением. За очень короткое время NVIDIA подняла планку с преемником, который может сломать зависимость от облака, используя те же знакомые инструменты и методы разработки.
Технологии будущего будут волновать и вдохновлять всех нас. Такие продукты, как Jetson TX2, - вот что сделает возможным это будущее. Стоимость комплекта разработчика NVIDIA Jetson TX2 составляет 599 долларов США для розничных заказов и 299 долларов США для студентов.
Смотрите на портале NVIDIA для разработчиков встраиваемых систем
