Вскоре искусственный интеллект может появиться на мобильных девайсах, таких как iPhone, Android телефоны и другие маломощные устройства как Raspberry Pi благодаря выходу нового открытого глубокого обучения (deep-learning) фреймворка Caffe2 от Facebook.

Caffe2 можно использовать для программирования искусственного интеллекта в смартфонах и планшетах для распознавания изображения, видео, текста и речи или затачиваться под конкретные задачи.

Важно отметить, что Caffe2 это не полноценный AI, который будет жить в вашем смартфоне, а инструмент, позволяющий его запрограммировать. Нужно несколько строк кода для написания простейшей обучающей модели, которую потом можно встроить в готовое приложение.

Выпуск Caffe2 довольна важная часть развития AI на смартфонах. Это означает что пользователи смогут получать распознанное изображение, понимать речевые команды непосредственно на их смартфоне. Сейчас эти задачи обычно выполняются на сервере, а потом результат посылается на устройство пользователя.

Сейчас мобильные устройства довольно часто используют искусственный интеллект. Большинство телефонов сейчас поставляются с Amazon Alexa или Google Assistant. Apple устройства оснащены Siri, которое остается основным продуктом iPhone в течение нескольких последних лет. Samsung разрабатывает голосового помощника Bixby для Galaxy S8, который должен сильно упростить использование телефона.

Amazon Alexa

Caffe2 может работать в ограниченных по мощности устройствах по типу мобильных девайсов. Он работает на прямую с железом устройства для ускорения работы нейронных сетей.

Caffe2 оптимизирован для работы на новом оборудовании. Например, в смартфоне Caffe2 будет использовать графический профессор Adreno GPU и Hexagon DSP на Snapdragon от Qualcomm.

Мы стремимся предоставить сообществу высокопроизводительные инструменты для машинного обучения, чтобы каждый мог создавать интеллектуальные приложения и службы.

--- Facebook в своей записи на сайте Caffe2.

Caffe2 так-же может использоваться для создания чат-ботов. На сайте Caffe2 есть несколько предварительно подготовленных моделей, которые можно использовать для создания обучающих моделей.

Так-же он намного быстрее оригинального Caffe. Тесты проводимые Intel, Qualcomm и Nvidia позволили значительно его ускорить по сравнению и с оригинальным Cafee и если сравнивать с другими фреймворками машинного обучения.

Nvidia так-же утверждает, что Caffe2 будет значительно быстрее и на "больших" GPU по сравнению с оригинальным Caffe. Некоторые GPU от Nvidia обладают поддержкой быстрых вычислений с плавающей запятой, что положительно скажется на производительности.

Ожидается, что Facebook представит более подробную информацию о Caffe2 на конференции F8, которая пройдет в Сан-Хосе, Калифорния.

Перевод для английского.

https://github.com/grishy/blog/blob/hugo/content/post/facebooks-caffe2-ai-tools-come-to-iphone-android-and-raspberry-pi.md