A Movidius (uma divisão do Grupo de Novas Tecnologias da Intel) lançou o Neural Compute Stick: um kit de desenvolvimento USB que roda um sistema de redes neurais embarcado. Com este dispositivo os usuários podem rodar uma rede neural e modelos de visão de computador em dispositivos com menor capacidade de processamento, como um Raspberry Pi. O InfoQ entrou em contato com Gary Brown, diretor de marketing da Movidius e lhe fez algumas perguntas.
InfoQ: Você poderia descrever o que é o Neural Compute Stick da Movidius e listar algumas de suas principais funcionalidades?
Gary Brown: Estou muito entusiasmado porque no último mês lançamos o novo Movidius™ Neural Compute Stick, o primeiro kit USB de desenvolvimento embarcado de redes neurais profundas para dispositivos de baixíssima capacidade. É basicamente um acelerador autônomo de deep learning (aprendizagem profunda), e um kit de desenvolvimento que permite a implantação de inferência de deep learning e aplicações de inteligência artificial (IA) de ponta. É alimentado internamente pela Movidius Myriad™ 2 Vision Processing Unit (VPU) para auxiliar nas inferências de rede neural profunda. E o dispositivo funciona em uma porta USB 3 padrão, não necessitando de nenhuma fonte de energia ou hardware adicionais, permitindo aos usuários implementar facilmente protótipos, utilizando seu próprio computador, para uma ampla gama de dispositivos, de forma nativa e sem conectividade de nuvem.
InfoQ: Quais são os grandes atrativos do Neural Compute Stick da Movidius para profissionais da área?
Brown: Nosso novo kit de desenvolvimento é voltado para dois grandes públicos: pessoas que desenvolvem embarcados interessadas em aprender sobre machine learning, e pessoas com experiência em aprendizado de máquina e inteligência artificial que estão procurando uma plataforma embarcada para pesquisas. O dispositivo Neural Compute Stick da Movidius pode ser usado para uma variedade de casos de pesquisas e prototipagem - como visão robótica, drone autônomo ou desenvolvimento de câmera de segurança inteligente - que alavancam técnicas de rede neural profunda (DNN, deep neural network) para rastreamento de cena, rastreamento ou classificação de objetos e aplicações de reconhecimento. Graças ao Myriad 2 VPU, o dispositivo é capaz de realizar inferências de rede neural profunda com eficiência energética, dentro de um universo limitado.
InfoQ: A página introdutória, getting-started, cita que os desenvolvedores precisam de um laptop rodando Ubuntu. Os usuário de OSX e Windows conseguem utilizar o Neural Compute Stick?
Brown: O Ubuntu roda o SDK do Neural Compute, as ferramentas utilizadas para compilação, ajuste e validação das redes neurais profundas que o desenvolvedor planeja rodar no dispositivo. Ainda não anunciamos ferramentas expandidas para suportar outros sistemas operacionais. A chave para o Neural Compute Stick é a habilidade de rodar DNNs em tempo real e lançamos um kit de desenvolvimento que suporta tanto plataformas X86 quanto um Raspberry Pi, para capturar a atenção de um público amplo.
InfoQ: Atualmente, apenas o framework de rede neural Caffe é suportado para o Neural Compute Stick. Haverá suporte para outros frameworks como Tensorflow, CNTK e Theano (todos suportam Keras)?
Brown: Nosso foco atual é trazer um bom suporte para o popular framework Caffe, mas nós estamos trabalhando em planos para suportar outros frameworks.
InfoQ: O Neural Compute Stick é alimentado pelo seu Vision Processing Unit (VPU). O que isso significa para quem quer rodar redes neurais com texto e dados de áudio?
Brown: Enquanto há alguns desafios no processamento da linguagem natural, o foco do nosso Neural Compute Stick alimentado por VPU é prover fácil acesso à plataforma de desenvolvimento auxiliando, primariamente, aplicações de inteligência visual. VPUs são especificamente criados para acelerar tarefas de visão de máquina, que podem incluir: processamento de imagem, processamento de visão computacional e aprendizagem profunda.
InfoQ: Estávamos pensando, se e como o dispositivo é capaz de trabalhar com aplicação em containers. Existe suporte para o Docker ou algum outro modo para utilizar o dispositivo com este tipo de aplicações?
Brown: O MvNC SDK provê um framework em forma de API que suporta o desenvolvimento de aplicações nativas em x86_64 com Ubuntu 16.04 e Raspberry Pi com Jessie. Desenvolvedores podem utilizar este framework para integrar o Neural Compute Stick de rede neural profunda com aceleração em tempo real em suas aplicações. Encorajo desenvolvedores a olhar em nossa página de desenvolvedores para ver como a API funciona. Se a aplicação geral está rodando em um container, desde que haja suporte USB e um Neural Compute Stick da Movidius conectado, os desenvolvedores podem acelerar suas aplicações utilizando o dispositivo para rodar a DNN em tempo real.
InfoQ: Até o momento, quais tipos de redes são suportadas?
Brown: Atualmente, o Movidius Neural Compute Stick suporta uma série de redes neurais de exemplo, incluindo GoogLeNet e AlexNet e outros. Desenvolvedores podem rodar suas redes customizadas desde que sejam treinadas utilizando o framework Caffe. Para detalhes de quais camadas do Caffe são suportadas, por favor visite https://developer.movidius.com/ para mais detalhes sobre as camadas suportadas.
InfoQ: Há algum tempo a Intel lançou produtos como o RealSense (que também foi adicionado ao Intel Euclid). Existem maneiras de combinar as tecnologias do NCS e do RealSense?
Brown: Sim, claro. Para desenvolvedores que criam redes neurais profundas que requerem informações detalhadas, a tecnologia Intel RealSense pode ser combinada como uma entrada para uma rede neural profunda rodando no Neural Compute Stick da Movidius.
InfoQ: Embora o NCS tenha sido lançado recentemente, estávamos pensando se você já o viu sendo utilizado de maneiras inovadoras.
Brown: Fico feliz que tenha perguntado, porque quando lançamos o Neural Compute Stick na conferência CVPR, ficamos encantados por conhecer tantos desenvolvedores (tanto profissionais corporativos quando pessoas envolvidas com pesquisas acadêmicas) que possuíam algumas formas únicas de empregar redes neurais para inteligência visual. Por exemplo, nós encontramos DNNs interessantes para resolver problemas de aspiradores robotizados, drones autônomos de vôo, carros autônomos, até mesmo aplicações que, cuidadosamente, mudam a cor do seu cabelo em um feed de vídeo, e uma empresa que gera GIFs automaticamente a partir de fontes de vídeo utilizando aprendizado de máquina. Já vemos uma grande variedade de usuários inovadores e estamos ansiosos para ver mais aplicações criativas emergirem da comunidade de desenvolvedores.
Sobre o autor
Gary Brown é o diretor de marketing da Movidius, uma empresa da Intel e divisão do Grupo de Novas Tecnologias da Intel, gerenciando marketing de produto e parcerias estratégicas. Brown já ocupou posições de liderança em marketing e engenharia de aplicações na Dolby Laboratories, Tensilica e Cadence. Seu histórico em DSP embarcado e sua paixão por tecnologia de visão computacional ajudam ele a navegar na tecnologia de visão computacional da Intel nesta nova era de inteligência de máquinas.