Dave Burke, Diretor de engenharia no Google, anunciou uma nova versão do Tensorflow otimizada para smartphones.
Esta nova biblioteca, chamada Tensorflow Lite, permite que os desenvolvedores desenvolvam aplicações com inteligência artificial em tempo real nos smartphones dos usuários. De acordo com Burke, a biblioteca é desenhada para ser rápida e leve, mas mantendo as técnicas que estão no estado da arte. Será liberada ainda este ano como parte do projeto open source do Tensorflow.
Atualmente, muito processamento de inteligência artificial acontece nos servidores por meio de provedores de software como serviço. Disponibilizando esta biblioteca, o Google espera deixar estes processamentos nos smartphones dos usuários. Assim, poderá economizar tanto em poder de processamento quanto nos dados. Isto também permite que os dados dos usuários permaneçam privados e também não é necessário conexão com a Internet.
O Tensorflow Lite é a segunda ferramenta de deep learning que está disponível para smartphones. Em Novembro de 2016, o Facebook já havia anunciado seu framework: Caffe2Go. Este framework é utilizado para aplicar estilos em imagens em tempo real: adicionando filtros como arte nos smartphones.
Burke também anunciou que novas funcionalidades serão adicionadas para comunicar com processadores projetados com redes neurais. Estas redes utilizam muitas vezes os mesmos tipos de aritméticas, que podem ser otimizadas usando GPUs e o Tensor Processing Unit (TPU) do Google. Neste momento, os smartphones já estão usando redes neurais, por exemplo, no aplicativo do Google Translate, mas o treinamento destas redes ainda é muito pesado para os smartphones.