No início de Agosto, o Facebook anunciou o lançamento global da tradução de máquina neural (NMT - Neural Machine Translation). A mudança de modelos de tradução baseado em frases para NMT tem resultado em mais de 2.000 instruções de tradução e 4.5 bilhões de traduções por dia. De acordo com o Facebook, isso proporciona um aumento de 11% no índice BLEU, um mecanismo de pontuação bem conhecido para a classificação de traduções.
Os engenheiros por trás desta postagem do blog, Juan Miguel Pino, Alexander Sidorov e Necip Fazil Ayan, conseguiram um aumento de desempenho de 2.5 vezes usando Caffe2, o framework de aprendizagem de máquina do Facebook que se tornou open source no início deste ano.
A chave para alcançar esse nível de qualidade de tradução reside na utilização de uma rede neural recorrente, conhecida como memória curta de curto prazo (LSTM - long short-term memory) de sequência a sequência com atenção. Um sistema como esse leva em consideração o contexto da sentença original e tudo o que a precede para gerar traduções mais precisas. Essa abordagem permite a reordenação de longa distância na tradução, resolvendo um problema encontrado entre alguns pares de traduções, tais como o inglês-turco e o inglês-grego.
O mecanismo de atenção do LSTM também auxilia na manipulação de palavras desconhecidas em traduções, por meio do alinhamento de traduções em um léxico bilíngüe construído a partir dos dados de treinamento. A redução do vocabulário é usada para reduzir significativamente o tempo de processamento, sem afetar notavelmente a qualidade da tradução.
O framework FB Learner Flow foi usado para ajustar os parâmetros para cada um dos 2.000 pares de tradução com rapidez e precisão. Essa abordagem sozinha contribuiu para um aumento de 3,7% no índice BLEU para pares de tradução Inglês-Espanhol.
Como parte deste projeto, o Facebook contribuiu e tornou open source as redes neurais recorrentes no Caffe2. A equipe de pesquisa de inteligência artificial do Facebook (FAIR - Facebook's Artificial Intelligence Research) publicou sua pesquisa sobre o uso de redes neurais convolutivas (CNNs - convolutional neural networks) para tradução automática como parte desse projeto.
O anúncio do Facebook foi realizado alguns meses depois que o Google anunciou o NMT para o Google Tradutor em 2016 e menos de um mês depois que o Google anunciou o avanço da rede neural multimodelo.