O Fórum Econômico Mundial (FEM), que ocorre anualmente em Davos na Suíça, tem por objetivo melhorar a situação do mundo por meio de debates entre os líderes da economia mundial. Dentre os assuntos discutidos na edição de 2018, o painel Future Shocks: Rogue Technology (Impactos futuros: Tecnologia imprevisível, em tradução livre) debateu os riscos que as tecnologias da 4ª Revolução Industrial (IA, drones, bioengenharia, etc) podem trazer para as espécies, a diversidade, e o meio ambiente; e como lidar com isso, como conduzir a tecnologia de forma que ela seja beneficial para o mundo. Dentre os participantes estava presente Marcos Souza, secretário de Inovação do Ministério do Desenvolvimento, Indústria e Comércio Exterior (MDIC) do Brasil.
As opiniões ficaram divididas ao longo do painel. Se por um lado a 4ª Revolução Industrial pode trazer benefícios para a vida na terra, como por exemplo ajudar com o problema dos plásticos nos oceanos, minerar o fundo do mar em busca de materiais valiosos, e salvar espécies por meio da manipulação genética, por outro lado, há uma grande preocupação com a falta de leis e regulamentação para o uso dessas tecnologias.
O debate começou com Marc Benioff, CEO da empresa Salesforce, explanando sobre duas ideias: um robô limpador de praias - "cedo ou tarde teremos mais plástico no oceano do que peixes" - e robôs autônomos para minerar o fundo do mar procurando por materiais que talvez já exaurimos na terra.
A diretora do laboratório de tecnologia da Universidade de Duke, Mary Cummings, mostrou-se muito preocupada com a forma como a tecnologia será utilizada, com o risco de detrimento de seu propósito, riscos acidentais, e problemas imprevisíveis; e ainda, com a utilização de tecnologias / inovações que não entendemos completamente e que não foram exaustivamente testadas:
A Inteligência Artificial (IA) está abrindo uma caixa de pandora. Não entendemos como os algoritmos funcionam, principalmente quando se trata de veículos autônomos.
Ela ainda ressaltou grande preocupação com o uso e manipulação de genoma, pois embora isso ainda esteja em fase de estudo, existem empresas que querem utilizá-la no mundo real. Cummings acrescenta ainda que há uma grande necessidade de colaboração entre acadêmicos, governos, e empresas.
O Professor Zhang, pioneiro no uso da CRISPR, uma abordagem de manipulação de genoma, apesar de muito animado com o desenvolvimento de seu trabalho que visa ajudar no desenvolvimento da agricultura, de organismos, e até mesmo prevenir a extinção de espécies, concordou que é preciso cautela, especialmente ao lidar com organismos. E, ainda, ele disse ser necessário "criar mecanismos de contenção para conter uma tecnologia que se torne perigosa após sua implementação".
Marcos Souza, único representante governamental no painel, acrescentou que devido à velocidade dos avanços tecnológicos os legisladores precisam trabalhar rápido. Ele bem lembrou que:
A regulamentação governamental está sempre um passo atrás da velocidade das revoluções (...) as revoluções anteriores ocorreram de forma mais lenta, então pudemos nos preparar, porém a 4ª Revolução está acontecendo muito rápido.
Ele disse que essa lentidão é um problema pois como a regulação da biotecnologia é crítica no Brasil, uma vez que o país tem uma rica e poderosa agricultura, o atraso na adoção de tecnologias inovadoras pode impactar diretamente na competitividade do país. Souza falou ainda sobre os drones no espaço aéreo brasileiro:
Nós vemos muitas oportunidades para os drones na agricultura [brasileira], para mapear as plantações, para saber exatamente onde usar os agrotóxicos, fertilizantes, etc, mas ainda não há regulamentação.
Ele diz que [no Brasil] ainda se está discutindo como treinar pessoas para pilotar drones, apesar de isso não fazer sentido já que os drones serão autônomos, e que isso aumenta a complexidade da regulamentação pois há que se discutir como se regular uma coisa autônoma. De fato, existe o risco de não ser um único dispositivo autônomo: devido à extensão de algumas plantações no país, talvez seja necessário uma nuvem de drones para cobrir certas áreas.
O próximo painelista, Peter Thomson, enviado especial da ONU para assuntos sobre o oceano, fala que vê a bioengenharia como algo muito positivo e que pode salvar muitas espécies no oceano. Ele também fala sobre o problema da falta de regulamentação:
Sabemos mais sobre o rosto de Marte do que sobre o oceano (...). A mineração do fundo do mar definitivamente vai acontecer, porém isso ainda não é permitido por não haver regulação, mas, as leis estarão prontas em breve.
O painel seguiu discutindo a ética na engenharia climática, e como usar a tecnologia/ os dados para acelerar resultados de testes com precisão.
De volta a Benioff, ele exemplificou porque a tecnologia precisa amadurecer antes de ser amplamente utilizada:
Como um CEO, se tenho uma tecnologia quero disponibilizá-la para todos os clientes; porém não quero receber uma ligação de um cliente [reclamando que] ele/ela tomou uma decisão ruim porque a tecnologia ainda não estava pronta.
E já na parte final do painel, na sessão de Q/A, um ponto muito importante foi levantado por Cummings numa resposta a respeito da educação:
Temos uma crise global de talentos em IA, e isso ocorre porque não conseguimos acompanhar o tempo de avanço da tecnologia. Ainda educamos as pessoas nas universidades como fazíamos há 30 anos, o modelo educacional é arcaico - então há muito ainda a ser feito na esfera da educação.