Ética - qual o próximo passo?

No QCon Londres 2018 e na conferência Coed:Ethics, começamos a falar sobre o que significa ser um tecnólogo ético. Todas as palestras do QCon e da Coed: Ethics estão disponíveis no InfoQ.

O tema para ambas conferências estava definido. Porém, de quem é essa responsabilidade? De todos! De acionistas a desenvolvedores individuais, implementadores e usuários, precisamos nos sentir pessoalmente responsáveis pela ética de nossos produtos: a segurança, o impacto, e a compaixão. De fato, na Inglaterra, recentemente demos um passo em direção a ser legalmente obrigados a fazê-lo. Em junho, o governo do Reino Unido declarou que os algoritmos de aprendizado de máquina (ML) estão sujeitos à rigorosa legislação de saúde e segurança no trabalho do Reino Unido.

Conteúdo relacionado de patrocinadores

A Seção 6 da Lei de Saúde e Segurança no Trabalho etc., de 1974, atribui deveres a qualquer pessoa que projeta, fabrica, importa, ou fornece qualquer artigo para uso no trabalho, para garantir que seja seguro e sem riscos para a saúde, o que se aplica à inteligência artificial e software de aprendizado de máquina - junho de 2018, Buscome, Subsecretário Parlamentar (Departamento de Trabalho e Pensões)

Esta foi uma declaração significativa. A maioria de nós não constrói robôs capazes de quebrar o braço de ninguém, mas "saúde" é um conceito mais amplo do que simplesmente não cair de escadas (o que, aliás, diminuiu massivamente como causa de morte desde que a legislação de Saúde e Segurança foi introduzida - funciona!). Além dos exemplos físicos óbvios de veículos autônomos ou aplicações médicas, qualquer algoritmo que tome decisões importantes sobre a vida de alguém poderia afetar sua saúde e bem-estar..

O dever de cuidar

Existe um conceito internacionalmente reconhecido chamado "dever objetivo de cuidado" para criadores de produtos que interagem com as pessoas.

"um dever de cuidado é uma obrigação legal que é imposta a um indivíduo, e que exige a adesão a um padrão de cuidado razoável durante a realização de quaisquer atos que possam previsivelmente prejudicar outros" - Wikipedia

"Dever de cuidar" é uma boa definição do que é o desenvolvimento de produtos éticos, ou seja, seguros.

Eu diria que a ética na tecnologia é ser cuidadoso em nome de todos os seus usuários, para sempre, e em qualquer lugar. É querer evitar cenários em que os jornais possam substituir "usuário final" por "vítima indefesa".

Como o governo do Reino Unido aponta - como uma indústria, ainda estamos no estágio de definir os padrões de segurança para nós mesmos:

Cabe ao projetista, fabricante, importador, ou fornecedor desenvolver testes que sejam suficientes para demonstrar que seu produto é seguro. - Junho de 2018, Buscome, Subsecretário Parlamentar (Departamento do Trabalho e Pensões).

A ética na tecnologia sempre foi a coisa certa a fazer, mas agora também começou a se tornar legalmente necessária, o que provavelmente gerará mais ação. Suspeito que veremos um foco maior nos padrões de testes, e dos incidentes (e casos de quase acidentes) e resolução.

Já existem alguns recursos para fazer as coisas começarem. O novo Código de Ética da ACM é uma definição detalhada e útil; o kit de ferramentas EthicalOS é uma boa maneira de fazer com que suas equipes pensem com imaginação sobre o assunto. Também estamos coletando recursos úteis e links no site http://coedethics.org.

E, certamente vale a pena ler sobre outras indústrias, como aviação, construção, e manufatura, que têm responsabilidades de cuidados legais por mais tempo.

Mas, isso é tudo o que há? Isso é apenas uma questão de apertar alguns processos e padrões internos? Não poderíamos também ter metas inspiradoras e éticas em toda a indústria?

Metas éticas inspiradoras para a tecnologia

As metas de desenvolvimento sustentável da ONU têm sido parte de um processo que conseguiu tirar milhões de pessoas da pobreza. Com objetivos como "fome zero", eles definem o que a raça humana atualmente concorda que é bom. Infelizmente, grande parte da indústria de tecnologia está atualmente trabalhando diretamente contra uma dessas metas éticas incontrovertíveis: "Garantir o acesso à energia acessível, confiável, sustentável, e moderna para todos".

Segundo a ONU, esse objetivo não está indo bem:

O progresso em todas as áreas de energia sustentável fica aquém do que é necessário para alcançar o acesso à energia para todos, e para atingir as metas de energia renovável e eficiência energética. Melhorias significativas exigirão níveis mais altos de financiamento e compromissos políticos mais arrojados.

A indústria de tecnologia é uma grande usuária de eletricidade, mas a maior parte do setor não tem uma estratégia para tornar essa energia sustentável ou mesmo confiável. Os data centers exigem cerca de 2% da eletricidade mundial e estão crescendo. Toda a tecnologia (incluindo dispositivos) usa cerca de 12%.

De acordo com o jornal The Economist, a mineração de Bitcoin, em particular, consome uma "quantidade de energia incrível". Em um exemplo relatado recentemente, os requisitos de energia requeridos pelos novos data centers da AWS em vários estados dos EUA podem ter aumentado significativamente o custo da eletricidade para os cidadãos mais pobres.

Como podemos parar de prejudicar e começar genuinamente a ajudar? Surpreendentemente fácil. Tudo o que precisamos fazer é prestar atenção.

Vamos ajudar

A petição "Servidores Sustentáveis", lançada recentemente, visa convencer a indústria de tecnologia a transferir todos os servidores para energia renovável até 2024. Esse é um objetivo alcançável. Este whitepaper descreve as etapas.

Há várias maneiras de atingir a meta:

• Compre energia renovável para seus próprios servidores (isso é o que o Google faz, eles são agora o maior comprador corporativo de energia renovável do mundo).
• Use instâncias de nuvem que já sejam totalmente renováveis (por exemplo, todo o Google Cloud, todo o Azure, ou quatro regiões específicas da AWS: Irlanda, Frankfurt, Canadá, e Oregon).
• Peça ao seu data center ou provedor de nuvem para fornecer 100% de servidores sustentáveis.
• Como indivíduo, assine a petição de Servidores Sustentáveis, e vamos pressionar os provedores de nuvem a se movimentarem mais rapidamente e fornecer mais informações sobre seus planos renováveis.

Um relatório recente sugere que a energia sustentável deve ser mais barata que os combustíveis fósseis até 2020. Isso faz sentido estratégico para uma indústria altamente dependente de eletricidade como a nossa. O Facebook já se comprometeu publicamente com 100% de data centers renováveis até 2020, e a Apple já está 100% renovável.

Pergunte a si mesmo por que o Google, a Apple, e o Facebook estão fazendo isso? Eu suspeito que não é apenas da bondade de seus corações.

Você também pode reduzir seu uso de energia usando técnicas de Devops mais eficientes, como Kubernetes plus containers, mas isso é mais trabalho para os desenvolvedores, então, sejamos honestos, é menos provável que façamos isso.

O que todo mundo está fazendo?

É difícil adivinhar a quantidade exata de energia renovável usada para alimentar a nuvem (cloud), pois a maioria dos provedores de nuvem não deseja fornecer dados concretos. No entanto, a equipe dos Servidores Sustentáveis estima que menos de 50% do uso atual de energia na nuvem está sendo compensado por fontes renováveis.

Destino: nuvem

Uma pesquisa da Cisco sugere que 95% do tráfego de data centers estará na nuvem até 2021. Mesmo que isso seja altamente otimista, "a maioria" deste tráfego pode estar na nuvem dentro de 5 anos. Além disso, pesquisas publicadas pela Huawei estimam que o tráfego de dados (IoT, Machine Learning, AI, etc) pode aumentar 5 vezes até 2025.

Se essas estimativas se concretizarem sem investimento significativo em eficiência, o uso de energia pelos provedores de nuvem se torna uma séria ameaça tanto para o clima quanto para a segurança energética em outras partes da sociedade.

Vamos precisar de investimentos maciços em fornecimento de eletricidade para atender. A energia necessária para lidar com uma expansão de data centers (DCs) nessa escala significa que a segurança energética será um problema para todos, dentro e fora da tecnologia. Se as emissões de carbono dos DCs já está em cerca de 2%, se seu tráfego aumentar 5 vezes, mesmo com melhorias de eficiência é provável que haja pelo menos 3 ou 4 vezes mais volume de emissões de carbono. Precisamos agir!

Na indústria de tecnologia, somos criativos, multitarefa, e tendemos a acreditar na climatologia. Se não podemos trabalhar para reduzir nossas próprias emissões, quem o fará? Se conseguirmos mover nossa indústria em direção às energias renováveis, financiando o investimento em novas fontes de energia sustentáveis, poderemos potencialmente compensar toda a indústria da aviação e muito mais. Esse é um objetivo da indústria para o benefício de toda a humanidade, e algo do qual poderíamos nos orgulhar. Por favor, assine nossa petição, verifique onde você armazena suas instâncias de nuvem, e ajude a fazer isso acontecer.

Esse artigo faz parte de uma série de cinco artigos a respeito da ética na tecnologia da informação. Veja a seguir o link para os outros artigos da série:

• Engenheiros de software - última esperança para a ética na tecnologia da informação?
• Ética - uma perspectiva psicológica
• A ética na segurança da informação
• Cidadania e ética na tecnologia da informação: por que se importar?

Sobre a autora

Anne Currie está na indústria de tecnologia há mais de 20 anos trabalhando em tudo, desde Microsoft Back Office Servers nos anos 90 e lingerie internacional online nos anos 2000, até devops de ponta e o impacto de containers orquestrados em 2010. Anne é co-fundadora de startups de tecnologia nos espaços de produtividade, varejo, e devops. Ela atualmente trabalha em Londres para a Container Solutions

Confira esse artigo e muitos outros em nossa eMag de Ética