Anna Zawilska, pesquisadora chefe da Babylon Health, palestrou na Webexpo 2019 em Praga, mostrando as lições aprendidas com a experiência de fornecer assistência médica remota por meio de uma combinação de tecnologia e Inteligência Artificial (IA). A Babylon Health veio para ajustar três suposições principais que dão base para o desenvolvimento de produtos.
Zawilska começou sua palestra mencionando um estudo da Organização Mundial de Saúde, onde foi informado que ao menos 50% da população mundial não tem acesso a serviços essenciais de saúde. Nesse contexto, o fato das pessoas em todos os lugares possuírem smartphones, combinado com o poder de diagnóstico da Inteligência Artificial, tem o potencial de ampliar o acesso aos serviços de saúde. Os engenheiros, médicos e cientistas da Babylon desenvolveram um sistema utilizando a IA que pode receber dados sobre os sintomas de uma pessoa, comparar as informações com um banco de dados de sintomas e doenças conhecidas para encontrar possíveis correspondências e, em seguida, identificar um possível tratamento e os fatores de risco relacionados ao mesmo.
No aplicativo móvel da Babylon, uma típica experiência do usuário começaria com o aplicativo pedindo ao usuário (paciente) para descrever seus sintomas. Na segunda etapa, dependendo dos sintomas declarados, mais perguntas seriam feitas para refinar o conjunto de possíveis doenças que afetam o paciente. Numa terceira fase, seriam feitas as recomendações.
A primeira suposição feita pela equipe do Babylon, foi que os pacientes confiariam em um chatbot (sistema autônomo de diálogo onde os pacientes apresentam os sintomas) tanto quanto confiam nos médicos. No entanto, as principais observações provenientes da experiência real mostraram diferenças cruciais no comportamento do usuário com um médico humano em relação a uma tecnologia baseada em máquina.
Os pacientes geralmente confiam que os médicos possuem conhecimentos sólidos e qualificações, confiança que não foi transferida ao chatbot. Além disso, embora um paciente dificilmente iria interromper uma consulta com um médico humano antes da conclusão, os usuários do chatbot estavam muito mais propensos a encerrar a consulta antes do término do processo. Além disso, enquanto os pacientes normalmente acreditam que os conselhos dados pelo médico devem ser seguidos, os usuários do chatbot tiveram uma menor propensão a confiar nos conselhos da IA e seguir as prescrições dadas.
A Babylon Health concluiu que a confiança do usuário não pode ser assumida como verdade e, como consequência, precisavam desenvolver algo para elevar a credibilidade. Zawilska nos mostrou um exemplo de uma alteração feita na interface do usuário: Quando um usuário hipotético fosse perguntado se, "Você sente alguma dor ao tentar mover o pescoço?", o aplicativo também forneceria uma explicação do motivo pelo qual a pergunta foi feita. Nesse caso, o aplicativo traria uma mensagem do tipo, "estou perguntando isso porque estou tentando descartar uma dor de cabeça causada por estresse. Para as pessoas com seu perfil, os problemas no pescoço e a dor de cabeça são um forte indicador de dores de cabeça provocadas por estresse. "
A questão da confiança tem uma prevalência específica no setor de saúde. Zawilska citou algumas controvérsias recentes (envolvendo Theranos, uma empresa de tecnologia da saúde, inicialmente apontada como uma empresa de tecnologia inovadora, mas subsequentemente famosa por falsas alegações de ter desenvolvido exames de sangue que precisavam de quantidades pequenas do fluido, ou sequenciamento de DNA) que contribuíram para diminuir a confiança das mais recentes inovações em tecnologia de assistência médica.
A segunda suposição feita foi a de que a segurança clínica era o único critério para avaliar o sucesso da IA de diagnósticos da Babylon. A IA normalmente é treinada com grande quantidade de dados. Após treinado, o modelo resultante é testado por meio de alguns critérios de avaliação. Zawilska explicou que o uso da segurança clínica como único critério para validar a IA, apresentava um risco maior de afetar negativamente a experiência do usuário.
De fato, otimizar a segurança crítica pode implicar que a IA recomendaria, em alguns casos, que um paciente visite a sala de emergência, enquanto a condição do paciente não precisaria necessariamente deste procedimento. Uma grande proporção dessas ocorrências pode resultar no fato do paciente atribuir cada vez menos confiança à aplicação.
Por outro lado, otimizar apenas a experiência do usuário oferecia um conjunto de riscos. Zawilska comentou que o aplicativo pode, teoricamente, independentemente da condição do usuário, exibir uma mensagem amigável e recomendar que o usuário tome alguns analgésicos. Isso pode resultar em uma melhor experiência, embora aumente os riscos à saúde.
Assim, a Babylon decidiu avaliar a IA com base nos dois critérios, o critério de segurança clínica e a experiência do usuário. Zawilska explicou que o ponto ideal consistia em enviar pacientes para o pronto-socorro quando necessário, e tranquilizá-lo e prescrever algum remédio, quando apropriado.
A terceira suposição mencionada por Zawilska, e que impactou o desenvolvimento do produto, foi "avançar rápido e quebrar as coisas". O lema, popularizado por Mark Zuckerberg do Facebook, enfatiza a necessidade de velocidade na entrega de tecnologia. Nos últimos anos, surgiram críticas, com uma recomendação para substituir "produtos mínimos viáveis" por "produtos mínimos virtuosos", nos quais as novas ofertas testam os efeitos sobre as partes interessadas e então constroem uma proteção contra possíveis danos.
A Babylon Health, pelo contrário, segue uma abordagem de "movimento rápido quando é seguro". Zawilska deu exemplos de cenários nos quais as alterações na interface do usuário podem resultar em comportamentos com efeitos adversos na segurança clínica. Nesses casos, a empresa estudaria e calibraria primeiro esses efeitos antes de decidir avançar com as alterações propostas.
A Babylon é uma start-up do Reino Unido com uma missão auto-declarada de "colocar um serviço de saúde barato e acessível nas mãos de todas as pessoas na terra". A Babylon procura alcançar esse objetivo, utilizando ferramentas de Inteligência Artificial (IA) combinadas com a experiência médica humana.
O Webexpo é uma conferência na qual desenvolvedores, profissionais de UX, designers e profissionais de marketing se encontrarem e compartilharem suas experiências. O WebExpo 2019 ocorreu de 20 a 22 de setembro de 2019 em Praga, na República Tcheca.