Estudo revela que médicos que dependem de IA ficam 20% piores em identificar riscos à saúde

As ferramentas de assistência por IA tornaram-se um recurso diário que ajudou a aumentar a produtividade e a velocidade em vários setores. Apesar dos benefícios notáveis desses sistemas inteligentes, especialistas médicos estão preocupados que a dependência excessiva da inteligência artificial possa estar causando mais mal do que bem.

Dependência de IA pode reduzir taxas de detecção de médicos em colonoscopias

Um estudo recente realizado com 1.443 pacientes revelou que endoscopistas que utilizaram agentes de IA durante colonoscopias alcançaram uma taxa de sucesso menor na detecção de irregularidades quando essas ferramentas não foram utilizadas. 

Os resultados da pesquisa, publicados este mês no jornal Lancet Gastroenterology & Hepatology, mostram que esses médicos alcançaram uma taxa de sucesso de 28,4% na detecção de possíveis pólipos usando a tecnologia. Sem essas ferramentas, o número caiu para 22,4%, representando uma diminuição de 20% nas taxas de detecção.

O Dr. Marcin Romańczyk, gastroenterologista do H-T. Medical Center em Tychy, Polônia, e autor do estudo, expressou surpresa com os resultados. Ele apontou a dependência excessiva da inteligência artificial como um dos principais fatores que contribuíram para a queda nas taxas de detecção.

Aprendemos medicina com livros e com nossos mentores. Nós os observávamos. Eles nos diziam o que fazer. E agora há algum objeto artificial sugerindo o que devemos fazer, onde devemos olhar, e na verdade não sabemos como nos comportar nesse caso específico.

Dr. Marcin Romańczyk

O resultado não apenas evidencia os possíveis efeitos negativos de confiar excessivamente na inteligência artificial, mas também aborda a evolução da prática médica de uma tradição focada no analógico para uma era digital.

Preocupações com a Inteligência Artificial no ambiente de trabalho: ganhos de produtividade a um custo cognitivo

Além do aumento do uso em hospitais e consultórios, a automação por IA tornou-se uma constante nos ambientes de trabalho, com muitos recorrendo a essas ferramentas para aumentar a produtividade. O Goldman Sachs chegou a prever em 2023 que a IA poderia aumentar a produtividade no trabalho em até 25%.

No entanto, a adoção desses sistemas de IA também traz consigo eventuais desvantagens. De fato, pesquisas de empresas líderes destacaram os riscos associados à confiança excessiva nessas ferramentas. 

Uma publicação da Microsoft e da Carnegie Mellon University observou que a IA ajudou a aumentar a eficiência no trabalho entre um grupo de trabalhadores do conhecimento pesquisados. Mas enfraqueceu suas habilidades de julgamento “atrofiadas” e capacidade analítica.

Dependência excessiva de Inteligência Artificial na aviação: lições do voo 447 da Air France

Mesmo no setor de aviação, onde a segurança é fundamental, evidências anteriores sugerem que a dependência excessiva da automação pode comprometer a segurança. Em 2009, um voo da Air France 447, que ia do Rio de Janeiro para Paris, caiu no Oceano Atlântico, resultando na perda de mais de 228 vidas.

Investigações posteriores revelaram que o sistema de automação do avião apresentou falhas. Assim, isso fez com que o “diretor de voo” automatizado da aeronave transmitisse informações imprecisas. E como a equipe de voo não estava adequadamente treinada para pilotar manualmente, eles confiaram nos recursos automatizados da aeronave em vez de fazer os ajustes necessários.

Equilibrando a adoção de IA com a expertise humana em setores de alto risco

Lynn Wu, professora associada de operações, informação e decisões na Wharton School da University of Pennsylvania, observou que esses incidentes são um alerta para a adoção de IA em setores onde a segurança humana é crítica. Wu explicou que, ao adotar essas tecnologias, as indústrias devem garantir que os trabalhadores estejam utilizando essas ferramentas de forma apropriada.

O importante é que aprendamos com essa história da aviação e da geração anterior de automação, que a IA absolutamente pode aumentar o desempenho. Mas, ao mesmo tempo, precisamos manter essas habilidades críticas, para que, quando a IA não estiver funcionando, saibamos como assumir o controle.

Lynn Wu

Ela acrescentou que, se as pessoas perderem suas próprias habilidades, a inteligência artificial também terá um desempenho pior. Para que a IA melhore, os indivíduos também devem se aprimorar continuamente.

Romańczyk também aceita o uso de IA na medicina, observando que “a IA será, ou já é, parte de nossas vidas, gostemos ou não.” Ainda assim, ele enfatizou a necessidade de entender como a inteligência artificial afeta o pensamento humano e pediu aos profissionais que determinem as formas mais eficazes de utilizá-la.