A inteligência artificial e seus dilemas

Profissionais, cidadãos e arcabouço jurídico. Estes são três pilares para o desenvolvimento da saúde digital. E, para que ela realmente cumpra sua promessa de ampliar o acesso aos serviços de saúde, é necessário garantir uma série de outras condições, como o letramento digital da população e infraestrutura. “A gente não vai conseguir avançar em soluções de inteligência artificial onde ainda falta energia elétrica”, afirmou Luiz Júpiter, analista no Serviço de Tecnologia da Informação (STI) e professor da Escola de Governo Fiocruz – Brasília. Ele e Marcelo Lisboa, professor da Universidade Federal do Tocantins (UFT), participaram da roda de conversa “Inteligência Artificial: problemas éticos, regulação e desafios”, na tarde desta quarta-feira (29/11), durante a 6ª Feira de Soluções para a Saúde.

Em sua apresentação, Júpiter listou uma série de ações estratégicas para o desenvolvimento da saúde digital no Brasil, começando por reduzir a fragmentação das iniciativas no SUS e aprimorar sua governança. “Existem atualmente mais de 600 sistemas no arcabouço do Ministério da Saúde”, exemplificou. Ao defender uma plataforma e-saúde integrada e coordenada nacionalmente, o representante da Fiocruz Brasília lembrou que é preciso reconhecer a participação da iniciativa privada – um aspecto que gera desconfiança e reforça a necessidade de um marco legal para a saúde digital no país. Júpiter destacou, ainda, a importância de políticas que assegurem o acesso a uma saúde digital de qualidade justamente para as áreas e populações mais vulnerabilizadas.

Já o professor da UFT chamou a atenção para os possíveis vieses da inteligência artificial (IA), em especial, na área da saúde. Primeiramente, ele desmistificou o conceito de IA. “Nada mais é do que programar uma máquina para que ela seja capaz de realizar tarefas que demandam habilidades associadas à inteligência humana, como um diagnóstico médico, por exemplo”, definiu. Para essa programação, a máquina deve ser ‘alimentada’ com um conjunto de regras matemáticas e exemplos.

Ocorre, no entanto, que as bases de dados usadas para o aprendizado da máquina nunca são neutras. “Elas refletem nossas visões de mundo e nossos preconceitos, além de terem validade: uma informação verdadeira no passado pode se relevar falsa no presente. Vieses podem estar escondidos nos dados”, sublinhou Lisboa. Uma determinada população pode ter menos acesso a um exame e, por isso, receber menos diagnósticos de uma doença, o que pode ser mal interpretado – como se aquela população fosse menos afetada pela doença e não demandasse tanto cuidado, quando, na verdade, ela tem menos acesso aos serviços e precisa de mais atenção.

Segundo Lisboa, a inteligência artificial pode ser empregada em diagnóstico e triagem, tratamentos personalizados e monitoramento contínuo da saúde. “Entretanto, os algoritmos podem ser tendenciosos, resultando em aumento das desigualdades”, alertou. “É necessário aumentar a diversidade na construção dos bancos de dados”, recomendou.

Leave a Reply

+ 5 = 13