Para o presidente do CFM, José Hiran Gallo, devemos estar atentos para que a tecnologia não cause mais desigualdade ou injustiça social
Nesta semana, o Conselho Federal de Medicina (CFM) sediou na terça (6) e quarta-feira (7), um rico debate sobre riscos, benefícios e desafios éticos e bioéticos frente ao avanço das ferramentas de Inteligência Artificial (IA). Essa atividade fez parte do V Encontro Luso-Brasileiro de Bioética e do II Encontro Ibero Americano de Bioética, ambos realizados pelo CFM em Brasília (DF).
“Não há dúvida de que toda tecnologia pode trazer prosperidade e ganhos para a sociedade. Enquanto humanidade, devemos estar atentos para não impactar em mais desigualdade ou injustiça social”, afirmou o presidente do CFM, José Hiran Gallo, na mesa de abertura dos encontros.
Professor catedrático da Universidade do Porto, o médico Rui Nunes chamou atenção para a black box da IA na exposição Desafios da bioética frente a Inteligência Artificial. Segundo ele, trata-se de uma “caixa preta que faz conexões independentes trazendo, para a medicina, questões bioéticas importantes. A IA responde a praticamente todas as questões técnicas e científicas, exigindo, por exemplo, dos avaliadores adaptações na verificação de aprendizagem”.
Problemas éticos – Para Nunes, no futuro, toda a informação convergirá em uma unidade acessível no mundo inteiro. Na sua percepção, em matéria de saúde pública e coletiva, esse cenário poderá trazer problemas éticos profundos, pois, caso essa tecnologia não seja devidamente implementada, aprofundará diferenças dentro de um mesmo povo e entre os povos.
Outro aspecto de risco nominado pelo professor português diz respeito ao acesso às informações sigilosas ou confidenciais. “A privacidade individual também ficará absolutamente vulnerável e, nesse caminho, está o prontuário médico”, afirmou o professor, chamando a atenção para a importância da regulação nesse setor.
“Determinados bens devem ser universais, não podem ser resguardados por um único país ou profissão, como é o caso das vacinas e das regras migratórias. Também sobre a IA deve-se haver consenso global. Todos os jovens devem aprender tecnicamente sobre IA porque todo o futuro econômico dos povos passará por essa tecnologia e todos nós, como cidadãos, temos a responsabilidade ética e social de incentivar o letramento em IA para que cada vez mais pessoas conheçam essas ferramentas e estabeleçam uma linha vermelha entre humanos e não-humanos”, concluiu Rui Nunes.
Questionamento – Na mesa redonda Benefícios e riscos da inteligência artificial, que seguiu a conferência de abertura, houve muitas reflexões sobre esse aspecto. Abordando a relação entre algoritmos e o humanismo, o professor José Alfredo Costa, da Universidade Federal do Rio Grande do Norte (UFRN), pontuou que o questionamento se a IA substituirá os humanos nas tarefas cognitivas é um assunto debatido há mais de 30 anos e já vivemos há alguns anos com os robôs através, por exemplo, dos streamings.
“Os parâmetros são aprendidos a partir dos dados, do perfil de navegabilidade. As pessoas geram dados, que influenciam os algoritmos, que geram novos dados, que influenciam as pessoas. A dúvida é: as pessoas sabem o que querem ou desejam e acreditam no que os algoritmos apresentam? ”, alertou Costa.
Lembrando que a IA pode gerar informação errada quando a ferramenta é alimentada por fontes não confiáveis, como textos da internet sem curadoria, o professor Jorge Artur Peçanha, da Universidade Federal de Alagoas (UFAL), destacou que a black box pode formar uma rede neural sobre a qual não se tem controle depois que o programador insere as informações.
Interação – Peçanha alertou que a Inteligência Artificial evolui através do reforço humano. Segundo pontuou, a estrutura matemática da IA está bem feita, mas os problemas humanos estão imbuídos nesse sistema pelas informações alimentadas a partir da interação do homem com os dados. “Por isso, há machismo, sexismo, preconceitos e fakenews, por exemplo. Se perguntarem a determinadas ferramentas, verão que, para elas, a medicina é uma profissão de homens. As mulheres não estão normatizadas em padrões reconhecidos como adequados”, acrescentou.
O professor pontuou ainda que a IA é o modelo de negócio do Vale do Silício. Na sua opinião, “o algoritmo foi feito para gerar lucro e, para isso, precisa da ação do ser humano, não o substituirá. A matemática é a mesma há séculos, o que muda é a ferramenta. O que a ferramenta produz é resultado da história humana, dos comportamentos e, se há algum demônio nisso, somos nós, que precisamos evoluir”.
“Este é um evento muito importante para a bioética ibero americana, pois é importante ocuparmos espaços com debate qualificado. O uso da IA no cuidado com a saúde pode trazer vantagens e riscos, mas não nos esqueçamos: a inteligência artificial não muda a condição humana”, concluiu Juan Sendin, membro da Organização Médica Colegial da Espanha, que foi debatedor na mesa moderada pelo conselheiro Jeancarlo Cavalcante, 1º Vice-Presidente do CFM.