Convidado para falar sobre a regulação da Inteligência Artificial (IA) nos Estados Unidos no 1º Seminário Virtual de Inteligência Artificial realizado pelo Conselho Federal de Medicina (CFM), o presidente da Federação de Conselhos Médicos Estaduais do país norte-americano, Humayun Chaudhry, afirmou que os percentuais de precisão das plataformas de IA estão aumentando rapidamente na medicina, o que requer cuidados com as normas, privacidade e segurança, e que os médicos terão de lidar com a questão mais cedo ou mais tarde.
Graduado pela Universidade de Nova Iorque e pela Escola de Saúde Pública de Harvard, Chaudhry também foi coautor da quarta edição do livro Fundamentos de Medicina Clínica Manual. Em 2016, foi listado pela revista Modern Healthcare como um dos 50 executivos e líderes médicos mais influentes.
“Apesar do avanço, a IA não pode ser o médico por si só. Ninguém está licenciando a inteligência artificial para a prática da medicina. É impressionante que a tecnologia tenha melhorado para que fatos básicos possam se tornar conhecidos. Mas não significa que a IA ou as máquinas podem ser licenciadas ou que são médicos, que podem substituir os médicos. Acreditamos fortemente nos Estados Unidos que os médicos do futuro precisarão utilizar inteligência artificial, mas não acreditamos que a IA substituirá os médicos”, afirmou.
Segundo ele, mesmo que um modelo de IA como o Gemine, do Google, alcance 91% de precisão, os médicos é que são os responsáveis pela decisão final em relação ao paciente. “Uma vez que um médico decide usar IA, ele deve aceitar certa responsabilidade em relação ao uso da tecnologia e suas recomendações. Agora, para ser honesto, recebemos algumas resistências de alguns grupos de médicos que acreditam que, se um médico usa uma máquina ou tecnologia para ajudar no atendimento ao paciente, ele não deve ser responsabilizado, mas acreditamos que não é assim”, disse.
Chaudhry avalia que é preciso explicar aos médicos quenão é porque a máquina diz algo que o profisisonal tem de segui-la. “Se um médico escolher seguir o curso do tratamento fornecido pela resposta gerada pela IA, então ele deve estar preparado para fornecer uma justificativa em sua documentação sobre o porquê ele tomou essa decisão. Não pode ser só porque a ‘IA disse’. Por outro lado, se o médico usa IA e então sugere um curso de tratamento que se desvia daquele que é delineado pela IA, ele deve documentar a justificativa por trás disso e estar preparado para defender o curso de ação caso isso leve a um resultado menos do que ideal ou prejudicial para o paciente. É perfeitamente aceitável seguir a IA, mas o humano deve estar lá para tomar essa decisão”, explicou.
Escuta ambiente – O médico americano ressaltou que a Microsoft lançou no mês passado o chamado Dragon Copilot, um assistente de IA para o fluxo de trabalho clínico que reúne capacidades de ditado por voz em linguagem natural com as capacidades de escuta ambiente, que são salvas e refinadas pela IA e adaptadas à área da saúde. Para ele, um grande avanço.
“Quando você está envolvido na prestação de cuidados ao paciente, em vez de ter que fazer anotações em um papel ou caneta ou usar um laptop para registrar os comentários do paciente, você pode simplesmente se envolver ele. Você pode pegar seu histórico, fazer seu exame físico, falar em voz alta, fazer perguntas e o paciente responderá como normalmente faz. Mas, no fundo, a IA ouvirá e é isso que significa escuta ambiente. Acho que isso vai ser muito útil para melhorar a eficiência do encontro médico-paciente. Existem alguns estudos que já mostram que você pode economizar vários minutos”, comentou.
Ele contou que, se o paciente precisar ver um cardiologista, o dispositivo de escuta ambiental poderáproduzir uma carta de encaminhamento para um médico e tudo o que ele precisará fazer é mencionar o nome do profissional ou da especialidade, e uma carta de encaminhamento explicando toda a história e o contexto será gerada instantaneamente, ou um resumo pós-consulta, ou até mesmo a solicitação de medicamentos.
“Eu acho que é aí que se torna um pouco desafiador, porque, se essa tecnologia pode solicitar medicamentos em nome do médico, isso precisa de aprovação do governo? No nosso caso, precisa de aprovação da Administração de Alimentos e Medicamentos? Isso ainda está por ser visto, mas isso é algo que acabou de sair no mês passado, e eu acho que veremos mais aplicações disso num futuro próximo”, observou.
Regulação nos EUA – O presidente da Federação de Conselhos Médicos Estaduais (FSMB) dos Estados Unidos reiterou que não há uma regulação nacional de IA e que cada estado tem sua própria lei de prática médica pela qual médicos, enfermeiros e outros profissionais são licenciados.
“A privacidade e a segurança dos dados são muito importantes. Informações podem ser compartilhadas, que não estão sendo divulgadas por motivos adequados, e precisam haver leis fortes nesse setor. Deve haver supervisão e regulamentação, não apenas pela autoridade regulatória médica, mas também pelo governo, seja o estadual, provincial ou federal. Deve haver voz sobre como isso é regulamentado, porque tudo é tão novo e há tanto dinheiro envolvido que o risco de problemas é muito alto. Então, é necessário continuar revisando e adaptando a lei e a regulamentação”, declarou.
Na avaliação dele, o atual governo americano quer regulamentar o uso da IA, mas de forma leve, a ponto de não prejudicar o avanço da inovação. Ele também citou casos estaduais, como um projeto de lei que está sendo debatido em Utah que visa proteger os consumidores dos danos da inteligência artificial e, ao mesmo tempo, incentivar a inovação. “Acho que, no final das contas, esse é o equilíbrio que a maioria das pessoas busca, que permita a inovação, mas, ao mesmo tempo, garanta que os consumidores não sejam apenas protegidos, mas mantidos seguros. Este projeto de lei em particular responsabiliza as empresas pelo uso de IA se elas a usarem para enganar os consumidores e exige que os consumidores sejam informados se o bot de bate-papo com o qual estão trabalhando é humano ou não”, contou.
Califórnia – Chaudhry também falou que hoje, no estado mais rico dos EUA, se um médico quiser pedir, por exemplo, uma ressonância magnética do cérebro de um paciente ou uma tomografia computadorizada do tórax, ele precisa obter aprovação da seguradora e justificar que é necessário. “O que a lei da Califórnia diz agora é que você não pode usar IA para esse propósito para determinar se algo é necessário, a menos que haja um médico licenciado envolvido. Em outras palavras, isso não pode ser delegado à máquina. No estado da Califórnia, você deve ter um médico licenciado que tome a decisão e se um teste ou procedimento específico é necessário ou não”, contou.
Ele explicou que, ao revisar o atendimento médico, uma seguradora tomará uma decisão sobre se pagará ou não por ele. A legislação foi introduzida em pelo menos 11 estados que, como a lei da Califórnia, exige supervisão humana desse uso de inteligência artificial, porque há uma preocupação de que pode haver maneiras de modificar a tecnologia para que talvez rejeite mais reivindicações e que isso ajude a seguradora a ganhar mais dinheiro. “E se isso acontecer, como alguém saberá? Isso faz parte do pensamento de muitos reguladores para garantir que um médico licenciado esteja envolvido no processo, porque,se algo der errado, então há alguém humano lá a quem você pode recorrer que deve estar observando e certificando-se de que as coisas prossigam da maneira certa”, afirmou.
Em 2024, a Federação de Conselhos Médicos Estaduais dos EUA instituiu a política “Navegando a Incorporação Responsável e Ética da Inteligência Artificial na Prática Clínica”, com o objetivo de dar transparência e divulgação para que as pessoas sejam informadas se o médico usa IA, se é licenciado para utilizá-la. “É importante que todos os médicos e todos os reguladores, sejam médicos, advogados ou funcionários, entendam como a IA funciona, quais são as vantagens e quais são os perigos. Acho isso muito importante. Uso responsável e prestação de contas, de modo que, se houver um problema, alguém seja responsabilizado”, finalizou.
O evento já está disponível no canal do CFM no YouTube e pode ser assistido AQUI.
