Prime Time

seg - sex

Apresentação

Ao vivo

A seguir

    Três riscos do uso da inteligência artificial na saúde, de acordo com a OMS

    Organização pede cautela no uso de ferramentas de modelo de linguagem geradas por tecnologia, destacando a necessidade de examinar os usos apropriados

    Yuichiro Chino/Getty Images

    Lucas Rochada CNN

    em São Paulo

    Ferramentas de modelo de linguagem geradas por inteligência artificial (IA) incluem plataformas de expansão rápida, como ChatGPT, Bard, Bert, entre outras. A tecnologia que imita a compreensão, o processamento e a produção da comunicação humana, tem se expandido de maneira significativa. O crescente uso para fins relacionados à saúde despertou um alerta da Organização Mundial da Saúde (OMS).

    Em um comunicado, a OMS pede cautela no uso dos dispositivos, destacando a necessidade de examinar os riscos e os usos apropriados das tecnologias.

    Segundo a agência das Nações Unidas (ONU) para a saúde, há uma preocupação de que o cuidado que, normalmente, seria exercido para qualquer nova tecnologia não esteja sendo feito de forma consistente com os modelos de linguagem, como mecanismos de controle. Isso inclui adesão das plataformas de inteligência artificial a valores como transparência, inclusão, engajamento público, supervisão especializada e avaliação rigorosa.

    A OMS argumenta que a adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, atrasar os potenciais benefícios e usos de longo prazo das ferramentas.

    Os dados usados ​​para treinar a inteligência artificial podem ser tendenciosos, gerando informações enganosas ou imprecisas que podem representar riscos à saúde, à equidade e à inclusão, alerta a OMS.

    Entre as considerações descritas pela OMS estão a geração de respostas que podem parecer confiáveis e plausíveis para o usuário final, mas que podem conter erros graves, especialmente no contexto da saúde.

    No comunicado, a OMS afirma também que modelo de linguagem por IA podem ser treinados em dados para os quais o consentimento pode não ter sido fornecido anteriormente. Além disso, essas ferramentas não necessariamente protegem dados confidenciais, incluindo de saúde, que um usuário fornece para gerar uma resposta, aponta a entidade.

    Por fim, a OMS destaca que a tecnologia pode ser utilizada para gerar e disseminar desinformação na forma de texto, áudio ou vídeo, tornando difícil para o público diferenciar conteúdo falso de conteúdo confiável.

    A OMS reconhece que o uso apropriado das tecnologias pode contribuir para apoiar profissionais de saúde, pacientes, pesquisadores e cientistas. A abordagem pode servir de apoio às decisões médicas e aumentar a capacidade de diagnóstico em ambientes com poucos recursos.

    No entanto, a OMS propõe que essas preocupações sejam abordadas com base em evidências, e que uma análise de riscos e benefícios deve preceder o uso generalizado em cuidados de saúde e medicina de rotina, seja por indivíduos, prestadores de serviços e formuladores de políticas.