top of page

W Magazine | OMS divulga orientações sobre ética e governança em IA para grandes modelos multimodais

18 de janeiro de 2024 – A Organização Mundial da Saúde (OMS) está a lançar novas orientações sobre a ética e a governação de grandes modelos multimodais (LMMs) – um tipo de tecnologia de inteligência artificial (IA) generativa de rápido crescimento com aplicações nos cuidados de saúde.


E faz as principais recomendações

As novas orientações da OMS incluem recomendações para os governos, que têm a responsabilidade primária de estabelecer padrões para o desenvolvimento e implantação de LMMs, e a sua integração e utilização para fins médicos e de saúde pública.


Por exemplo, os governos deveriam:


• Investir ou fornecer infraestrutura pública ou sem fins lucrativos, incluindo poder de computação e conjuntos de dados públicos, acessíveis a desenvolvedores nos setores público, privado e sem fins lucrativos, que exijam que os usuários adiram a princípios e valores éticos em troca para acesso.


• Utilizar leis, políticas e regulamentos para garantir que os LMMs e as aplicações utilizadas nos cuidados de saúde e na medicina, independentemente do risco ou benefício associado à tecnologia de IA, cumpram as obrigações éticas e os padrões de direitos humanos que afetam, por exemplo, a dignidade e a autonomia de uma pessoa ou privacidade.


• Designar uma agência reguladora existente ou nova para avaliar e aprovar LMMs e aplicações destinadas ao uso em cuidados de saúde ou medicina – conforme os recursos permitirem.


• Introduzir auditorias obrigatórias pós-liberação e avaliações de impacto, inclusive para proteção de dados e direitos humanos, por terceiros independentes quando um LMM for implantado em grande escala. As auditorias e as avaliações de impacto devem ser publicadas e incluir resultados e impactos desagregados por tipo de utilizador, incluindo, por exemplo, por idade, raça ou deficiência.


A orientação também inclui as seguintes recomendações principais para desenvolvedores de LMMs, que devem garantir que:


• Os LMMs não são projetados apenas por cientistas e engenheiros. Os potenciais utilizadores e todas as partes interessadas diretas e indiretas, incluindo prestadores de serviços médicos, investigadores científicos, profissionais de saúde e pacientes, devem ser envolvidos desde as fases iniciais do desenvolvimento da IA numa conceção estruturada, inclusiva e transparente e ter oportunidades para levantar questões éticas, expressar preocupações e fornecer informações para a aplicação de IA em consideração.


• Os LMM são concebidos para executar tarefas bem definidas com a precisão e fiabilidade necessárias para melhorar a capacidade dos sistemas de saúde e promover os interesses dos pacientes. Os desenvolvedores também devem ser capazes de prever e compreender possíveis resultados secundários.



Quer ler mais?

Inscreva-se em wmagazine.pt para continuar lendo esse post exclusivo.

12 visualizações0 comentário

Kommentarer

Kunne ikke indlæse kommentarer
Det ser ud til, at der var et teknisk problem. Prøv at oprette forbindelse igen eller opdatere siden.
bottom of page