18 de janeiro de 2024 – A Organização Mundial da Saúde (OMS) está a lançar novas orientações sobre a ética e a governação de grandes modelos multimodais (LMMs) – um tipo de tecnologia de inteligência artificial (IA) generativa de rápido crescimento com aplicações nos cuidados de saúde.
E faz as principais recomendações
As novas orientações da OMS incluem recomendações para os governos, que têm a responsabilidade primária de estabelecer padrões para o desenvolvimento e implantação de LMMs, e a sua integração e utilização para fins médicos e de saúde pública.
Por exemplo, os governos deveriam:
• Investir ou fornecer infraestrutura pública ou sem fins lucrativos, incluindo poder de computação e conjuntos de dados públicos, acessíveis a desenvolvedores nos setores público, privado e sem fins lucrativos, que exijam que os usuários adiram a princípios e valores éticos em troca para acesso.
• Utilizar leis, políticas e regulamentos para garantir que os LMMs e as aplicações utilizadas nos cuidados de saúde e na medicina, independentemente do risco ou benefício associado à tecnologia de IA, cumpram as obrigações éticas e os padrões de direitos humanos que afetam, por exemplo, a dignidade e a autonomia de uma pessoa ou privacidade.
• Designar uma agência reguladora existente ou nova para avaliar e aprovar LMMs e aplicações destinadas ao uso em cuidados de saúde ou medicina – conforme os recursos permitirem.
• Introduzir auditorias obrigatórias pós-liberação e avaliações de impacto, inclusive para proteção de dados e direitos humanos, por terceiros independentes quando um LMM for implantado em grande escala. As auditorias e as avaliações de impacto devem ser publicadas e incluir resultados e impactos desagregados por tipo de utilizador, incluindo, por exemplo, por idade, raça ou deficiência.
A orientação também inclui as seguintes recomendações principais para desenvolvedores de LMMs, que devem garantir que:
• Os LMMs não são projetados apenas por cientistas e engenheiros. Os potenciais utilizadores e todas as partes interessadas diretas e indiretas, incluindo prestadores de serviços médicos, investigadores científicos, profissionais de saúde e pacientes, devem ser envolvidos desde as fases iniciais do desenvolvimento da IA numa conceção estruturada, inclusiva e transparente e ter oportunidades para levantar questões éticas, expressar preocupações e fornecer informações para a aplicação de IA em consideração.
• Os LMM são concebidos para executar tarefas bem definidas com a precisão e fiabilidade necessárias para melhorar a capacidade dos sistemas de saúde e promover os interesses dos pacientes. Os desenvolvedores também devem ser capazes de prever e compreender possíveis resultados secundários.
