No início deste mês, o Escritório de Política de Ciência e Tecnologia da Casa Branca (OSTP) Força -Tarefa de Integridade Científica divulgou um relatório intitulado “Protegendo a integridade da ciência do governo.”Embora amplo e abrangente, o relatório chama a atenção para os desafios particulares associados à inteligência artificial e ao aprendizado de máquina.
O relatório OSTP é uma resposta à diretiva do presidente Biden para garantir que os legisladores estejam tomando decisões com base em evidências e dados científicos com o objetivo de restaurar a confiança do público no governo.
O documento identifica princípios de integridade científica e práticas recomendadas destinadas a verificar se “a ciência é conduzida, gerenciada, comunicada e usada de maneiras que preservem sua precisão e objetividade e protejam -a da supressão, manipulação e influência inadequada - incluindo interferência política.”
O prefácio do relatório - assinado pelo diretor da OSTP Eric Lander, vice -diretor de ciências e sociedade da OSTP Alondra Nelson e vice -diretor de clima e meio ambiente Jane Lubchenco - lista os cinco novos princípios que guiarão a política de integridade científica da agência:
Eles se baseiam nos seis princípios originais estabelecidos pelo governo Obama [i] em 2009.
O relatório cita temas -chave adicionais que as políticas de integridade científica devem abordar, como melhorar a diversidade, a equidade, a inclusão e a acessibilidade (DEIA) e melhorar o potencial viés na inteligência artificial e no aprendizado de máquina.
O relatório reconhece: “Os algoritmos AI e ML podem ampliar vieses inerentes à fonte de dados subjacentes e podem conter seus próprios preconceitos inerentes que levam a achados imprecisos, conclusões e decisões políticas.A falta de transparência nos algoritmos ML pode minar a confiança nos resultados gerados e, finalmente, em ciências e governo.A concentração de dados e recursos de IA nas mãos do governo federal e organizações do setor privado pode criar desigualdades em quem pode conduzir pesquisas de ponta e quem pode acessar e usar os resultados desse trabalho.”
A Força -Tarefa aconselha que as políticas de integridade científica devem ajudar a garantir que:
O OSTP está planejando usar os dados do relatório para criar um plano de curto prazo para avaliar e aprimorar as políticas de integridade científica que os líderes da agência podem implantar em suas organizações.
A Força -Tarefa de Integridade Científica formada em maio de 2021 e inclui 57 membros de 29 agências.A força-tarefa “aborda ações de curto prazo e prioridade para fortalecer a integridade científica e também estabelece as bases para a coordenação de longo prazo dos esforços de integridade científica da agência federal.”
[i] Os seis princípios originais são:
Topics:AI, Compliance, Diversity, Research, StandardsSectors:Academia & Research, GovernmentTags:artificial intelligence, government, machine learning, science, scientific integrity
