A principios de este mes, la Fuerza de Tarea de Integridad Científica de la Oficina de Ciencia y Tecnología de la Casa Blanca (OSTP) publicó un informe titulado "Protección de la integridad de la ciencia del gobierno."Si bien es amplio y general, el informe llama la atención sobre los desafíos particulares asociados con la inteligencia artificial y el aprendizaje automático.
El informe de OSTP es una respuesta a la directiva del presidente Biden para garantizar que los legisladores tomen decisiones basadas en evidencia científica y datos con el objetivo de restaurar la confianza del público en el gobierno.
El documento identifica los principios de integridad científica y las mejores prácticas destinadas a verificar que “la ciencia se realiza, gestiona, comunica y se usa de manera que preserva su precisión y objetividad y protegida de la supresión, manipulación e influencia inapropiada, incluida la interferencia política.."
El prólogo del informe, firmado por el director de OSTP, Eric Lander, subdirectora de OSTP para la Ciencia y la Sociedad, Alondra Nelson y la subdirectora de OSTP para Clima y Medio Ambiente Jane Lubchenco, enumera los cinco nuevos principios que guiarán la política de integridad científica de la agencia:
Estos se basan en los seis principios originales establecidos por la administración Obama [i] en 2009.
El informe cita temas clave adicionales que las políticas de integridad científica deben abordar, como mejorar la diversidad, la equidad, la inclusión y la accesibilidad (Deia) y mejorar el sesgo potencial en la inteligencia artificial y el aprendizaje automático.
El informe reconoce: “Los algoritmos AI y ML pueden aumentar los sesgos inherentes a la fuente de datos subyacente y pueden contener sus propios sesgos inherentes que conducen a hallazgos inexactos, conclusiones y decisiones políticas.La falta de transparencia en los algoritmos ML puede socavar la confianza en los resultados generados y, en última instancia, en la ciencia y el gobierno.La concentración de datos y capacidades de IA en manos del gobierno federal y las organizaciones del sector privado puede crear desigualdades en quién puede realizar investigaciones de vanguardia y quién puede acceder y utilizar los resultados de dicho trabajo."
El grupo de trabajo aconseja que las políticas de integridad científica deben ayudar a garantizar que:
OSTP planea utilizar los datos del informe para crear un plan a corto plazo para evaluar y mejorar las políticas de integridad científica que los líderes de la agencia pueden implementar dentro de sus organizaciones.
La Fuerza de Tarea de Integridad Científica se formó en mayo de 2021 e incluye 57 miembros de 29 agencias.El grupo de trabajo “aborda acciones a corto plazo y de alta prioridad para fortalecer la integridad científica y también establece las bases para la coordinación a largo plazo de los esfuerzos de integridad científica de la agencia federal."
[i] Los seis principios originales son:
Topics:AI, Compliance, Diversity, Research, StandardsSectors:Academia & Research, GovernmentTags:artificial intelligence, government, machine learning, science, scientific integrity
