La UNESCO históricamente ha establecido estándares globales que optimizan los beneficios de los descubrimientos científicos, con el fin de mitigar los riesgos potenciales para asegurar que los nuevos avances contribuyan a un mundo más inclusivo, sostenible y pacífico. Por ello, ha señalado desafíos emergentes en áreas como la ética, especialmente en el caso de la IA.
Resulta importante reconocer que la IA ha generado nuevas oportunidades a nivel global: desde facilitar los diagnósticos de salud hasta aumentar la eficiencia laboral mediante la automatización de tareas. Por otro lado, los rápidos cambios de la IA generan dilemas éticos significativos en vista que pueden reproducir o ampliar los prejuicios y desigualdades de grupos tradicionalmente marginados.
El 23 de noviembre de 2021, la UNESCO publicó el primer conjunto de normas sobre la ética de la IA: Recomendación sobre la ética de la inteligencia artificial. Tal como ocurrió hace más de seis siglos con la invención de la imprenta, la IA está transformando vertiginosamente las formas de trabajar, socializar y vivir. Aunque estas tecnologías ofrecen grandes beneficios, se deben establecer pautas éticas dirigidas a atenuar la perpetuación de la discriminación sistémica y los prejuicios, puesto que profundizan las divisiones sociales y atentan contra las libertades fundamentales y los derechos humanos.
Las recomendaciones se basan en cuatro principios fundamentales:
Para más información sobre las recomendaciones sobre el uso ético de la IA de la UNESCO consulte Recomendación sobre la ética de la inteligencia artificial.
La vertiginosa aparición de herramientas de IA generativa (IAGen) de libre acceso y la velocidad de sus actualizaciones iterativas superan la capacidad de adaptación de los marcos regulatorios nacionales. En ausencia de regulaciones adecuadas para la IAGen, la privacidad de los datos queda desprotegida tanto en el caso de los usuarios como en las instituciones educativas. Para la UNESCO, la IAGen desregulada presenta serias implicaciones para la educación y la investigación:
La primera guía de la UNESCO sobre IAGen en educación e investigación se enfoca en la planificación de políticas a largo plazo para asegurar una perspectiva humanista de estas tecnologías, centrando al ser humano como eje en el desarrollo y uso de estos sistemas. Por consiguiente, para aprovechar los beneficios de la IAGen en educación e investigación, la guía presenta ocho medidas para la creación de políticas adecuadas:
Para más información puede consultar Guía para el uso de IA generativa en educación e investigación.
Según el informe Los efectos de la IA en la vida laboral de las mujeres, las estadísticas revelan una disparidad significativa debido a que las mujeres constituyen únicamente el 30 % de la comunidad investigadora global. Además, existe una brecha notable en el acceso a Internet, donde el 43 % de las mujeres no tienen conexión, en contraste con el 38 % de los hombres. Estas desigualdades se traduce en un menor acceso de las mujeres a mejores salarios, posiciones gerenciales y participación en carreras STEM (ciencia, tecnología, ingeniería y matemáticas). Frente a esta situación, emerge la necesidad de reducir estas diferencias, poniendo especial énfasis en las tecnologías emergentes. Abordar estos retos es fundamental para construir sociedades digitales inclusivas.
La UNESCO reconoce que la IA tiene el potencial de acrecentar o reducir estas desigualdades según como se implementen los usos y se apliquen las políticas. El informe Los efectos de la IA en la vida laboral de las mujeres presenta los siguientes hallazgos:
Para más información, consultar Los efectos de la IA en la vida laboral de las mujeres.