Ética de la UNESCO sobre el uso de la IA

La UNESCO históricamente ha establecido estándares globales que optimizan los beneficios de los descubrimientos científicos, con el fin de mitigar los riesgos potenciales para asegurar que los nuevos avances contribuyan a un mundo más inclusivo, sostenible y pacífico. Por ello, ha señalado desafíos emergentes en áreas como la ética, especialmente en el caso de la IA.

Resulta importante reconocer que la IA ha generado nuevas oportunidades a nivel global: desde facilitar los diagnósticos de salud hasta aumentar la eficiencia laboral mediante la automatización de tareas. Por otro lado, los rápidos cambios de la IA generan dilemas éticos significativos en vista que pueden reproducir o ampliar los prejuicios y desigualdades de grupos tradicionalmente marginados.

El 23 de noviembre de 2021, la UNESCO publicó el primer conjunto de normas sobre la ética de la IA: Recomendación sobre la ética de la inteligencia artificial. Tal como ocurrió hace más de seis siglos con la invención de la imprenta, la IA está transformando vertiginosamente las formas de trabajar, socializar y vivir. Aunque estas tecnologías ofrecen grandes beneficios, se deben establecer pautas éticas dirigidas a atenuar la perpetuación de la discriminación sistémica y los prejuicios, puesto que profundizan las divisiones sociales y atentan contra las libertades fundamentales y los derechos humanos.

Las recomendaciones se basan en cuatro principios fundamentales:

Respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana. Todas las etapas del desarrollo de sistemas de la IA deberán proteger y promover estos principios. El respeto a la dignidad de las personas implica reconocer el valor intrínseco del ser humano, sin importar su raza, color, origen, género, edad, idioma, religión, opiniones políticas, nacionalidad, situación económica o social, discapacidad y cualquier otra razón. Ninguna persona o comunidad debe sufrir daños o sometimientos, ya sean de carácter físico, económico, social, político, cultural o mental durante el desarrollo y uso de sistemas de IA. Asimismo, al recibir asistencia o servicios de la IA, las personas no deben ser tratadas como objetos ni debe menoscabarse su dignidad humana.
Garantizar la diversidad y la inclusión. La promoción de la diversidad e inclusión debe asegurarse durante la implementación y desarrollo de los sistemas de IA conforme al derecho internacional, especialmente en materia de derechos humanos. Esto puede lograrse fomentando la participación activa de todas las personas o grupos, sin importar su raza, color, origen, género, edad, idioma, religión, opiniones políticas, nacionalidad, situación económica o social, discapacidad, o cualquier otra razón. Mediante la cooperación internacional, resulta necesario abordar la falta de infraestructura, educación, habilidades tecnológicas y marcos legales que afectan a ciertas comunidades desaventajadas y particularmente, a los países en vías de desarrollo.
Vivir en sociedades pacíficas, justas e interconectadas. Quienes desarrollen y utilicen sistemas de IA deben promover sociedades pacíficas y justas, basadas en un futuro interconectado que beneficie a todos bajo principios alineados con los derechos humanos y las libertades fundamentales. Una convivencia pacífica e interconectada florece a través de la solidaridad, el cultivo de relaciones armoniosas y el cuidado del medioambiente.
Prosperidad del medioambiente y los ecosistemas. Quienes desarrollen y utilicen sistemas de IA deben cumplir con el derecho internacional y las normativas nacionales relevantes para la protección y restauración del medioambiente, en pos del desarrollo sostenible. Resulta crucial minimizar el impacto ambiental de la IA, reduciendo su contribución al cambio climático y otros riesgos ambientales, promoviendo la utilización sostenible de los recursos naturales.

Para más información sobre las recomendaciones sobre el uso ético de la IA de la UNESCO consulte Recomendación sobre la ética de la inteligencia artificial.

La vertiginosa aparición de herramientas de IA generativa (IAGen) de libre acceso y la velocidad de sus actualizaciones iterativas superan la capacidad de adaptación de los marcos regulatorios nacionales. En ausencia de regulaciones adecuadas para la IAGen, la privacidad de los datos queda desprotegida tanto en el caso de los usuarios como en las instituciones educativas. Para la UNESCO, la IAGen desregulada presenta serias implicaciones para la educación y la investigación:

Incrementa la brecha digital. La rápida adopción de la IAGen en países tecnológicamente avanzados ha intensificado la generación y procesamiento de datos. Aquellas comunidades o países con barreras y limitaciones de acceso a estas nuevas tecnologías aumentan la brecha digital, mientras que al mismo tiempo se crean nuevas formas de desigualdad.
Evade las regulaciones nacionales. La mayoría de los desarrolladores de IAGen no permiten que sus sistemas se sometan a revisiones académicas rigurosas, dificultando la evaluación de sus riesgos potenciales en los entornos educativos. El acelerado desarrollo de la IA también dificulta la comprensión y regulación sobre asuntos ético-legales como la protección de los datos de individuos e instituciones.
Utiliza datos sin el consentimiento del propietario. La IAGen frecuentemente extrae datos sin el consentimiento de los propietarios. Esto ha provocado demandas judiciales y acusaciones por violaciones a la propiedad intelectual. Los investigadores, docentes y estudiantes deben conocer los derechos de autor y propiedad intelectual y, de igual forma, comprobar si las herramientas de IAGen infringen estas normativas.
Carece de transparencia en la generación de resultados. Las Redes Neuronales Artificiales son denominadas «cajas negras» porque los procesos mediante los cuales generan los resultados son, en muchos casos, difíciles de explicar o incluso inexplicables. Esta falta de transparencia impide inspeccionar su funcionamiento interno para determinar cómo obtuvieron un resultado en particular y el porqué se tomaron unas decisiones en concreto.
Contamina el Internet mediante sesgos y desinformación. La IAGen con frecuencia genera resultados que incluyen lenguaje discriminatorio y ofensivo debido a la extracción de datos de la web. Además, genera contenidos imprecisos, incorrectos y, en muchas ocasiones, ficticios. La propagación de datos contaminados por las redes puede tener un impacto negativo en la educación y el desarrollo de modelos futuros, generando un círculo vicioso de sesgos y errores.
Incomprensión de la realidad. A pesar de generar contenidos de apariencia precisa y convincente, a menudo contienen errores y sesgos, convirtiéndose en información especialmente peligrosa para estudiantes sin conocimientos previos en la evaluación crítica de la información. La IAGen carece de un lenguaje propio que le permita otorgarle significado y valor a los elementos que componen nuestra realidad física. Son incapaces de comprender el texto, puesto que solo identifica algoritmos y patrones.
Reduce la diversidad. El adiestramiento de herramientas como ChatGPT reflejan los valores de sus creadores y del mundo posindustrial. Por consiguiente, pueden perpetuar sesgos e incrementar la marginalización de comunidades históricamente subrepresentadas. Como consecuencia, las perspectivas y preocupaciones de estas comunidades no están bien representadas en los datos de entrenamiento de los modelos.
Genera deepfakes más convincentes. La IAGen posibilita alterar o manipular imágenes y videos existentes con el fin de generar contenido que, a pesar de ser falsos, resultan sumamente realistas y persuasivos (deepfakes). Esto facilita la creación y difusión de noticias falsas (fake news). Los deepfakes generados por la IA son cada vez más sofisticados y difíciles de distinguir del contenido real, lo que aumenta la propagación de desinformación falsa con graves consecuencias éticas y legales.

La primera guía de la UNESCO sobre IAGen en educación e investigación se enfoca en la planificación de políticas a largo plazo para asegurar una perspectiva humanista de estas tecnologías, centrando al ser humano como eje en el desarrollo y uso de estos sistemas. Por consiguiente, para aprovechar los beneficios de la IAGen en educación e investigación, la guía presenta ocho medidas para la creación de políticas adecuadas:

Promover la inclusión, la equidad y la diversidad lingüística y cultural. Deben reconocerse las personas al margen de la conectividad para proveer un acceso equitativo a las aplicaciones de IA junto al desarrollo de competencias digitales. Además, deben aplicarse métodos de validación que garanticen que los datos y algoritmos no contengan sesgos ni discursos ofensivos, respetando la diversidad cultural y lingüística.
Proteger la acción humana. Aunque la IAGen tiene el potencial de ampliar el pensamiento humano, también conlleva el riesgo de comprometer el desarrollo de habilidades intelectuales y debilitar el pensamiento crítico. Por lo tanto, es fundamental asegurar que la intervención humana siga dirigiendo los procesos educativos.
Monitorear y validar los sistemas de IA generativa para la educación. El desarrollo y la implementación de la IA debe ser ético por diseño. Por consiguiente, deben establecerse mecanismos para evaluar la efectividad y la ética de las herramientas de IA en contextos educativos.
Desarrollar competencias en IA. Para desarrollar la alfabetización en IA entre los estudiantes, deben incluirse currículos que aborden tanto los beneficios como los desafíos éticos de la IAGen para promover su uso responsable. Además, resulta crucial ofrecer programas de formación continua para trabajadores y ciudadanos mayores, garantizando que todos tengan la oportunidad de adquirir nuevas habilidades en un entorno laboral en constante evolución.
Desarrollar las capacidades de docentes e investigadores para hacer un uso adecuado de la IA generativa. El proceso educativo debe promover la interacción humana, asegurando que los docentes mantengan su rol como facilitadores del pensamiento crítico. Para cumplir estos objetivos, se debe capacitar a educadores e investigadores en la utilización responsable de la IAGen. Además, es necesario realizar una revisión continua de las competencias que los docentes necesitan para comprender y aplicar la IA de manera eficaz en los procesos de aprendizaje. Esto implica integrar nuevos valores y habilidades tanto en los programas de formación inicial como en la formación continua del profesorado.
Promover opiniones diversas y la expresión plural de ideas. La IA no tiene la capacidad de comprender la realidad ni los textos que genera. Sus algoritmos crean contenido a partir de patrones extraídos de datos disponibles en la web. Como resultado, la IAGen tiende a reproducir los discursos dominantes presentes en el Internet, lo que puede socavar las voces y perspectivas minoritarias. Por ello, los educadores deben implementar políticas que valoren y den espacio a múltiples perspectivas, especialmente a aquellas subrepresentadas. Asimismo, la academia debe considerar la IAGen como una fuente rápida de información, pero también como una fuente poco confiable que requiere una evaluación minuciosa de sus respuestas.
Examinar localmente modelos de aplicaciones relevantes y crear una base acumulativa de evidencias. Las aplicaciones de IA en la educación deben priorizar las necesidades reales del sector. Para el diseño de futuras políticas, es fundamental efectuar pruebas y recopilar datos sobre el uso de la IAGen, generando así un cúmulo significativo de evidencia. Sumado a esto, deben adaptarse las herramientas de IA a los contextos locales y a las necesidades específicas de las comunidades, especialmente aquellas marginadas de las grandes economías posindustriales.
Considerar las implicaciones a largo plazo, de forma intersectorial e interdisciplinaria. Para evaluar el impacto futuro de la IAGen en la educación y la investigación se requiere un enfoque multidisciplinario y multisectorial. La colaboración de expertos de diversas áreas del conocimiento facilita la identificación temprana de riesgos potenciales. Esta distinción de implicaciones futuras puede minimizar posibles daños y, al mismo tiempo, aprovechar de manera más eficiente el potencial de la IAGen en entornos educativos.

Para más información puede consultar Guía para el uso de IA generativa en educación e investigación.

Según el informe Los efectos de la IA en la vida laboral de las mujeres, las estadísticas revelan una disparidad significativa debido a que las mujeres constituyen únicamente el 30 % de la comunidad investigadora global. Además, existe una brecha notable en el acceso a Internet, donde el 43 % de las mujeres no tienen conexión, en contraste con el 38 % de los hombres. Estas desigualdades se traduce en un menor acceso de las mujeres a mejores salarios, posiciones gerenciales y participación en carreras STEM (ciencia, tecnología, ingeniería y matemáticas). Frente a esta situación, emerge la necesidad de reducir estas diferencias, poniendo especial énfasis en las tecnologías emergentes. Abordar estos retos es fundamental para construir sociedades digitales inclusivas.

La UNESCO reconoce que la IA tiene el potencial de acrecentar o reducir estas desigualdades según como se implementen los usos y se apliquen las políticas. El informe Los efectos de la IA en la vida laboral de las mujeres presenta los siguientes hallazgos:

Reskilling y upskilling de trabajadoras. La transformación del mercado laboral impulsada por la IA está generando nuevas demandas y habilidades, especialmente en los campos de STEM. Para cerrar las brechas actuales de las mujeres a estas nuevas destrezas y entornos laborales, es fundamental que los gobiernos, las ONG, la academia, los sindicatos y el sector privado colaboren en programas de reskilling (apreder nuevas habilidades) y upskilling (mejorar y actualizar las habilidades aprendidas).
Incentivar mujeres en STEM. Un avance crucial sería aumentar la presencia de mujeres en el liderazgo del diseño y desarrollo de IA, lo cual requiere que gobiernos, instituciones, organizaciones y empresas respalden la educación de mujeres y niñas en campos STEM.
Tener en cuenta la complejidad contextual y cultural. Las tecnologías basadas en IA afectarán la vida laboral de las mujeres según el contexto cultural y geográfico, lo que incluye las diferencias en los mercados laborales, las economías y las normas de género. Este complejo panorama cultural debe considerarse sistemáticamente en la implementación y regulación de la IA.
Abordar el impacto de la IA desde múltiples sectores. Los gobiernos, empresas privadas, comunidades técnicas y la academia deben abordar y hacerse responsables del impacto de las herramientas y sistemas de IA. Resulta importante que los gobiernos promuevan políticas que consideren los efectos potenciales de la IA en grupos vulnerables, mientras que organizaciones e instituciones deben fomentar entornos laborales que impulsen la capacitación de las mujeres en las nuevas tecnologías.
Cómo se forman los estereotipos de género. El informe destaca la conexión entre los estereotipos de género en el trabajo remunerado y no remunerado entre las mujeres y de qué forma es representado en los sistemas de IA. Señala que los asistentes virtuales pueden reforzar estereotipos de género, especialmente en roles de cuidado. Se enfatiza la necesidad de considerar el papel de las mujeres en el trabajo y sus responsabilidades domésticas con el fin de crear entornos laborales equitativos al diseñar e implementar la IA.
Extender la investigación aplicada. Se necesita más investigación aplicada sobre el impacto de la IA en el trabajo, especialmente en la vida laboral de las mujeres, y para entender los efectos sociales de su uso extendido. El informe destaca cómo los sistemas de reclutamiento de IA afectan de manera diferente las oportunidades laborales de hombres y mujeres y señala la falta de estudios sobre el impacto de los sistemas de monitoreo de IA en las oportunidades de reconocimiento y ascenso de las mujeres.

Para más información, consultar Los efectos de la IA en la vida laboral de las mujeres.