Desafío planteado: guía para afrontar "los efectos conocidos y desconocidos de la inteligencia artificial”

Los Estados miembro de la Unesco pidieron cumplir con normas internacionales que garanticen mejorar el acceso libre al conocimiento científico. Además, realizaron un llamado a invertir en educación y a proteger la libertad de prensa.

Desafío planteado: guía para afrontar "los efectos conocidos y desconocidos de la inteligencia artificial"

Foto: pixabay.com

Ciencia y tecnología

Tecnología

Unidiversidad

Unidiversidad

Publicado el 25 DE NOVIEMBRE DE 2021

Los Estados miembro de la Unesco cuentan desde ahora con una guía para “afrontar de manera responsable los efectos conocidos y desconocidos de la inteligencia artificial” en las personas, las sociedades y el medio ambiente y los ecosistemas. Ese es el objetivo de la “Recomendación sobre la Ética de la Inteligencia Artificial”, una suerte de declaración universal para el uso de estos sistemas que, durante la conferencia general celebrada este miércoles, fue adoptada por los 193 países del organismo.

La guía contempla los principios que deben inspirar el desarrollo de tecnologías tan controvertidas como el reconocimiento facial, la igualdad de género, el cambio climático y la educación. Aborda también temas menos polémicos pero igual de importantes, como el potencial efecto de los sistemas de recomendación sobre la diversidad cultural o lingüística.

Tras la presentación del informe en París, realizada por la directora general de la Unesco, Audrey Azoulay, Gabriela Ramos –directora general adjunta de la Unesco para el Sector de Ciencias Sociales y Humanas– y Dafna Feinholz –jefa de la sección de Bioética y Ética en Ciencia y Tecnología– encabezaron una conferencia de prensa para la región de América Latina y el Caribe. En la exposición, afirmaron que la IA es omnipresente y hace posibles muchas de nuestras rutinas diarias, desde la reserva de un vuelo, la conducción de automóviles sin conductor, la personalización de nuestras noticias matutinas, la detección del cáncer, la construcción de entornos inclusivos para personas con discapacidad, y que puede ayudar a combatir problemas globales como el cambio climático o el hambre en el mundo, incluso desarrollar vacunas como la de la COVID-19, pero la tecnología también está trayendo consigo retos sin precedentes.

 

Foto: Gabriela Ramos, directora general adjunta de la Unesco para el Sector de Ciencias Sociales y Humanas

“Asistimos a un aumento de los prejuicios de género y étnicos, a amenazas significativas contra la privacidad, la dignidad y la capacidad de acción, a los peligros de la vigilancia masiva y al aumento del uso de tecnologías de la IA poco fiables en la aplicación de la ley, por nombrar algunos. Hasta ahora, no había normas universales que dieran respuesta a estos problemas”, sostuvo Gabriela Ramos.

Por eso, en 2018, la Unesco lanzó un ambicioso proyecto: dar al mundo un marco ético para el uso de la inteligencia artificial. Tres años después, gracias a la movilización de cientos de expertos de todo el mundo y a intensas negociaciones internacionales, los 193 Estados miembro de la Unesco acaban de adoptar oficialmente este marco ético.

“Este texto establece por primera vez un marco normativo mundial para el uso de la inteligencia artificial. Se basa para ello en tres pilares: el respeto de los derechos humanos, el Estado de derecho y la lucha contra la discriminación”, expresó Ramos en la conferencia de prensa.

El documento de 30 páginas, que Audrey Azoulay describió como un “texto histórico”, no es legalmente vinculante. Sin embargo, desde la Unesco esperan que se convierta en una referencia global para el desarrollo y uso ético de esta tecnología.

“En este contexto, conviven ya numerosos marcos y guías desarrollados por organizaciones de diferentes niveles, desde la iniciativa de entidades como la OCDE hasta propuestas como la carta de derechos digitales adoptada por el gobierno español el pasado 14 de julio. La Unesco pide a sus 193 Estados miembros que tomen todas las medidas necesarias para aplicar este marco ético. La Organización evaluará periódicamente su aplicación, pidiendo a los Estados que informen sobre sus progresos y prácticas en este ámbito. Estos resultados serán analizados por expertos y sometidos a debate público de forma transparente”, precisó Azoulay.

En la redacción del documento participaron grupos de expertas y expertos formados por representantes de Google, Facebook, Microsoft, las Universidades de Stanford y Nueva York, la Academia China de Ciencia y Tecnología. En septiembre del año pasado, se presentó un primer borrador y se abrió el plazo para que los países de la Unesco presentasen sus comentarios y observaciones sobre el texto, que ha seguido revisándose hasta la última conferencia general.

 

Claves de la recién adoptada recomendación

1. Protección de datos

La Recomendación sobre la ética de la IA pide que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas una mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales. Afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos.

También incluye acciones para mejorar la protección de los datos, y el conocimiento y derecho del individuo a controlar sus propios datos. Además, aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir.

2. Prohibición de los marcadores sociales y la vigilancia masiva

El informe prohíbe explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva. Estas tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales, y se utilizan de forma generalizada.

Asimismo, subraya que, a la hora de desarrollar marcos normativos, los Estados miembro deben tener en cuenta que la responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas.

 

3. Ayudar a supervisar y evaluar

La Recomendación también sienta las bases de las herramientas que ayudarán a su aplicación. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente. La metodología de evaluación del grado de preparación ayuda a los Estados miembro a evaluar su grado de preparación en términos de infraestructura jurídica y técnica.

Esta herramienta ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas que deben adoptarse para garantizar la aplicación de la ética en la práctica. Además, la Recomendación anima a los Estados miembro a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo.

4. Evaluar el impacto directo e indirecto sobre el medioambiente

El proyecto también subraya que los países miembro deben favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que estas se conviertan en una herramienta más destacada en la lucha contra el cambio climático y en el tratamiento de los problemas medioambientales.

La guía pide a los gobiernos que evalúen el impacto medioambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA. Esto incluye su huella de carbono, el consumo de energía y el impacto ambiental de la extracción de materias primas para apoyar la fabricación de tecnologías de IA. También pretende reducir el impacto medioambiental de los sistemas de IA y las infraestructuras de datos. Incentiva a los gobiernos a invertir en tecnología verde y, si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen.

“Las decisiones que afectan a millones de personas deben ser justas, transparentes y contestables. Estas nuevas tecnologías deben ayudarnos a afrontar los principales retos de nuestro mundo actual, como el aumento de las desigualdades y la crisis medioambiental, y no profundizar en ellos”, completó Ramos.

Fuente: Unesco

unesco qué es la inteligencia artificial guía ética sobre la inteligencia artificial