Gabriela Ramos, directora general adjunta de la Unesco: “La inteligencia artificial parece estar aumentando la desigualdad”

1K vistas
lectura 4 mins
Gabriela Ramos , directora general adjunta de la UNESCO para las Ciencias Sociales y Humanas.

La Unesco ha llamado a implementar sus recomendaciones sobre la ética de la inteligencia artificial para evitar su mal uso. Ramos fue entrevistada por Noticias ONU sobre el impacto global del boom de la IA. “La pregunta fundamental que nos tenemos que hacer en un mundo altamente desigual es si estas tecnologías nos van a ayudar a reducir esas desigualdades o si las van a aumentar”, agregó.

La directora general adjunta de la UNESCO para las Ciencias Sociales y Humanas, Gabriela Ramos, conversó con Noticias ONU sobre los beneficios y riesgos de la Inteligencia Artificial y sobre la necesidad de regulación y gobernanza del mundo digital.

Suscríbete a nuestro newsletter

Al referirse a la moratoria solicitada, Gabriela Ramos la consideró poco realista y explicó que el propósito de esa petición coincide con lo que ha planteado la UNESCO desde hace dos años en su Recomendación sobre la Ética de la Inteligencia Artificial.

-¿Cómo define la inteligencia artificial la Unesco?

-La inteligencia artificial es la capacidad que están adquiriendo las computadoras con base en una disponibilidad mayúscula de datos de almacenamiento, de datos en la nube y de modelos computacionales muy poderosos de realizar actividades que se acercan a la inteligencia humana. Son capaces de producir análisis, reconocer patrones de comportamiento, hacer predicciones y recomendaciones.

Estamos frente a una tecnología que, además, es muy difundida y afecta todos los rubros de nuestra vida. No es un sector, no es una herramienta, es una tecnología que permea en todos los sectores, en toda la economía, en toda la sociedad, muy, muy difundida, en todo el mundo.

-¿Cuál es la importancia que tiene y cuáles son los beneficios que nos aporta?

-Es un apoyo fundamental para los objetivos en las empresas, en los gobiernos. Por ejemplo, sin la inteligencia artificial, nunca hubiéramos podido elaborar cuatro vacunas del COVID, porque con la capacidad de las computadoras pudimos hacer un análisis mucho más rápido del virus y tener análisis que a los seres humanos nos hubieran tomado mucho más tiempo.

Lo mismo que en la descodificación de los genes. Hubiera tomado a los seres humanos años y años realizar ciertos análisis, la velocidad con la cual esta tecnología está avanzando estos análisis es fundamental. Y luego, nos sirve para manejar sistemas. Son tecnologías que optimizan y maximizan los procesos, mejoran los procesos de manera que resultan mucho más eficientes y de ahí que, por ejemplo, uno tenga grandes expectativas de que nos puedan ayudar con el cambio climático, nos pueden ayudar a manejar mejor el sistema de alimentación mundial. Nos pueden ayudar a manejar mejor el consumo energético o planear la cuestión de los desastres naturales, que ya lo están haciendo en la actualidad.

Hay una contribución fundamental que puede hacer esta tecnología, además de todo lo demás que nos ha hecho la vida más fácil. Uno ya puede acceder al internet y tener muchas respuestas y tener muchos apoyos y vivir una vida mucho más cómoda. Es muy impresionante lo que nos pueden dar y lo que nos han dado que no se ve: optimizan y maximizan los sistemas bancarios y manejan los sistemas energéticos.

-Tiene muchas ventajas, indudablemente; sin embargo, numerosos expertos en derechos humanos y científicos, la propia Unesco, han advertido de los riesgos que supone…

-Lo que decimos en la Unesco es que éste no es un debate tecnológico, porque mucha gente quiere ver esto como un debate tecnológico, que tenemos que enfocarnos a las tecnologías, como si las tecnologías nos cayeran del cielo y no fueran una hechura de nosotros, de los seres humanos. La pregunta fundamental que nos tenemos que hacer en un mundo altamente desigual -que es uno de los legados del modelo económico que hemos seguido, pero también del COVID, etcétera-, es si estas tecnologías nos van a ayudar a reducir esas desigualdades o si las van a aumentar.

Con la información que tenemos hasta el momento, parecería que las están aumentando o al menos no están siendo utilizadas para reducir las brechas porque tenemos la mitad de la población del mundo que, o no está conectada a internet, o está conectada a un internet de baja calidad, o no tiene las competencias para utilizar las tecnologías de una mejor manera. Ya sólo con eso hay que hacer un esfuerzo enorme para que no sea una discusión de países con un nivel socioeconómico alto o mediano alto, sino que sea una discusión para todos.

Las tecnologías tienen el modelo económico en el cual se están desarrollando, están altamente concentradas. El último reporte de Stanford nos indica que Estados Unidos y China desarrollan el 80% de estas tecnologías. ¿Y qué es lo que sucede con ello? Que la falta de diversidad y de inclusión en el desarrollo de las tecnologías arroja resultados discriminatorios, llegan al mercado con equipos de inteligencia artificial que no son diversos, con ciertos sesgos, con ciertas formas de ver la vida, con bases de datos que no son representativos.

Porque si la mitad del mundo no está conectado, los datos no son de todo el mundo, son de ciertos grupos que pueden estar representados y los algoritmos pueden ser opacos y sesgados. Esto puede y ya está causando daño. Lo hemos visto, por ejemplo, con las tecnologías de reconocimiento facial que fueron como muy visibles, en donde tenían más problemas para reconocer gente de color oscura o mujeres, que hombres blancos. ¿Y por qué? Porque se les entrenó así, los algoritmos son mecanismos para entrenar a las computadoras a reconocer ciertos patrones. Si los patrones son de un hombre blanco de cierta región, evidentemente está reproduciendo los sesgos más allá de la utilización negativa, y estoy hablando simplemente de estos problemas inherentes que no tienen un objetivo negativo.

Cuando hablas de la utilización y la manipulación de los datos, la desinformación, y el objetivizar a la gente, o el espionaje masivo, o la notación social o la manipulación neuro cognitiva, esos ya son problemas mayores, pero también tienen que ver con una falta de regulación.

Para nosotros el tema no es la tecnología, es la sociedad y es la gobernanza de las tecnologías.

Suscríbete a nuestro newsletter