El organismo internacional impulsa acuerdos globales para garantizar que el desarrollo de la Inteligencia Artificial (IA) respete los derechos humanos, fortalezca la educación y reduzca las desigualdades.
Expertos señalan que actualmente no se puede negar que la IA está cada vez más inmersa en la vida personal y profesional de los seres humanos. En esta línea, la ONU defiende la idea de que las personas deben estar en el centro de este debate.
Sobre esto, el Secretario General de la ONU, António Guterres, en 2024 durante un discurso en el Consejo de Seguridad afirmó que el destino de la humanidad no debe quedar en manos de la “caja negra” de cualquier algoritmo. A su vez, insistió en la necesidad de supervisión y control en las decisiones relacionadas a la IA para proteger los derechos humanos.
Es por ello que el sistema de las Naciones Unidas trabaja para llevar adelante una forma de gobernanza global ética de la IA, basándose en los lineamientos y las recomendaciones inscriptas en el Pacto Digital Global.
El Pacto Digital Mundial y las reglas del futuro tecnológico
El Pacto Digital de la ONU es una iniciativa impulsada para establecer principios, normas y compromisos internacionales sobre el futuro de la gobernanza digital. Surgió en el marco de un proceso de reforma del sistema multilateral vinculado a la tecnología y forma parte del marco más amplio de la Cumbre del Futuro.
El objetivo central de este acuerdo es establecer reglas comunes para que el desarrollo digital, incluida la IA, respete los derechos humanos, reduzca las desigualdades y fortalezca la cooperación internacional.
Una de las mayores preocupaciones de especialistas a nivel mundial es la divulgación de información falsa y engañosa utilizando plataformas digitales y la IA como herramientas para crear contenidos que generen interacción, antes que la precisión o la veracidad de los hechos.
Desde la ONU destacan que si bien las tecnologías de verificación de datos han avanzado, “las plataformas digitales y los algoritmos de IA aún carecen de mecanismos confiables para confirmar la legitimidad del material de manera regular”. La organización remarca que las distintas plataformas y jurisdicciones tienen diversos procedimientos de verificación de datos, lo que implica que aún cuando se encuentra material inexacto o falso, puede llevar horas o días rectificarlo.
En este aspecto, la UNESCO señala que los sistemas de IA muestran resultados sesgados, no son neutrales, ya que los buscadores priorizan los resultados con mayor cantidad de clics, dependiendo de las preferencias de usuario. Es por eso que un motor de búsqueda mantiene los prejuicios del mundo real y los realza en línea.
IA y educación, la alfabetización del siglo XXI
Las Naciones Unidas resaltan el rol fundamental de la educación para garantizar un futuro próspero para las personas, que también se encuentra atravesada por la Inteligencia Artificial y la integración de sus herramientas al sistema educativo. La organización destaca que la alfabetización de estudiantes y docentes en relación a la IA es de suma relevancia.
En este sentido, Shafika Isaacs, jefa de Tecnología e Inteligencia Artificial en Educación de la UNESCO explica que el sistema educativo global necesitará 44 millones de profesores para 2030 y que es un error pensar que se necesita invertir más en IA que en los docentes. Isaacs afirma que la IA puede gestionar la transferencia de datos, pero no el desarrollo humano, “la educación es fundamental para una experiencia social, humana y cultural”, dice.
Así como la ONU, el enfoque de la UNESCO sostiene que la IA debe estar centrada en el ser humano, con el objetivo de solucionar las desigualdades actuales en cuanto al acceso al conocimiento, la investigación y la garantía de que la IA no amplíe la brecha tecnológica entre los países. La organización señala que una “IA para todos” debe permitir que las personas puedan aprovechar la herramienta y acceder a sus frutos en pleno proceso de la revolución tecnológica actual.
La UNESCO también viene trabajando en crear herramientas para el uso ético de la IA. En el marco del Consenso de Beijing, elaboró una guía para las personas a cargo de formular políticas educativas en materia de inteligencia artificial y la debida formación de estos funcionarios. El objetivo principal de la organización es compartir lineamientos conjuntos en cuanto a la herramienta, las oportunidades y desafíos que ella proporciona, así como las competencias básicas necesarias en pleno auge de la IA.
Además del plano educativo, las Naciones Unidas advierten que si no se amplía el acceso a la tecnología la brecha, tanto dentro de los países como entre ellos podría profundizarse.
Si bien se celebra que gigantes tecnológicos impulsen la investigación y generen nuevas herramientas, el acceso compartido de los beneficios de la IA debe ser para todos los seres humanos y no limitar su acceso solo a un grupo privilegiado de la sociedad.