La incorporación de inteligencia artificial (IA) en el ámbito público en México ha experimentado un notable aumento en tiempos recientes. No obstante, este progreso tecnológico ha venido con inquietudes sobre la claridad y la responsabilidad en su aplicación dentro de las entidades del gobierno.
Situación actual de la IA en el ámbito público mexicano
Un grupo de investigadores del Centro de Investigación y Docencia Económicas (CIDE) ha encontrado no menos de 119 aplicaciones de IA funcionando en los tres poderes de la Unión y en las diversas instancias del gobierno en México. Estas herramientas incluyen desde chatbots para atención al público hasta sistemas de análisis de datos para apoyar la toma de decisiones. No obstante, lograr acceso a información específica sobre estas aplicaciones ha resultado complicado debido a la falta de transparencia y a la reticencia de ciertas entidades a ofrecer datos claros sobre su utilización y operación.
Investigadores del Centro de Investigación y Docencia Económicas (CIDE) han identificado al menos 119 aplicaciones de IA operando en los tres poderes de la Unión y en los tres niveles de gobierno en México. Estas herramientas abarcan desde chatbots para atención ciudadana hasta sistemas de análisis de datos para la toma de decisiones. Sin embargo, obtener información detallada sobre estas aplicaciones ha sido un desafío debido a la opacidad y la resistencia de algunas instituciones a proporcionar datos claros sobre su uso y funcionamiento.
Con el propósito de impulsar la transparencia, académicos del CIDE han creado un registro de algoritmos empleados por el sector público en México. Este esfuerzo tiene como objetivo documentar las aplicaciones de IA en diversas instituciones y subrayar los obstáculos para acceder a información esencial sobre su uso, regulación y fines. Durante el proceso de obtención de datos, se enviaron cerca de 2,200 solicitudes de transparencia a entidades gubernamentales. Sin embargo, muchas dependencias mostraron reticencia a la hora de proveer información o respondieron de forma ambigua. En ciertas ocasiones, las instituciones solo admitieron el uso de IA tras interponer recursos de revisión ante los entes de transparencia. Estados como el Estado de México y Nayarit se destacaron por su falta de respuesta generalizada.
Mala información y falta de entendimiento sobre la IA
Desinformación y falta de comprensión sobre la IA
Otro problema identificado es la falta de conocimiento dentro de las propias instituciones sobre qué constituye una aplicación de IA. En muchas respuestas a solicitudes de transparencia, las dependencias listaron herramientas de software tradicional, como suites de oficina o programas de ciberseguridad, como si se tratara de inteligencia artificial. En total, 223 aplicaciones reportadas no cumplían con los criterios básicos para ser consideradas IA, lo que refleja un problema de desinformación incluso en áreas de tecnología de la información dentro del gobierno.
El empleo de IA en el ámbito público ha dado pie a discusiones éticas relacionadas con la privacidad, la transparencia, la rendición de cuentas y el derecho al acceso a la información. La falta de claridad en los algoritmos puede minar la confianza de los ciudadanos en estas herramientas, especialmente si no se conocen los criterios que guían su funcionamiento o si existen sesgos que podrían desembocar en decisiones discriminatorias. Por ejemplo, durante la pandemia de COVID-19, se adoptaron chatbots como «Susana Distancia» y «Dr. Armando Vaccuno» para proporcionar información a la población. No obstante, surgieron inquietudes éticas sobre la transparencia y privacidad en su implementación, lo que resultó en una baja confianza y menor uso por parte de la población.
Urgencia de un marco normativo apropiado
Necesidad de un marco regulatorio adecuado
La falta de transparencia en el uso de IA por parte de los gobiernos resalta la necesidad de establecer marcos regulatorios que garanticen la auditabilidad y responsabilidad en el uso de estas tecnologías. Es esencial analizar las legislaciones en diferentes ámbitos e identificar cómo podrían ser utilizadas adecuadamente para garantizar que la implementación de IA respete los derechos de la ciudadanía y opere de manera ética y transparente.