NECESARIO REGULACIÓN Y USO ÉTICO DE LA INTELIGENCIA ARTIFICIAL: EL COLEGIO DE MÉXICO

El auge de la inteligencia artificial avanzó de forma vertiginosa en el último año y plantea la necesidad de una regulación y el  uso ético de la misma, destacaron especialistas de El Colegio de México durante el coloquio “¿El Leviatán artificial? Inteligencia artificial en el mundo hispanoamericano”, en el marco de la Cátedra México-España del Colmex y El Colegio Nacional.

Durante la inauguración, Ana Covarrubias, presidenta de esa institución, aseguró que es indispensable promover un diálogo interdisciplinario entre las ciencias sociales y las humanidades para lograr claridad sobre qué es la Inteligencia Artificial y cómo utilizarla éticamente.

“En la actualidad, la IA es una herramienta que permea gran parte de nuestras actividades cotidianas. Su incidencia en nuestro trabajo académico es innegable. De ahí la importancia de que las instituciones educativas nos convirtamos en espacios de reflexión y referentes para el uso ético de la IA”, dijo.

La presidenta del Colmex destacó las oportunidades de la IA para procesar grandes volúmenes de información, optimizar procesos y apoyar la toma de decisiones en ámbitos como la salud, la educación, la investigación científica y la administración pública.

Sin embargo, advirtió que la inteligencia artificial llega con una “frontera muy borrosa entre beneficios y riesgos” asociados a la privacidad de los datos, los sesgos algorítmicos, la desinformación, la manipulación de la opinión pública, la vigilancia digital y la erosión de la confianza ciudadana.

Señaló también que la IA puede contribuir a la desigualdad por la concentración del poder tecnológico y las brechas digitales, además de transformar los mercados laborales y demandar nuevas competencias profesionales.

En el ámbito científico, Covarrubias afirmó que la IA está acelerando la generación de conocimiento, pero obliga a reflexionar sobre integridad académica, transparencia metodológica, autoría intelectual y ética en la investigación.

Por su parte Fernando Nieto, profesor – investigador de El Colegio de México, centró su análisis en la adopción de Inteligencia Artificial (IA) en la administración pública, cuestionando la promesa de que la tecnología resolverá por sí sola todos los problemas de los Estados contemporáneos.

Explicó que la IA resulta atractiva para los gobiernos de todo el mundo porque promete mayor eficiencia, imparcialidad, personalización y desburocratización.

Y es que esta promesa “se parece a la que ha acompañado durante siglos la incorporación de nuevas tecnologías administrativas, que no han eliminado los dilemas políticos, sino que los han desplazado hacia espacios menos visibles” señaló.

Nieto señaló que los sistemas de IA pueden proyectar una imagen de eficiencia, cercanía y atención mediante notificaciones y respuestas automáticas, sin que ello implique necesariamente resolver problemas estructurales de la administración pública.

A este fenómeno lo definió como “responsividad performativa” donde el gobierno genera una apariencia de atención y respuesta al ciudadano que no necesariamente se traduce en la construcción de capacidades administrativas reales.

Enfatizó que, al delegar decisiones críticas a sistemas desarrollados por empresas privadas, los dilemas políticos contemporáneos no desaparecen, sino que se trasladan en las 'entrañas' de los algoritmos.

“Así, el uso de IA para resolver problemas burocráticos del Estado plantea un problema de rendición de cuentas, pues la ciudadanía pierde la capacidad de impugnar decisiones que ya no emanan de funcionarios con responsabilidades específicas, sino de un código de programación o algoritmo cuya lógica no es auditable ni está sujeta al escrutinio público” precisó.

“La política no desaparece, sino que se traslada”, concluyó Nieto, al señalar que con la IA las decisiones de gobierno pueden quedar incorporadas en sistemas más rápidos, usualmente más opacos y difíciles de someter al escrutinio democrático.