La regulación de la IA es incierta, advierten académicos

CIUDAD DE MÉXICO, 13 de febrero de 2025.- La regulación de la inteligencia artificial (IA) es complicada y conlleva intereses económicos cuando se refiere al uso que hacen empresas, gobiernos y academia, dijo el consejero de Fundación UNAM e investigador emérito de esta casa de estudios, Jaime Urrutia Fucugauchi. 

Al abordar el tema en entrevista puntualizó: no la podrán decidir ni los gobiernos, pero el interés de normarla surge con desarrollos de tipo disruptivo como internet, telefonía celular y redes sociales. El problema es cómo se implementa, qué pasará con quienes no la cumplan o la transgredan. “Ojalá que las organizaciones internacionales como la ONU y los gobiernos de los países, actuando en conjunto, busquen soluciones para las aplicaciones destructivas, como la creación de drogas sintéticas, armamento y usos del crimen organizado”, argumentó.

Sobre la reciente Cumbre Mundial de la IA, celebrada en París, el universitario resaltó que es parte del interés generado con algunas plataformas, incluyendo la entrada de DeepSeek y otras con menor cobertura mediática. El encuentro buscó atraer a gobiernos, organizaciones internacionales, empresas, academias, artistas y sociedad civil, señaló Urrutia Fucugauchi. Asimismo, agregó que se han llevado a cabo diversas reuniones con diferentes objetivos e intereses. También hay en paralelo varios programas de apoyo a proyectos; se buscan planes de desarrollo y aplicaciones.

El científico expuso que uno de ellos, también en Francia, incluye al Foro de París sobre la Paz, el cual se efectuará en octubre del año en curso.

Acabar con los mitos

El universitario también participó en el ciclo Jueves de Ciencia. Nuestra nueva realidad, organizado por Fundación UNAM y transmitido por TVUNAM, en el que consideró que para utilizar bien las nuevas tecnologías primero debemos entenderlas. La IA es una de las áreas de investigación y desarrollo tecnológico que se ha caracterizado por su rapidez de cambio. Ante el presidente de Fundación UNAM, Dionisio Meade, apuntó: estas innovaciones generan capacidades y, al mismo tiempo, plantean dilemas cada vez más importantes.

“Queremos impulsar el interés en los jóvenes por las nuevas tecnologías y desarrollos en ciencia que ofrecen oportunidades, pero para usarlas bien primero debemos entenderlas”, insistió. Para el investigador del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas de la UNAM, Carlos Ignacio Hernández Castellanos, en el pasado se decía que era necesario aprender computación e inglés; luego que programación, pero hoy es la IA, aunque también ser críticos y preguntarnos qué hacemos y cuándo la usamos. “Su consumo responsable será vital para todos”.

En la actualidad, prosiguió, más que nunca necesitamos esa “vela en la oscuridad” que es la ciencia y ese conocimiento crítico, así como preguntarnos si lo que observamos es real o qué fue generado con IA, alertó el universitario. Hernández Castellanos recalcó que esta área ha captado la atención a partir del comienzo de ChatGPT. Antes y ahora las preguntas se repiten, por ejemplo, si viene a sustituirnos o a ayudarnos, qué va a pasar con los empleos o qué sucede con la parte ética. Esa aplicación puede arrojar algunas perspectivas buenas, pero “luego nos sorprende con respuestas que no hacen ningún sentido”. El tema de la privacidad también es complejo; “habría que tratar de regular a las empresas que adquieren nuestra información”.

De acuerdo con el especialista, se suele pensar que es completamente imparcial, infalible, y que siempre toma la “decisión correcta”, cuando eso es un mito, además de que las computadoras reproducen sesgos. Está de moda la IA generativa, y estamos ante una guerra de plataformas para ver cuál va a ser la “suprema”: ChatGPT, DeepSeek u otra, como en su momento fue Yahoo contra Google, o MySpace y Facebook.

“En el corto plazo veremos los límites de estas herramientas y cuál gana; el que lo haga más barato, más eficiente, con el mejor marketing, etcétera”, enfatizó Hernández Castellanos. En la actualidad vemos herramientas de generación de texto; después madurarán y veremos cómo hacer la interfaz entre las personas con alguna necesidad o problema, y el algoritmo experto para resolverlo. Se hará énfasis en su uso como soporte para la toma de decisiones, precisó.

La nota completa en Quadratín México