Inteligencia artificial "Bajo Lupa": Congreso propone revisión humana

La incorporación de inteligencia artificial al Gobierno abre oportunidades para mejorar servicios, pero también exige controles para proteger información y derechos ciudadanos.

La inteligencia artificial puede agilizar procesos y mejorar los servicios públicos, pero también implica riesgos cuando interviene en decisiones que afectan derechos, datos personales o atención ciudadana. 

Ante ello, en Sonora se presentó una iniciativa para regular su uso en la administración pública y garantizar que estas herramientas cuenten con  prevención, supervisión humana y mecanismos de respuesta ante errores o riesgos.

PROPONEN PAUSA SEGURA ANTE RIESGOS DE IA

De acuerdo con la Encuesta Nacional de Confianza en la Administración Pública 2025, del Instituto Nacional de Estadística y Geografía, 40.6% de las personas de 18 años y más considera que no es seguro que las instituciones gubernamentales utilicen inteligencia artificial para proteger información personal, mientras que 38.3% sí lo considera seguro. Además, 29.3% de la población considera que no es seguro dejar en manos de la inteligencia artificial decisiones que deberían mantenerse bajo control de las personas. 

Ante las preocupaciones ciudadanas sobre el uso de inteligencia artificial en datos personales y decisiones gubernamentales, la diputada Iris Sánchez Chiu, junto con el diputado Emeterio Ochoa Bazúa, propuso reformar el artículo 8º de la Ley Orgánica del Poder Ejecutivo de Sonora para establecer controles y supervisión en el uso de esta tecnología. 

La iniciativa contempla una "pausa segura" para detener estos sistemas ante anomalías o riesgos, además de establecer protocolos y responsables de supervisar su funcionamiento y proteger derechos, datos personales y servicios públicos.

"La propuesta es muy sencilla, si el gobierno del Estado utiliza inteligencia artificial, debe de existir siempre una persona responsable que pueda ser capaz de supervisarla de intervenir cuando se presente un riesgo y sobretodo tener la capacidad de poder de tenerla de manera segura " señaló la diputada, Iris Sánchez Chiu.

PLANTEAN USAR INTELIGENCIA ARTIFICIAL BAJO SUPERVISIÓN HUMANA

El Gobierno de Sonora impulsa la transformación digital mediante programas enfocados en incorporar tecnología, fortalecer la gobernanza digital y mejorar los trámites y servicios públicos. 

el especialista en tecnología Víctor Valenzuela considera que la inteligencia artificial puede apoyar al Gobierno en tareas repetitivas, atención ciudadana y análisis de información, pero bajo supervisión humana.  Señala que los funcionarios deben mantener la responsabilidad de revisar sus resultados y tomar las decisiones finales.  Destaca la importancia de capacitar al personal en su uso ético y mantener la supervisión humana para revisar sus resultados y tomar las decisiones finales. 

"Y si concuerdo en que existe un departamento dentro del recinto gubernamental para apoyar en estas tareas ya que la IA es una tecnología que está avanzando a pasos gigantados y se está implementando en otros países como Estados Unidos, Reino Unido y Singapur por lo tanto México no quedará fuera del uso de esta tecnología." Señala,  Víctor Valenzuela, experto en tecnología 

El reto será aprovechar la inteligencia artificial sin perder la supervisión y responsabilidad humana en el Gobierno.