Cómo impulsar la IA en entornos limitados del sector público

Introducción: la urgencia de adoptar IA en el sector público

El auge de la IA está transformando a todas las industrias, y las organizaciones del sector público no son la excepción. Los gobiernos enfrentan una presión creciente para modernizar sus procesos, mejorar la toma de decisiones y ofrecer servicios más ágiles a la ciudadanía. Sin embargo, a diferencia de las empresas privadas, las entidades públicas deben lidiar con restricciones de seguridad, gobernanza y operaciones que hacen que la adopción de modelos tradicionales de IA resulte compleja.

Según un estudio de Capgemini, el 79 % de los directivos del sector público a nivel global se muestra reacio a los riesgos de seguridad de datos asociados a la IA. Este es un reflejo directo de la sensibilidad de la información gubernamental y de las obligaciones legales que la rodean. Como explica Han Xiao, vicepresidente de IA en Elastic: “Las agencias gubernamentales deben ser muy restrictivas con los datos que envían a la red, lo que impone límites claros en su gestión y uso.”

En este contexto, los Small Language Models (SLM) surgieron como una alternativa prometedora para hacer operativa la IA sin sacrificar control, confiabilidad ni cumplimiento normativo.

Desafíos operacionales únicos del sector público

Mientras que las empresas privadas pueden desplegar IA bajo supuestos como conectividad constante a la cloud, infraestructura centralizada y movilidad libre de datos, las instituciones gubernamentales se encuentran con barreras que pueden ser “peligrosas o imposibles” de sortear.

• Control absoluto de los datos: la información debe permanecer bajo la custodia de la agencia y ser verificable en todo momento.
• Disponibilidad mínima de interrupciones: cualquier falla operativa puede impactar servicios críticos para la población.
• Conectividad limitada: muchas oficinas públicas operan en entornos con internet poco fiable o sin acceso.
• Escasez de hardware especializado: la adquisición y gestión de GPU para entrenamiento y ejecución de modelos avanzados es poco frecuente en el sector público.

Una encuesta de Elastic reveló que el 65 % de los líderes del sector público tiene dificultades para utilizar datos de forma continua, en tiempo real y a escala. Además, el acceso a GPUs se menciona como uno de los principales cuellos de botella: “El gobierno rara vez compra GPUs; no están habituados a gestionar esa infraestructura,” señala Xiao.

Los SLM: una solución más práctica y segura

Los Large Language Models (LLM) como GPT‑4 o Claude son increíblemente potentes, pero su tamaño (cientos de miles de millones de parámetros) y sus requerimientos de hardware los hacen poco viables para entornos restringidos. Los SLM, por el contrario, utilizan miles de millones de parámetros, lo que reduce drásticamente su demanda computacional y permite su ejecución local.

Los principales beneficios de los SLM en el sector público son:

1. Seguridad y control de datos: el modelo se despliega dentro de la propia infraestructura gubernamental, evitando la transferencia de información a la nube.
2. Menor consumo de recursos: sin necesidad de GPUs de alto nivel, los SLM pueden ejecutarse en servidores estándar o incluso en dispositivos especializados.
3. Adaptación específica: los SLM pueden entrenarse con datos propios de la agencia, logrando respuestas más pertinentes y reduciendo sesgos.
4. Facilidad de auditoría: al ser modelos más pequeños, su arquitectura y procesos pueden documentarse y certificarse para cumplir con normativas como el GDPR.

Un estudio empírico demostró que los SLM pueden igualar o superar el desempeño de los LLM en tareas específicas del sector público. Como afirma Xiao: “Es fácil usar ChatGPT para corrección de textos, pero ejecutar grandes modelos de lenguaje en entornos sin acceso a red es extremadamente complicado.”

Arquitectura basada en “AI near data”

En lugar de enviar datos a la nube para que una IA los procese, la estrategia con SLM consiste en “llevar la herramienta de IA a los datos”. Esto se logra mediante técnicas como smart retrieval, vector search y verifiable source grounding. Cuando un agente solicita información, el modelo consulta únicamente los fragmentos relevantes almacenados localmente, garantizando respuestas precisas y trazables.

Mejoras en la capacidad de búsqueda: del chatbot a la inteligencia de datos

Al escuchar “IA”, muchos funcionarios imaginan chatbots como ChatGPT. Sin embargo, la verdadera revolución para el sector público radica en la búsqueda avanzada.

Los SLM pueden indexar y consultar documentos heterogéneos —informes técnicos, contratos, actas, facturas, imágenes escaneadas, grabaciones de audio— en varios idiomas. Así, un empleado gubernamental puede solicitar, por ejemplo, “todos los contratos de suministro de 2023 con cláusulas de sostenibilidad” y recibir una respuesta basada en fuentes verificadas, con la posibilidad de generar resúmenes o redactar documentos legales en tiempo real.

Esta capacidad se traduce en:

• Mayor productividad: menos tiempo dedicado a búsquedas manuales.
• Mejor toma de decisiones: acceso rápido a evidencia actualizada y contextualizada.
• Transparencia y cumplimiento: los resultados pueden enlazarse a la fuente original, cumpliendo con requisitos de auditoría.

“El sector público tiene mucho datos y no siempre sabe cómo utilizarlos,” comenta Xiao. “La IA les brinda una visión completamente nueva sobre cómo aprovechar esa información.”

Aplicaciones concretas en la administración pública

Algunos casos de uso que ilustran el potencial de los SLM incluyen:

1. Interpretación normativa: el modelo puede leer leyes y reglamentos, extrayendo obligaciones específicas para diferentes departamentos.
2. Análisis de consultas ciudadanas: a través del procesamiento de miles de comentarios, se identifican tendencias y se priorizan acciones.
3. Soporte a decisiones ejecutivas: dashboards alimentados por IA que combinan indicadores financieros, sociales y medioambientales para decisiones estratégicas.
4. Acceso público a servicios: chatbots internos que, en vez de generar texto genérico, consultan bases de datos locales para entregar respuestas exactas y legalmente válidas.

Ventajas económicas y medioambientales de los SLM

Los LLM requieren infraestructuras costosas y consumen mucha energía, lo que resulta prohibitivo para muchos gobiernos. Los SLM, al ser menos exigentes, reducen tanto el gasto de capital como la huella de carbono.

Además, al mantenerse dentro de los límites de los recursos locales, los SLM facilitan la autonomía estratégica: los datos críticos no abandonan la zona de confianza, lo que refuerza la resiliencia frente a ciberataques o interrupciones de la red.

Reducción de sesgos y alucinaciones

Los grandes modelos tienden a generar respuestas basadas en datos de entrenamiento que pueden estar desactualizados o contener sesgos. Los SLM entrenados con fuentes verificadas y de corta ventana temporal minimizan el riesgo de “alucinaciones”. Xiao explica: “Los LLM generan texto según lo que se entrenó; si se pregunta sobre eventos posteriores a su fecha de corte, pueden inventar información. Con SLM obligamos al modelo a trabajar con fuentes verificadas, reduciendo ese problema.”

Riesgos y consideraciones para una implementación exitosa

Aunque los SLM presentan múltiples ventajas, su adopción debe planificarse cuidadosamente:

• Gobernanza de datos: definir políticas claras sobre quién puede entrenar, actualizar y consultar el modelo.
• Monitoreo continuo: establecer métricas de precisión, tiempo de respuesta y compliance para detectar desviaciones.
• Capacitación del personal: los empleados deben comprender las limitaciones del modelo y cómo interpretar sus resultados.
• Plan de contingencia: asegurar que la caída del servicio de IA no paralice procesos críticos.

En palabras de Xiao: “No empieces con un chatbot; comienza con la búsqueda. Gran parte de lo que consideramos inteligencia artificial es, en realidad, encontrar la información adecuada.”

Conclusión y takeaways

El camino hacia una IA operativa en entornos limitados del sector público pasa por abandonar la mentalidad de “modelos gigantes en la nube” y adoptar modelos de lenguaje pequeños, locales y especializados. Los beneficios son claros:

1. Seguridad y soberanía de datos: la información permanece bajo control institucional.
2. Eficiencia operativa: menor requerimiento de hardware y consumo energético.
3. Resultados más relevantes: entrenamiento con datos propios y técnicas de recuperación garantizan precisión.
4. Facilidad de auditoría y cumplimiento: los SLM pueden documentarse para cumplir con GDPR y otras normativas.
5. Impulso a la productividad: la búsqueda basada en IA transforma la forma en que los servidores públicos acceden y utilizan la información.

Al centrar la inversión en SLM y en capacidades de búsqueda inteligente, los gobiernos pueden avanzar rápidamente de la fase de experimentación a la integración sostenida de IA, creando servicios más ágiles, transparentes y orientados al ciudadano.

📰 Fuente original: MIT Tech Review