Las administraciones públicas tienen presupuesto y ambición para la IA, pero el listón está, con razón, alto: la información debe ser factualmente correcta, las decisiones verificables, y los ciudadanos no deben ser víctimas de un sistema que de vez en cuando se inventa algo. Entonces, ¿cómo se empieza con sensatez? Unas cuantas lecciones prácticas, en parte basadas en nuestro propio trabajo para el sector público.

Empiece pequeño y concreto

El mayor error es empezar demasiado grande. Elija un proceso con mucho trabajo recurrente de búsqueda o de respuesta a preguntas, por ejemplo dar acceso a documentos de políticas para funcionarios, o responder a las preguntas frecuentes de los ciudadanos. Defina criterios de calidad claros desde el principio y pruebe una solución ahí antes de implantarla de forma amplia.

La fiabilidad no es una funcionalidad, es el núcleo

Para una administración pública, una IA que "casi siempre acierta" no es suficiente. La solución es un sistema que responde únicamente a partir de sus propias fuentes controladas, que muestra una cita de la fuente en cada respuesta y que honestamente guarda silencio cuando no tiene la respuesta. Así cada respuesta sigue siendo verificable y la organización mantiene el control.

Demostramos que esto es posible a escala nacional con KiesKennis, el chatbot electoral para ocho radiodifusoras públicas regionales. Respondió 43.943 preguntas de votantes, con un 99% de respuestas factualmente correctas, siempre con una fuente, plenamente conforme al RGPD y alojado dentro de la UE. Las elecciones son el ámbito más sensible que existe, y precisamente ahí el sistema demostró que una IA fiable es alcanzable.

Preste atención al RGPD y a la AI Act

Dos cosas merecen atención desde el primer día:

  • La privacidad (RGPD). Aloje dentro de la UE, no introduzca datos personales innecesarios y sea transparente con las personas implicadas. Considere una DPIA para aplicaciones sensibles.
  • La AI Act. Según la aplicación, se aplican obligaciones en materia de transparencia y gestión de riesgos. Téngalo en cuenta en los requisitos que exija a un proveedor.

Contrate con criterio

Muchos organismos públicos tienen presupuesto pero carecen del conocimiento para contratar IA de forma responsable. Sepa qué requisitos exigir a los proveedores, cómo evaluar una demostración con sentido crítico y cómo evitar la dependencia de un proveedor. Nuestra formación en contratación responsable de IA está hecha específicamente para esto.

¿Está considerando la IA en su ayuntamiento u organismo público? Reserve una llamada de presentación sin compromiso o, primero, realice el análisis de IA gratuito para ver dónde está la mayor oportunidad.