La inteligencia artificial promete gobiernos más eficientes. Puede agilizar trámites, detectar fraudes, ordenar grandes cantidades de información y ayudar a distribuir recursos. Pero una administración más rápida no es necesariamente una administración más justa.

Cuando un algoritmo recomienda una decisión, su resultado depende de los datos con que fue entrenado y de las reglas definidas por sus creadores. Si esos datos contienen errores o prejuicios, la máquina puede reproducirlos a gran escala y con apariencia de objetividad.

El peligro comienza cuando un funcionario acepta la respuesta del sistema sin comprenderla. Una persona podría perder una ayuda social, quedar bajo sospecha o ser discriminada por una decisión que nadie sabe explicar.

La OCDE ha estudiado numerosos usos de inteligencia artificial en organismos públicos. Sus análisis muestran beneficios importantes, pero también riesgos relacionados con la transparencia, la privacidad, los errores automatizados y la confianza ciudadana.

Una computadora puede ayudar a gobernar; no puede asumir la responsabilidad de gobernar.

Todo ciudadano afectado por una decisión automatizada debería tener derecho a saber que intervino un algoritmo, conocer los criterios utilizados y solicitar una revisión humana. La eficiencia nunca debe eliminar el derecho a preguntar.

CONOCE EL LIBRO EN AMAZON

La misma tecnología que permite mejorar servicios también facilita una vigilancia sin precedentes. Cámaras, teléfonos, historiales y registros públicos pueden combinarse para reconstruir la vida de una persona. En manos de un gobierno democrático y controlado, estas herramientas podrían proteger a la sociedad. En manos de un régimen autoritario, podrían convertir cada movimiento en una prueba y cada diferencia de opinión en una amenaza.

No debemos elegir entre rechazar la inteligencia artificial o aceptarla sin límites. Necesitamos instituciones capaces de utilizarla y, al mismo tiempo, de controlar a quienes la utilizan.

El verdadero peligro no es que las máquinas gobiernen solas. Es que los seres humanos se escondan detrás de ellas para evitar responder por sus decisiones.

¿Quién debe auditar los algoritmos gubernamentales? ¿Puede existir democracia cuando las decisiones públicas se vuelven incomprensibles?

Siguiente artículo: Colonialismo algorítmico: el peligro para América Latina.

En IA: El poder sobre el poder analizo cómo la IA modifica gobiernos, instituciones y relaciones sociales.

CONOCE EL LIBRO EN AMAZON