La IA no es solo una herramienta: también cambia quién decide

Cuando hablamos de inteligencia artificial solemos discutir si la herramienta funciona bien: si responde rápido, si se equivoca poco, si ahorra tiempo. Son preguntas razonables, pero incompletas. La pregunta de fondo es otra: ¿quién está decidiendo?

Una herramienta que también reparte poder

Un sistema automatizado que ordena postulaciones no solo ahorra trabajo: define a quién ve primero la persona que contrata. Un sistema que prioriza casos no solo organiza una fila: define quién espera. Un sistema que sugiere una calificación no solo asiste: instala un punto de partida que el docente tenderá a confirmar.

En todos esos casos la decisión formal sigue siendo humana. Pero el encuadre de la decisión ya venía dado. Eso es poder, aunque no aparezca en ningún organigrama.

Tres desplazamientos que casi nadie declara

• Del criterio al default Cuando el sistema propone, cambiar la propuesta pasa a requerir justificación. Antes había que argumentar para decidir; ahora hay que argumentar para desviarse.
• De la responsabilidad al reparto difuso “Lo dijo el sistema” es una frase cómoda. Si nadie firma, nadie responde.
• Del error visible al error silencioso Un error humano se nota y se discute. Un sesgo estadístico se repite miles de veces sin que nadie lo vea.

Qué hacer con esto

No se trata de rechazar la tecnología. Se trata de reconocer que adoptar un sistema es también una decisión institucional sobre cómo se decidirá de ahí en adelante. Y esas decisiones se toman mejor cuando son explícitas.

Tres preguntas mínimas antes de implementar: ¿el sistema apoya o reemplaza la decisión?, ¿puede afectar derechos u oportunidades?, ¿quién responde cuando el resultado es injusto?

Comprender cómo funciona un sistema no es un lujo técnico. Es, cada vez más, una forma de defender derechos.

Núcleo Digital — laboratorio de ciencia ciudadana y traducción sociotécnica.