La inteligencia artificial empieza mucho antes del modelo

Cuando una organización evalúa inteligencia artificial, la conversación suele empezar por el modelo.

Qué modelo utilizar. Qué rendimiento consigue. Cuánto cuesta ejecutarlo.

Son preguntas legítimas.

Pero llegan después de otras menos atractivas.

El modelo aprende de una infraestructura que ya existe

Los datos clínicos pueden estar repartidos entre sistemas, utilizar diferentes códigos, contener texto libre, repetir pacientes bajo distintas identidades o haber sido generados con objetivos operativos muy diferentes.

Un modelo no elimina estas condiciones.

Las hereda.

La OMS coloca cuestiones como gobernanza, transparencia, evaluación de riesgos y monitorización dentro de sus consideraciones para el desarrollo y uso responsable de IA sanitaria. Las buenas prácticas internacionales para dispositivos basados en machine learning también tratan el desarrollo como un ciclo completo, no simplemente como entrenamiento de un algoritmo.

La IA no compensa una infraestructura desordenada. Puede hacer que sus inconsistencias sean más difíciles de ver.

¿Qué viene antes?

Una secuencia razonable suele comenzar por preguntas mucho más básicas:

¿De dónde vienen los datos? ¿Podemos recuperar consistentemente el mismo concepto? ¿Sabemos que dos registros pertenecen al mismo paciente? ¿Existe una semántica suficientemente estable? ¿Cuál es exactamente el proceso donde utilizaremos el resultado?

Después aparecen estructura, gobierno y validación.

Y solo entonces tiene sentido discutir qué modelo utilizar.

Esto no significa frenar la inteligencia artificial.

Significa evitar empezar por la parte más visible del problema.