La IA acierta en el análisis de rayos X usando ruido en lugar de señales físicas, revela un estudio

Una inteligencia artificial logró producir predicciones precisas sobre la composición de una aleación metálica, pero utilizó información sin relevancia física para llegar a los resultados. El hallazgo fue presentado por investigadores de Case Western Reserve University en un estudio publicado el lunes (19) en la revista científica Communications Materials.

La investigación demostró que una red neuronal puede presentar alta precisión estadística sin identificar las señales físicas que debería analizar. El problema se detectó en un sistema de aprendizaje automático aplicado a difractogramas de rayos X, registros utilizados para investigar la estructura de materiales.

Los científicos analizaron la capacidad de dos redes neuronales para estimar las proporciones de las fases cristalinas alfa y beta presentes en la aleación de titanio Ti–6Al–4V. Aunque ambas alcanzaron resultados similares, los mecanismos utilizados para realizar las predicciones eran fundamentalmente diferentes.

Dos modelos precisos, pero solo uno aprende la señal física

El primer modelo, denominado IE, había recibido entrenamiento inicial con imágenes naturales del banco ImageNet. El segundo, llamado ISE, también pasó por una etapa de entrenamiento con difractogramas simulados. Posteriormente, ambos fueron ajustados con solo 250 difractogramas experimentales.

En las pruebas convencionales, las dos redes presentaron alta precisión. Sin embargo, las evaluaciones de robustez y los mapas de atención revelaron una diferencia decisiva.

El modelo IE había aprendido a utilizar texturas de fondo y ruido de los píxeles, características que no representan directamente las propiedades físicas investigadas. En cambio, el ISE concentraba sus predicciones en las reflexiones de Bragg, patrones de difracción asociados con la estructura cristalina del material.

Esto significa que el primer sistema lograba producir respuestas aparentemente confiables a partir de información inadecuada para la tarea, mientras que el segundo utilizaba evidencia físicamente relevante.

El trabajo, liderado por Redad Mehdi y colaboradores, muestra que evaluar solo la precisión de las predicciones puede ser insuficiente para validar modelos científicos de IA. Los resultados se refieren específicamente al análisis de difractogramas e indican la importancia de incorporar conocimiento físico al entrenamiento y probar la robustez de los sistemas.