Ordenadores que dan guacamole por gato

Views:
25

En estas últimas semanas hemos hablado del potencial de los ordenadores a la hora de realizar diagnósticos clínicos. Después de introducir el aprendizaje profundo o Deep learning (http://cienciacarbonica.es/el-hombre-versus-la-maquina-versus-los-animales/), hemos descrito brevemente en que consiste el entrenamiento de programas de inteligencia artificial para realizar una tarea en concreto, como puede ser la detección de cáncer mediante el análisis de imagen o ayudar a la conducción autónoma. Este tema, que últimamente esta en boca de todos, ha despertado mucha ilusión en campos como la informática, pero al mismo tiempo incertidumbre, sobre todo en aquellos sectores donde parece que los ordenadores pueden sustituir al hombre.

Hace unas semanas estuve en el congreso nacional de Radiología (https://bit.ly/2MkcsIp), que tuvo lugar en Pamplona. Durante el acto inaugural, el nuevo presidente de la Sociedad Española de Radiología Médica habló, como no podía ser menos, del papel que pueden tener los ordenadores en el futuro de la radiología.

Evidentemente el futuro es incierto, pero de momento parece que la inteligencia artifical no va a sustituir a los médicos en un futuro cercano. Aún queda mucho tiempo y preguntas por resolver. Ya en su momento, las calculadoras fueron objeto de preocupación por los ingenieros, que veían peligrar sus habilidades matemáticas por un mini-ordenador. Sin embargo, hoy en día representan una herramienta esencial para su trabajo cotidiano.

El uso del Deep learning en la medicina es innegable y los profesionales tendrán que adaptarse a las nuevas tecnologías que están por venir. Pero también hemos de tener en cuenta que, al igual que hemos visto en los coches autónomos, la inteligencia artificial no es perfecta y puede cometer errores (al igual que lo humanos). Esa inteligencia artificial se basa en la extracción y aprendizaje de ciertos patrones de una imagen, que utiliza luego para decidir sobre nuevas imágenes. Sin embargo, pequeños cambios en la imagen de entrada pueden dar lugar a diferentes interpretaciones de la máquina. Científicos del prestigioso MIT pudieron engañar al sistema de Inteligencia Artificial de Google mediante pequeñas variaciones en la imagen (https://www.labsix.org/physical-objects-that-fool-neural-nets/). En la imagen de debajo se observa como un gato es confundido con un guacamole por la máquina al rotar la imagen ligeramente. ¿Imagináis que un coche autónomo confunde a una persona con un arbol?

 

Por otro lado existe, como en casi todo, una parte ética del asunto. ¿Es la inteligencia artificial capaz de tomar decisiones en casos extremos? En caso de error, ¿qué responsabilidad tiene la máquina?

Aún hay muchos aspectos aún por resolver, pero lo que no cabe la menor duda es, que al igual que las calculadoras para los ingenieros, la inteligencia artificial representan una gran herramienta para mejorar el diagnóstico de los radiólogos en la práctica clínica.

Mi consejo de hoy:  “anda con mucho ojo por la vida, que os pueden dar guacamole por gato.”

¡Buena semana carbonian@s!


Quisiera aprovechar la entrada para animaros a enviarno temas que os parezcan interesantes para nuestras futuras entradas a través de nuestro formulario (http://cienciacarbonica.es/contactanos/). Al mismo tiempo que, si sois expertos en una materia y queréis publicar una entrada en nuestra web, ¡haznos llegar tu propuesta!

Dejar una contestacion

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *