«La IA siempre te hace la pelota y no te avisa cuando no está segura de algo. Por eso hay que insistir y comprobar»

2026-03-27 - 09:50

Las máquinas también se equivocan. La misión de Víctor Manuel Vargas (Pozoblanco, 1996) es que sus errores sean leves y asumibles, en especial en ámbitos donde equivocarse puede costar muy caro: un diagnóstico médico, la gestión de una red eléctrica, la conducción autónoma. «Cuando la IA clasifica una retinografía diabética o la resonancia de un paciente con párkinson, siempre hay un margen de error. El problema es que un algoritmo convencional no distingue si el error es amínimo o ha metido la pata hasta el fondo», explica. Vargas ha sido galardonado con el Premio Investigadores Jóvenes en Informática de la SCIE y la Fundación BBVA en 2025 por enseñar a las redes neuronales a que sus fallos no tengan consecuencias irreparables. Insiste en que estos sistemas no están pensados para sustituir al médico, sino para echarle una mano, por ejemplo en el cribado de imágenes, y no ve que vaya a haber un diagnóstico totalmente automático a corto plazo: «Siempre va a tener que haber un profesional que tome la decisión final. Una inteligencia artificial no tiene responsabilidad si se equivoca; un médico sí». Vargas se doctoró en 2023 en la Universidad de Córdoba y realiza una estancia posdoctoral en la Universidad de Alcalá, donde aplica esas mismas técnicas a la predicción de vientos y oleaje para las energías renovables. Vargas también señala un problema en los modelos de lenguaje, tipo ChatGPT, que usa todo el mundo: la sicofancia, es decir, la tendencia de estos sistemas a dar la razón al usuario aunque no la tenga. «Siempre te hacen la pelota. Y ya no sabes si lo que te está diciendo te lo dice porque tú has orientado la conversación o porque de verdad es así», advierte. «Tampoco te avisan cuando no están seguros de algo. Siempre conviene insistir, cuestionar sus respuestas. Y comprobarlas». Reconoce la responsabilidad que implica trabajar con técnicas de reconocimiento, útiles para detectar enfermedades, pero que también pueden emplearse en vigilancia y misiones militares. «Un investigador no puede paralizarse ante la posibilidad de que alguien dé un mal uso a lo que descubre; pero sí exigir que haya regulación». ֍ ֍ ֍