La Inteligencia Artificial (IA) continúa situándose en el centro de los debates más relevantes de la ciencia, la ética y la sociedad contemporánea. Así lo ha demostrado la apertura del IV ValgrAI Scientific Council Forum (VSCF), celebrada en la Facultad de Bellas Artes de la Universitat Politècnica de València (UPV), que ha congregado a más de 300 asistentes entre expertos internacionales, jóvenes investigadores y representantes de empresas tecnológicas de vanguardia.
Compromiso institucional con una IA responsable
La jornada inaugural ha contado con la intervención de figuras clave como Ana Cidad (Directora Gerente de ValgrAI), Vicent Botti (Director General) e Inma Romero (Directora del Área de Biblioteca, Documentación y Ciencia Abierta de la UPV). Todos ellos han coincidido en el compromiso de ValgrAI por una IA que trascienda lo puramente técnico para repercutir positivamente en la vida de las personas y los contextos donde se implementa.
Evaluación avanzada de la IA: el enfoque de Hernández Orallo
La primera ponencia magistral estuvo a cargo de José Hernández Orallo, investigador de ValgrAI, la UPV y la University of Cambridge. En su intervención, «AI Evaluation with Explanatory and Predictive Power», Hernández Orallo subrayó la importancia de superar los métodos tradicionales de evaluación de la IA, proponiendo sistemas que expliquen y anticipen el comportamiento de los modelos más allá de los aciertos puntuales.
- Presentación de herramientas como DeLeAn y ADeLe para analizar habilidades cognitivas en IA.
- Defensa de una evaluación que permita comprender y auditar los sistemas, crucial para su seguridad y eficacia.
- Llamado a cuestionar no solo si la IA acierta, sino los motivos detrás de sus respuestas.
Visión de futuro: jóvenes investigadores y sus proyectos
En el bloque “The Future of AI: ValgrAI Researchers”, una decena de jóvenes científicos de las universidades valencianas han expuesto proyectos con alto impacto social y aplicaciones novedosas, muchos de ellos en colaboración con sectores clave como la salud, la educación y la industria.
Algunos proyectos destacados
- Behzad Mehrbakhsh (UPV): Estudio sobre el Contamination Budget y cómo la calidad de los datos afecta al aprendizaje de la IA.
- Lucía Gómez (HealthTech-UPV): Sistema de detección de depresión mediante análisis multimodal de voz, lenguaje y gestos faciales.
- Salvador López Barajas (UJI): Robótica submarina autónoma habilitada por IA para manipulación de objetos bajo el agua.
- Carlos S. Galindo (VRAIN-UPV): Algoritmo para extracción eficiente de contenidos y comentarios web, útil para procesamiento de datos y entrenamiento de modelos lingüísticos.
- Vicente Quiles (UMH): NeuroRunner, videojuego neurorehabilitador controlado mediante interfaz cerebro-máquina (EEG).
- Ana Sierra García y Sandra Goizueta Berheide (HealthTech-UPV): Innovaciones en diagnóstico y evaluación de conciencia en pacientes neurológicos utilizando IA y análisis fisiológico avanzado.
- Rodrigo Barriga Porras (HealthTech-UPV): Predicción de independencia funcional en pacientes con daño cerebral usando machine learning.
Casos de éxito empresarial: IA aplicada en sectores críticos
El foro ha continuado con la exposición de casos de uso reales presentados por empresas líderes. Sus intervenciones han evidenciado la madurez de la IA en ámbitos como la ciberseguridad, la sostenibilidad, la industria y la gestión del agua.
Aplicaciones punteras
- Luis Búrdalo (S2 Grupo): Uso de IA para detección de ciberataques y respuesta automatizada en infraestructuras críticas.
- Manuel Herranz (Pangeanic): Defensa de Small Language Models para soluciones energéticamente eficientes y privacidad reforzada.
- Katherin Orozco (Nunsys Group): Plataforma NARRATE para fábricas inteligentes, combinando IA, big data y IoT.
- Cristina Baixauli (Hidraqua): Herramientas predictivas y visión artificial para la gestión sostenible del agua.
- José Vicente Cercós (Idrica): Integración de datos en tiempo real y análisis prescriptivos para optimizar el ciclo del agua.
- Pablo Fernández (Baleària): IA aplicada en rutas marítimas, eficiencia energética y el desarrollo de gemelos digitales para buques.
Gottlob: psicoanálisis crítico de ChatGPT y retos de la IA generativa
El cierre de la jornada ha estado marcado por la intervención de Georg Gottlob (Universidad de Oxford y Universidad de Calabria), quien ha ofrecido una visión crítica sobre los modelos de lenguaje generativo como ChatGPT. Bajo el título «Psychoanalysis (and Therapy) of ChatGPT», ha desgranado los errores sistemáticos y sesgos que pueden presentar estos sistemas, así como su tendencia a inventar información.
Para abordar estos desafíos, Gottlob ha presentado Chat2Data, un sistema de agentes inteligentes capaz de dividir tareas complejas en subtareas verificables, estableciendo mecanismos robustos de revisión y trazabilidad. Este enfoque aspira a compatibilizar los avances de la IA con exigencias de veracidad y control en entornos científicos y administrativos.
Reflexión final y debate abierto sobre el futuro de la IA
El evento concluyó con una mesa redonda moderada por Ramon López de Mantaras (CSIC), junto a expertos internacionales como Carme Torras (CSIC) y Tom Dietterich (Oregon State University), además de Gottlob. El debate giró en torno a la transparencia, la ética y la necesidad de gobernanza democrática en el desarrollo de la Inteligencia Artificial.
Así, el ValgrAI Scientific Council Forum 2025 se consolida como un espacio esencial para el análisis riguroso, la colaboración interdisciplinar y la anticipación de los desafíos que marcarán el presente y futuro de la IA.
El impulso de ValgrAI y la UPV sigue siendo clave para alinear los avances tecnológicos con los valores sociales, promoviendo una inteligencia artificial innovadora, transparente y alineada con el bienestar común. Para próximas ediciones y actualizaciones, se invita a seguir de cerca el calendario de eventos y publicaciones de la Fundación ValgrAI.
