Lozano (BCAM): "Para aplicar la IA en las empresas hay que tener los datos necesarios"

El BCAM (Basque Center for Applied Mathematics - Centro Vasco de Matemática Aplicada) es un centro de investigación interdisciplinaria en el campo de las Matemáticas Aplicadas que pertenece a la red de centros de investigación en excelencia del Gobierno vasco. Promovido inicialmente por el Ejecutivo autonómico junto con Ikerbasque, cuenta también con el apoyo de la Universidad del País Vasco, la Diputación de Bizkaia, el Ayuntamiento de Bilbao e Innobasque, entre otras entidades.

Desde este espacio ubicado en el centro de la capital vizcaína, en la Alameda de Mazarredo, José Antonio Lozano y su equipo, compuesto por cerca de 200 investigadores, tratan de aportar soluciones a los retos de empresas, instituciones y otras organizaciones que requieran de creaciones innovadoras ad hoc.

Las matemáticas como base para el desarrollo de modelos de lenguaje de inteligencia artificial (IA) se erigen como una herramienta clave en la revolución tecnológica. Eso sí, aún debe hacerse un gran trabajo de pedagogía para extender su uso, ya que, como explica el director científico del centro vasco, "necesitamos establecer una cultura que enseñe qué es lo que puede resolver la Inteligencia Artificial" y, de forma complementaria, pulir la herramienta tratando de "erradicar los sesgos" de los datos de los que se nutre.

"Lo que tratamos de hacer desde el BCAM es resolver problemas del mundo real utilizando las matemáticas"

-¿Cuál es el objetivo del BCAM?

-Nuestro objetivo es hacer ciencia básica en matemática aplicada, es decir, lo que trata de hacer el centro es resolver problemas del mundo real utilizando las matemáticas. Para ello el centro está organizado en cinco áreas generales: Matemática Computacional, Modelado Matemático con Aplicaciones Multidisciplinarias, Física Matemática, Análisis de Ecuaciones Diferenciales Parciales y Ciencia de datos e Inteligencia Artificial.

El BCAM cuenta con un equipo de 200 investigadores aproximadamente. BCAM

-¿Cuánta gente trabaja en el centro y con qué presupuesto cuentan en la actualidad?

-Solemos oscilar entre las 180 y las 200 personas en los cerca de 150 proyectos que tenemos abiertos, que disponen de un presupuesto total de 7 millones de euros aproximadamente que obtenemos como financiación, siempre competitiva, de diversas instituciones. Hay que resaltar, además, que el BCAM ha sido galardonado en tres ocasiones (2013, 2018 y 2021) con la distinción Severo Ochoa de la Agencia Estatal de Investigación, por lo que estamos muy orgullosos de ello.

Transferencia de conocimiento

-¿De qué forma ayudan a la industria, un tejido con gran peso en Euskadi pero inmerso en plena transformación?

-Colaboramos directamente con la industria a través de nuestra unidad de transferencia de conocimiento, pero no sólo con las empresas, sino también con el sector público o con otros centros de investigación.

Algunas compañías nos piden desarrollos específicos, pero muchas veces no requieren proyectos personalizados, sobre todo en el ámbito de la inteligencia artificial. Lo primero que pasa es que no saben lo que quieren, lo segundo es que a veces no tienen datos y lo tercero es que a veces los datos que tienen no sirven para lo que quieren hacer.

"Si queremos ser competitivos tenemos que ir más allá y no coger lo que está en la estantería y tiene todo el mundo"

Entonces, en muchas ocasiones, lo que necesitan realmente es alguien que les aconseje para ver qué se puede y qué no se puede hacer. Si queremos ser competitivos tenemos que ir más allá y no coger lo que está en la estantería y tiene todo el mundo. Para ello, primero necesitamos establecer una cultura que enseñe qué es lo que puede resolver la inteligencia artificial.

-¿Y en el sector público?

-Pues, entre otras colaboraciones, hemos trabajado con el Consorcio de Aguas para ver la incidencia del covid durante la pandemia analizando el agua, o con el Ayuntamiento de Bilbao para analizar el flujo de gente dentro de la ciudad y también para ver los movimientos de personas en el tranvía y saber dónde se bajaban los usuarios porque la tarjeta sólo indicaba dónde se subían.

Lozano ha publicado más de 250 artículos científicos que han recibido más de 20.000 citas. Paulino Oribe - CV

Aplicaciones prácticas

-¿Cómo pueden aplicarse las matemáticas en las actividades relacionadas con la energía?

-Pues en el ámbito de las energías renovables tenemos varios proyectos en marcha. Por un lado, con Diputación, y por otro, con el Máster de energías renovables marinas de la UPV/EHU  y también con Tecnalia.

Trabajamos con ellos en el modelado de los molinos y predecimos la localización óptima para el anclaje de los offshore en el agua como medio líquido, o en cómo distribuir los aerogeneradores en función de la orientación del viento. En todo ello resultan muy útiles las matemáticas.

También hemos participado en un proyecto enfocado al ahorro de energía durante el proceso de refueling de los barcos y, hace un tiempo, desarrollamos un proyecto para saber qué usuarios se conectaban a cada una de las redes eléctricas. En materia de hidrógeno estamos investigando nuevos materiales que no se deterioren para facilitar su transporte.

"La diferencia de nuestras investigaciones con respecto a otras es que nosotros damos garantías matemáticas del funcionamiento del algoritmo"

Ahora estamos trabajando en modelos de predicción del consumo energético analizando los patrones de demanda, los datos de temperatura y otros muchos datos para intentar predecir lo que va a pasar. 

-En este punto entraría en juego la inteligencia artificial, ¿no?

-Sí. Principalmente, los modelos que construimos son de inteligencia artificial, pero la diferencia con respecto a otras investigaciones es que nosotros damos garantías matemáticas del funcionamiento del algoritmo. Porque lo que nosotros hacemos es abordar problemas que requieren de una investigación asociada para llevar a cabo un desarrollo novedoso. Investigamos en inteligencia artificial con el objetivo de aplicarla si es necesario.

El potencial de la IA

-Como experto en IA, ¿cuánto hay de moda y cuánto de utilidad?

-A ver, hay mucho de moda, pero al mismo tiempo hay mucho de realidad. La inteligencia artificial ya la tenemos delante cuando desbloqueamos nuestro móvil con nuestra huella, nuestra cara o un patrón.

-¿Qué opina de los modelos de IA como Chat GPT de Open AI, Gemini de Google o Copilot de Microsoft?

-Chat GPT, por ejemplo, se equivoca mucho, pero es súper útil. Nosotros celebramos el Día de Pi y hacemos una jornada con chavales en la que siempre me toca dar la bienvenida. En la última edición se me ocurrió preparar un discurso en el que todas las palabras tuvieran la sílaba ‘pi’ y se lo pedí a Chat GPT, pero cuál fue mi sorpresa al comprobar que la mitad estaban mal. 

El director científico del BCAM está orgulloso de las distinciones recibidas por el centro por parte de la Agencia Estatal de Investigación. BCAM

-¿Y en el ámbito de las matemáticas se desenvuelve con mayor soltura?

-Dicen que puede aprobar Selectividad, pero mi experiencia con Chat GPT no ha sido muy positiva. Cuando le he mandado algo en matemáticas, como un determinante, por ejemplo, que es algo que debería hacer más o menos de forma sencilla, no lo hace correctamente. Tengo interés en evaluar matemáticamente a Chat GPT porque por ahora lo veo flojito.

-¿Cree que avanzará su inteligencia?

-Sí, claro. Nosotros tenemos abierto ahora un proyecto muy interesante acerca de la aplicación de modelos de lenguaje y analizamos el impacto social de la  implantación de los sistemas automáticos de predicción.

"Analizamos el impacto social de la  implantación de los sistemas automáticos de predicción"

En este sentido, estamos enfocados en erradicar los sesgos que tienen estos sistemas porque aprenden de datos que están sesgados. Por ejemplo, si vas a Google y le das a que te muestre imágenes de cuidar de personas mayores van a salir sólo mujeres. 

Además, requieren de personas que estén detrás, pues una cosa es la predicción y otra la decisión. Imagina que el banco instala un sistema de inteligencia artificial para la concesión de créditos y que al meter los datos del solicitante te indica la probabilidad de que esa persona vaya a devolver el dinero. El sistema predice, pero el banco decidirá finalmente si se lo otorga o no teniendo en cuenta si forma parte de un colectivo vulnerable, por ejemplo. A veces, si quien toma la decisión va en contra de lo que dice el sistema, puede que cree un sistema más justo.

También estamos trabajando para conseguir que, si la persona modifica sus características con el objetivo de mejorar sus resultados, el sistema detecte estas trampas.

José Antonio Lozano ha centrado su carrera investigadora en la Inteligencia Artificial, especialmente en el aprendizaje automático. Paulino Oribe - CV

-¿Cómo podemos garantizar que la IA sea ética?

-La inteligencia artificial engloba muchos aspectos, como por ejemplo, todo lo que tiene que ver con justicia algorítmica, que al final tiene una definición matemática. Se podría pensar que lo mejor es que los sistemas se comporten igual, sea mujer o sea hombre, para que no haya discriminación, pero por ejemplo, el ratio de acierto en la predicción del cáncer de mama va a ver condicionados sus resultados ya que, si la base de datos de mujeres es mucho mayor, podrá acertar mucho mejor en las mujeres que en los hombres. Entonces, para que sea justo, ¿voy a bajar el ratio de acierto en mujeres? Sería totalmente injusto, ¿no? Es un campo muy complicado y modelar matemáticamente todo esto es muy complejo.

El futuro del empleo

-Y de cara al futuro, ¿cree que nos van a quitar el empleo?

-No, eso no es real porque igual que desaparecen algunos trabajos, van apareciendo nuevos. 

"En el mercado laboral la competencia es feroz y nosotros no somos competitivos en cuanto a salarios"

-Precisamente hablando de empleo, uno de los principales problemas que las empresas señalan a la hora de contratar es la falta de talento. ¿Se encuentran con dificultades a la hora de encontrar profesionales en su sector?

-En estos momentos estamos rozando el pleno empleo, a lo que se suma que estamos en un mercado de trabajo internacional. En las áreas más fundamentales de matemáticas estamos bien, pero en las áreas aplicadas estamos muy mal porque la competencia es feroz y nosotros no somos competitivos en cuanto a salarios. Además, en el ámbito de la inteligencia artificial, por ejemplo, hay proyectos muy atractivos fuera, por lo que competimos con empresas enormes de todo el mundo, con unos salarios más atractivos y que brindan posibilidades de salir fuera.

-¿Cuál es su estrategia para retener el talento?

-El BCAM es un centro de referencia. Y no todo es el salario, sino que hay otras cosas, como la libertad de investigación y la atmósfera colaborativa que se respira aquí. Tenemos post-doct que se nos han ido, pero otros que han venido. En estos momentos tenemos investigadores de 34 nacionalidades diferentes.