"Traduciremos los modelos en una toma de decisiones que sea fiable y ética"
Novi Quadrianto
Investigador de BCAM
"Nuestra perspectiva es el entendimiento mutuo entre los humanos y las máquinas"
Andrea Passerini
Coordinador del proyecto TANGO
La Inteligencia Artificial está llamada a revolucionar la vida tal y como la conocemos. Foto: Wikipedia
Euskadi se une a la lucha europea de 'humanizar' la Inteligencia Artificial
Un grupo de investigadores del BCAM trabaja en un consorcio europeo para llevar la IA a hospitales o tribunales de justicia
Idoia Alonso NTM BILBAO - La inteligencia artificial (IA) encierra un enorme potencial para mejorar las decisiones humanas y evitar los sesgos en escenarios de alto riesgo. Hasta la fecha, sin embargo, el uso de IA ha sido mínima en entornos como hospitales, tribunales y administraciones públicas. Pero es cuestión de tiempo que la IA penetre en estos ámbitos, donde la toma de decisiones adquiere una trascendencia capital. Un grupo de investigadores del Basque Center for Applied Mathematics (BCAM) trabaja dentro de un consorcio europeo en el que participan científicos de 9 países en el proyecto TANGO. En otoño de 2023 arrancará esta investigación que persigue establecer los fundamentos teóricos y el marco computacional de la toma de decisiones hombre-máquina, allanando el camino para la próxima generación de sistemas de IA centrados en el ser humano.
Dicho de otro modo, TANGO persigue la comprensión mutua entre humanos y máquinas para desarrollar sistemas de IA más eficientes. El investigador del BCAM y
coordinador de la investigación, Andrea Passerini, compara este proyecto con el baile argentino por antonomasia al que Carlos Gardel puso banda sonora. "¡Hacen falta dos para TANGO! Nuestra perspectiva es que un profundo entendimiento mutuo entre humanos y máquinas es esencial para el desarrollo de sistemas de IA realmente eficaces e innovadores que puedan ampliar las capacidades humanas de razonamiento y toma de decisiones", afirma Passerini.
El profesor Novi Quadrianto (Universidad de Sussex) colaborará desde el Centro Vasco de Matemática Aplicada. "Estamos súper emocionados de empezar a trabajar en este importante proyecto con excelentes miembros del consorcio en el que lideraremos el desarrollo de modelos fiables con consideraciones de imparcialidad y sesgo y traduciremos esos modelos fiables en una toma de decisiones ética y fiable", explica. El trabajo en Euskadi "se llevará a cabo como parte del BCAM Severo Ochoa Strategic Lab on Trustworthy Machine Learning", añade el profesor Quadrianto.
Según explican ambos investigadores el impacto potencial del mar
co TANGO se evaluará en un conjunto de casos "de uso real de gran repercusión social" como el apoyo a las mujeres durante el embarazo y el posparto, la ayuda a los equipos quirúrgicos en la toma de decisiones intraoperatorias, el respaldo a los gestores y solicitantes de préstamos en los procesos de deci
BCAM
4
150 investigadores. El Basque Center for Applied Mathematics (BCAM) es un centro de
investigación internacional en el ámbito de la Matemática Aplicada y centro promovido por el Departamento de Educación de Gobierno vasco y que es parte de la red BERC (Basque Excellence Research Centers). Actualmente tiene una plantilla de más de 150 investigadores de 25 nacionalidades que trabajan en diversas áreas, desde la ciencia de datos o la matemática computacional hasta el modelado matemático.
sión sobre la concesión de créditos o la colaboración con los responsables de las políticas públicas en el diseño de incentivos y la asignación de fondos. El éxito de estos casos prácticos fomentará la adopción de TANGO como marco de referencia para desarrollar una nueva generación de sistemas de IA sinérgicos y "reforzará el liderazgo de Europa en IA centrada en el ser humano", dicen.
Respecto al papel que puede jugar la IA en los embarazos, Passerini destaca que la idea es desarrollar un agente de aprendizaje que ayude a las mujeres embarazadas a alcanzar el bienestar físico y mental durante la gestación. "El agente -afirma- controlará estado de salud y bienestar de las futuras madres y entablará diálogo personal para obtener información sobre sus dudas, temores y peticiones. Sobre sus dudas, temores y peticiones, para ayudar a identificar las que puedan poner en peligro tanto la salud de la futura madre como la del feto y proporcionar sugerencias".
En cuanto a los equipos quirúrgicos, el objetivo de TANGO es "desarrollar un sistema de IA que ayude al equipo quirúrgico en el proceso
de toma de decisiones o llamando la atención sobre aspectos del paciente que puedan indicar posibles complicaciones de acción". La IA también puede mejorar los procesos de decisión sobre la concesión de créditos. En este sentido, estos investigadores señalan que el sistema "ayudará tanto al funcionario del banco a tomar una decisión sobre si aceptar o rechazar una solicitud de préstamo sobre bases justas y dar explicaciones transparentes, y al solicitante a comprender qué medidas tomar para mejorar sus posibilidades de que se le conceda".
Ambos científicos afirman que otra de las posibles aplicaciones de la IA se podría dar en el campo de la política en el sentido de que "ayudará a los responsables de la Administración a dar forma a los incentivos y al bienestar mediante la predicción de las consecuencias de determinadas medidas y aprovechar las nociones de la IA cooperativa para maximizar el bienestar de grupos vulnerables enteros". La UE reconoce la necesidad de fomentar la investigación y la innovación en este campo y en marzo TANGO obtuvo 8 millones de euros de financiación.