La UA obtiene una Cátedra Enia para el Desarrollo de una Inteligencia Artificial ética y responsable

ALICANTE. La Universidad de Alicante ha sido una de las seleccionadas por el Ministerio de Asuntos Económicos y Transformación Digital para crear cátedras universitarias dedicadas a la investigación, divulgación, docencia e innovación sobre Inteligencia Artificial. En concreto, el proyecto de la UA elegido es Una aproximación holística para el desarrollo de la Inteligencia Artificial Ética y Responsable.

La línea de trabajo de la Cátedra Enia de la Universidad de Alicante se centrará en garantizar que la toma de decisiones basadas en aplicaciones de IA produzca salidas que garanticen la equidad y ética de dichas decisiones. 

Un aspecto del desarrollo de la IA ha sido una preocupación constante de la Unión Europea, que se ha erigido como el principal garante mundial de los derechos de los ciudadanos en materia de protección, uso (entre otros el que realiza la IA), reutilización y derechos sobre los datos generados por los ciudadanos. En esta línea, en abril de 2021, la Comisión Europea aprobó el primer marco regulador de la Unión Europea para la Inteligencia Artificial, donde entre otros, se hace especial énfasis en aspectos críticos alrededor de la IA, como es el garantizar la equidad de las decisiones adoptadas o promulgar la necesidad de la explicabilidad de los modelos, especialmente en sectores críticos como la salud o conducción autónoma, entre otros, dado el alto impacto que tiene sobre la calidad de vida de los ciudadanos. 

Precisamente esta cuestión es en la que se centrará la Cátedra Enia de la Universidad de Alicante. El avance de la aplicación de la IA hace que cada vez sea más difícil garantizar estos aspectos en el desarrollo de aplicaciones basadas en la IA ya que estas aprenden con cantidades ingentes de fuentes de Big Data. Un ejemplo de ello son las aplicaciones basadas en los modelos del lenguaje grandes (Large Language Models, LLMs), como el ChatGPT, donde los millones de variables que maneja, hace prácticamente inviable detectar los aspectos éticos mencionados con anterioridad.

La Cátedra ENIA de la Universidad de Alicante estará dirigida por el catedrático Juan Carlos Trujillo, experto en procesamiento y análisis de Big Data e Inteligencia Artificial. Trujillo figura entre los investigadores más citados (índice H) y reconocidos a nivel mundial en sus principales temas de investigación, además de tener una larga experiencia en la dirección de proyectos de investigación competitivos y de transferencia de conocimiento. Juan C. Trujillo se ha especializado en la detección de sesgos en los datos de entrenamiento, aplicación de la IA en salud y, en la actualidad, está abordando la explicabilidad de los LLMs. 

El investigador de la UA destaca que  "el Big Data es la gasolina de la IA. Una de las razones que explican el gran auge de la IA y su impacto en prácticamente todos los sectores económicos, es la constante generación de cantidades ingentes de datos y la capacidad de procesamiento y análisis del Big Data. Cuantos más datos, los modelos de Aprendizaje Automático (Machine Learning) y Aprendizaje Profundo (Deep Learning) podrán aumentar su capacidad de aprendizaje y las decisiones serán más acertadas".

Cátedra Enia UA

La Cátedra ENIA de la UA tiene un marcado carácter interdisciplinar y multidisciplinar, ya que, además de investigadores que abordan distintos aspectos de la IA desde la perspectiva del desarrollo de aplicaciones, destaca el hecho de que la mitad de los integrantes provienen de la disciplina del Derecho, aportando expertos a nivel mundial en materia de ética y responsabilidad civil de la IA. "Esto hace que seamos optimistas en cuanto a las investigaciones que se pretenden realizar en el marco de esta Cátedra ENIA y que llevará a la UA a la vanguardia del desarrollo de aplicaciones de IA que garanticen la ética y responsabilidad de las mismas", señala el director de la Cátedra Enia de la UA quién también ha apuntado que "otro de los aspectos a destacar es la igualdad de género del proyecto, que es del 50%".

Algunas líneas de trabajo que se abordarán en el marco de la Cátedra ENIA son los sesgos de datos, la  explicabilidad y fiabilidad de la IA, la hibridación de la IA y el Big Data, el régimen jurídico de los datos abiertos y el Big Data y la responsabilidad civil y el seguro asociado a la IA. 

La Cátedra ENIA cuenta con el asesoramiento y participación de la doctora Nuria Oliver. Además, en la Cátedra ENIA también participa el nodo ELLIS Alicante, que dirige la propia Oliver y que se ocupa del desarrollo de la IA ética y responsable centrada en el ser humano. Así, en el marco de la Cátedra ENIA de la UA, se realizará difusión en la Red ELLIS Europea de los avances que se realicen en el seno de la Cátedra. Además, varios participantes también colaboran con la Red CLAIRE, lo que garantiza la máxima difusión internacional de los resultados obtenidos en el marco de la Cátedra. Además de estas dos Redes, se han diseñado otras actividades de difusión nacional e internacional para garantizar el máximo impacto de los resultados de las investigaciones realizadas. De esta manera,  la Cátedra Enia de la UA reúne a este grupo ampliamente multidisciplinar y con gran talento del cual se espera que obtenga avances significativos en los próximos años.

Transferencia de conocimiento

Un apartado a destacar de la Cátedra ENIA de la UA es el apoyo y participación directa de diferentes empresas tecnológicas que destacan por estar a la vanguardia de la innovación tecnológica en sus respectivos sectores. En el seno de la Cátedra ENIA de la UA se ha planificado el desarrollo de soluciones de Inteligencia Artificial para que estas empresas continúen estando a la vanguardia tecnológica en sus respectivos sectores. 

Destaca el principal patrocinio de empresas como AVAMED, Bumerania, StrateBI, y OneMillionBot, con las que se han definido de forma conjunta problemas de innovación para que las investigaciones en el seno de la Cátedra ENIA les reporte un retorno inmediato y les un valor añadido frente a sus competidores. En otro orden, otras empresas patrocinadoras como Balearia o Lucentia Lab, colaborarán de forma activa para incorporar las principales soluciones tecnológicas derivadas de la Cátedra en sus modelos de negocio.

Además, la propuesta de la Cátedra ENIA de la UA destaca también por el marcado carácter innovador y de emprendimiento de la Ciudad de Alicante, donde destacan iniciativas como el propio Parque Científico de la UA, Distrito Digital (Generalitat Valenciana), o Alicante Futura (Ayuntamiento de Alicante), que albergan en su totalidad decenas de empresas tecnológicas, y que permitirán seguir construyendo un ecosistema innovador en la ciudad de Alicante, en el que la Universidad de Alicante es referente a través de esta Cátedra ENIA.

La Cáttedra Enia de la UA ha recibido un gran apoyo institucional desde organismos de diversa índole y signo político como los Ayuntamiento de Alicante y San Vicente, la Diputación de Alicante, la Generalitat Valenciana, la Cámara de Comercio, AEPA, ICOPAL, ICALUI, CEV o UEPAL entre otros.