Del 'hype' de ChatGPT al ludismo 4.0: ¿cuáles son los puntos fuertes y débiles de la tecnología? 

ALICANTE. La innovación es motor del cambio y ahora, con la inteligencia artificial vive un nuevo punto de inflexión en la historia de la humanidad. Para debatir sobre las últimas novedades con una visión centrada en la parte humana, ética y los valores en la tecnología, la consultora alicantina de marcas Padima, en un evento dentro de la celebración de sus 25 años, ha celebrado el evento "Tecnología y humanismo, el binomio indisoluble". En este sentido, algunos de los puntos comunes, bajo un prisma diferente, fue "el hype de ChatGPT". 

Esta vez, la jornada se ha vivido en la finca Torre Juana, en Alicante, donde la firma dirigida por Eva Toledo e Iván Sempere ha reunido a medio centenar de asistentes. Toledo ha asegurado que "no podemos contemplar la tecnología sin la parte humana ni los valores" y Sempere ha puesto de relieve que "para entender bien, hay que pensar bien. La filosofía ha sido protagonista en los momentos más críticos de la humanidad", también hablando de avances científicos. 

Cinco personas expertas en ética, filosofía y sociología, e inteligencia artificial o el análisis de datos y su aplicación en distintos campos como la medicina, las empresas o las instituciones han llenado el contenido de esta jornada que es parte de la celebración de Padima por su primer cuarto de siglo. Así, el profesor titular de Filosofía moral y coordinador del Máster Interuniversitario en Ética y Democracia de la Universitat Jaume I, Patrici Calvo, ha sido uno de los ponentes. También ha estado Miguel Ángel Román, cofundador del Instituto de Inteligencia Artificial (IIA); Aurelia Bustos, cofundadora de Medbravo e IIA; Celia Sánchez, CEO de 1MillionBot y Raúl Hussein, director del departamento de Servicios de Análisis de Datos Avanzado del Instituto Tecnológico de Informática (ITI).

Humanización de la tecnología

La primera de las ponencias ha corrido a cargo del coordinador del Máster Interuniversitario en Ética y Democracia de la Universitat Jaume I, Patrici Calvo. Hizo un repaso, a través de la historia de los avances tecnológicos relacionados con robots, o sus predecesores, que ya estaban presentes en la Antigua Grecia, en la mitología china, la literatura medieval o los proyectos de Leonardo da Vinci, pasando por Isaac Asimov. "Ya Asimov reflexionaba en el siglo XX de la Inteligencia Artificial (IA) y la moralidad detrás de un anhelo de intentar que las máquinas hicieran lo mismo que los humanos", según Calvo. 

La segunda era de la IA fue un salto de calidad, empezando por el Internet de las Cosas (IoT), la conexión de casi todos los dispositivos, el big data y la 'algoritmización' de cualquier ámbito. ¿Son los algoritmos mejores que las personas?, se preguntaba el profesor. Antes de responder a las preguntas, hizo un repaso de hitos de la IA "que permite hacer cosas impensables hasta hace poco", pero también de peligros. 

Entre las bondades, están la primera imagen de un agujero negro, visualizar la materia oscura o la predicción de terremotos. También lo son los gemelos digitales o "el ChatGPT que se está probando ahora". La medicina ha estado regada de avances, y la digitalización del archivo de Indias, en Sevilla, ha llevado a descubrir escritos que determinan que 80 años antes de Cristóbal Colón, un jesuita portugués ya hablaba de un "nuevo continente". Entre otro sinfín de buenos ejemplos, Calvo también ponía sobre aviso de posibles peligros. 

"Se pide a la IA que haga cosas que el ser humano no puede y eso genera cierto miedo. A mí me parece impresionante y creo que no hay que pararla, sino dirigirla bien. Decirle qué son las buenas prácticas".

Los puntos negativos son también varios. Por ejemplo, la Ley Europea para regular la IA, de 2021, que aún no se sabe cuándo se va a aplicar y que podría quedarse obsoleta. Entre las cuestiones morales está la de la "obsolescencia humana" o el debate de si, cuanto más trabajan las máquinas, la sociedad sería más vulnerable. Otro punto sería el paternalismo tecnológico o pensar que la toma de decisiones de una IA es mejor que la de un humano. "Estamos dejando el rumbo de empresas y sociedades y políticas en manos de algoritmos y generamos heteronomía, somos cada vez menos autónomos".  

La IA también tienen sesgos y puede generar una "tiranía de datos y despotismo" considerando que lo que no es computable no vale, cuando no es así. La irresponsabilidad tecnológica o buscar la excusa de que si una decisión ha sido racista o machista "ha sido culpa del algoritmo" es otro de los puntos negativos. "Necesitamos a alguien que sea responsable cuando esto pasa". El ludismo 4.0 ya tiene ejemplos como el caso de personas en varias ciudades de Francia que salieron en masa para romper cámaras de vigilancia masiva y automáticas en las calles. 

No obstante, aunque se enumeraron más cuestiones que suponen un problema con la tecnología, Calvo ve que se debe proponer una humanización tecnológica en la que personas y tecnología caminen de la mano con los avances, caminando en la intersubjetividad y con acuerdos para que no llegue el ludismo de nuevo y la rebelión humana contra los avances tecnológicos.

'Quitar hierro a ChatGPT'

El confundador del Instituto de Inteligencia Artificial, Miguel Ángel Román, es una de las personas que considera que hay mucho hype con ChatGPT y en su ponencia ha decidido "quitar hierro" a esta herramienta, y también miedos. "Vivimos un momento histórico en el que la IA puede ser motor de cambio y lograr muchas cosas, pero requiere concertar esa inteligencia artificial con el humanismo". 

En este sentido, ante el temor que se manifiesta desde algunas esferas de que la IA "se nos vaya de las manos", Román explica que el hecho de encontrarnos en un salto en esta tecnología no implica que su crecimiento y desarrollo vaya a ser exponencial. "No hay que pensar que siempre el progreso vaya a la misma velocidad. Yo soy optimista en este aspecto, aunque entiendo que hay otras sensibilidades". 

Y es que, el origen de ChatGPT fue en 2020 con una herramienta de predicción de lenguaje que era capaz de completar -con mayor o menor fortuna- frases de un texto. Era GPT 3. Ese sistema no llegó a tener muchas aplicaciones en el mundo real y era incoherente, poco útil para la práctica en empresas, por ejemplo. En 2022 hubo una transición, InstructGPT, que enseñaba a ese GPT 3 a ser más certero con un proceso muy manual. "Eran las personas las que indicaban si algo estaba bien o no y encauzaban la herramienta a acciones que le añadieran valor". Así, llegó el actual GPT 4. 

El cofundador del IIA considera que no es inteligente en sí, "porque la inteligencia es algo nuestro. Hay diferencias notables entre GPT 4 y una persona. Y es que, cuando hablamos de inteligencia artificial nos fijamos en la primera palabra y no en la segunda". Es decir, esta herramienta comprende y razona mejor que la anterior ero está muy lejos de la inteligencia humana. 

También sucede con la conducción autónoma. Hace años que se trabaja en ella, se llega a un 95% en efectividad, pero el 5% restante es muy importante y complejo y la IA no llega a lograrlo. "Eso también le pasa a ChatGPT". Entonces, la utilidad de este chat puede ser muy interesante combinada con funcionalidades externas, para cumplir con las tareas más repetitivas y "deshumanizadoras" de un trabajo, por ejemplo. 

Así, Román también es partidario de "no parar nada, de medir impactos y reaccionar antes de despegar. Lo mejor es probarlo y sacar conclusiones. Es un momento histórico y hay que ver cómo aprovechar esta tecnología para cambiar el concepto de trabajo". 

Una simbiosis entre tecnología y ciencias médicas

La cofundadora de Medbravo e IIA, Aurelia Bustos, ha hablado de su experiencia en el desarrollo de software aplicado a la medicina. También habla de su camino hacia hasta su actual labor de investigación. "Siempre me ha interesado la investigación y por eso, en mi carrera opté por la neurología, que siempre está en evolución. Después estudié ingeniería informática y he logrado esa simbiosis en el trabajo entre ambas disciplinas". 

 Bustos también apuesta por que ChatGPT supone "mucho hype". Argumenta que es un fenómeno que ha llegado como un chispazo y de repente se empieza a poder ver esa inteligencia artificial desde el punto de vista de la máquina. Antes no se veía". ¿Qué habría motivado este salto? Los modelos de lenguaje se han entrenado de forma extensa, pero este desarrollo se basa "en conocimiento estadístico, siento bajar las expectativas. La capa de instrucción humana en ChatGPT y ese feedback le da ese raciocinio. Es importante tener la magnitud de la tecnología".

La cofundadora de Medbravo pone sobre el papel el largo camino que ya llevan los modelos predictivos en el mundo de la medicina. Desde hace unos ocho años, existen muchas aplicaciones de la IA en la medicina para, entre otros usos, un diagnóstico precoz. Por ejemplo, expone el caso de una herramienta para la predicción de cáncer de pulmón que puede determinar qué pacientes podrían sufrir esa enfermedad en el plazo de seis años y priorizar pruebas para esas personas. 

Por otra parte, desde 2019 trabajan con lenguaje natural y, gracias a ese trabajo realizan un aprendizaje supervisado que puede ser usado en un amplio espectro médico a nivel mundial. Eso sí, se trabaja para combatir el efecto de los sesgos. "XDeep-MSI fueron pioneros ya a nivel comercial y con la predicción de la inestabilidad de microsatélites y técnicas de aprendizaje profundo se puede discriminar qué tipo de tejido tiene un tumor en tiempo real".

IA con vocación social

La CEO de 1MillionBot, Celia Sánchez, apuesta por una vocación humanista de la tecnología y explica que ella tuvo interés en estudiar filosofía, aunque optó por estudios empresariales. Eso sí, tiene presente esa visión de pensamiento en los proyectos que se realizan desde la startup alicantina. De este modo, ha puesto algunos ejemplos de sus desarrollos más sociales. 

Así, han trabajado en el proyecto Mentor, junto a Aiju y otras asociaciones. Este plan trabaja por desarrollar una plataforma de conexión social para personas mayores en riesgo soledad. El objetivo es sacar adelante una plataforma de conexión a través de programas de mentoring y de juegos sociales para la capacitación y el empoderamiento de las personas mayores y orientada a favorecer las relaciones personales, prevenir la soledad no deseada y la promoción de hábitos de vida saludables.

Por otra parte, trabajan con una plataforma que puede crear asistentes virtuales y, dándole indicaciones de rol, un nombre y posible información adicional, configurar esta aplicación con funcionalidades que puede insertarse en cualquier página web. Experimentan con la plataforma Millie, de 1MillionBot con ChatGPT y con un bot conversacional para los temas acotados por el cliente. También han trabajado recientemente en un asistente regulatorio para una multinacional.

Asimismo, la firma alicantina creó una herramienta enfocada a mejorar el trabajo en operaciones portuarios. Se trata de 1MillionBot Marítimo, un espacio que integra las distintas soluciones que la Inteligencia Artificial (IA) puede dar a la labor marítima en puertos organizadas en tres elementos principales: los asistentes virtuales interconectados, la optimización de procesos a través de un orquestador y el análisis a través de la ciencia de datos. 

El gemelo digital, en el centro

Así, Raúl Hussein, director del departamento de Servicios de Análisis de Datos Avanzado del Instituto Tecnológico de Informática (ITI), ha centrado su ponencia en el hecho de llevar muchos años de trabajo con gemelos digitales "es una herramienta transformadora de la sociedad. Suena ambicioso, pero voy a argumentarlo". Llegar a un acuerdo de qué es un gemelo digital puede ser complicado. Es una herramienta que simula para optimizar e interviene en diferentes etapas del proceso. Cada sector lo elige según sus necesidades, pero siempre es un apoyo para la toma de decisiones, según mantiene Hussein.

La clave es que ese gemelo digital conecte con el gemelo real y pueda tomar decisiones y actuar en el mismo momento. Hay diferentes niveles de esos gemelos y "cada etapa es un reto en sí mismo. La fase 0 ya lo es". Otra de las claves es querer anticiparse a posibles problemas o retos y buscar la mejor solución. En este caso, un pronóstico requiere de interpretación. "Enlazar este aspecto con la sociedad es una transformación. Vivimos hoy una revolución, un cambio radical. Me cuesta acostumbrarme, y hay novedades casi semanalmente. Por eso, los gemelos son gimnasios para la construcción de machine learning". 

Ha puesto el ejemplo de un algoritmo para aprender a jugar al videojuego Doom. Lo entrenaron de tal modo que aprendió el equivalente a 100 años de juego y ganó un campeonato al que presentaron esta IA de forma anónima. También se usan gemelos en "aplicaciones más realistas" para el aprendizaje por refuerzo para simular un movimiento de brazo de un cobot, el automatizado de Tesla "que también es un gimnasio con el fin de habilitar la simulación de diferentes situaciones que pueden darse conduciendo". y hay otra IA que ha refutado cinco conjeturas matemáticas in ayuda humana. Además de las ponencias, los invitados participaron en una mesa en la que han respondido a preguntas del público.