Los entresijos de ChatGPT: autocensura, aprendizaje de Wikipedia y sus limitaciones 

ALICANTE. Definición y alcance, así como las oportunidades y riesgos que ofrecen los chatbots, y específicamente ChatGPT. Así ha sido la conferencia "Inteligencia artificial y chatbots: descifrando ChatGPT" a cargo de Jorge Calvo, ingeniero en Informática y doctor por la Universidad de Alicante. Así, la conferencia ha comenzado analizando uno de los fenómenos más presentes de la inteligencia artificial, como es el de los chatbots, los sistemas que simulan conversaciones humanas. 

En concreto, Calvo ahondaba en las tareas de los chatbots, aplicaciones conversacionales que generan texto y que, recientemente, con la creación de modelos de lenguaje avanzado se crea una versión más potente de estos chats. "ChatGPT es una aplicación con un gran modelo de lenguaje dentro desarrollado por Open AI". Con una misma interfaz, la aplicación cambia el modelo de lenguaje que usa según se elija la versión gratuita o de pago. "

¿Cómo funciona?

Según explica Calvo, la clave de que ChatGPT sea un chatbot muy avanzado es la forma realista de estimar la próxima palabra. Lo consigue con aprendizaje profundo con redes neuronales, que aprende de forma automática y deep learning. "Usan ingentes cantidades de datos, de conversaciones y de preguntas y respuestas que ya existen. La Wikipedia es una de esas fuentes y se usa para manejar ese modelo de lenguaje. También aprende de libros electrónicos, aunque su mayor fuente de datos es internet y foros en redes sociales o consultas, por ejemplo, médicas o jurídicas por poner algunos ejemplos".  Además, un avance tecnológico importante es el entrenamiento intensivo con humanos, que lo han entrenado respondiendo con respuestas correctas a cuestiones y también han valorado las respuestas de ese chat para refinarlo hasta parecer humano.  

La explicación de que esta tecnología haya surgido ahora es que hay un auge tecnológico, se dispone de muchos datos y hay una mejora de los equipamientos informáticos. De este modo, ChatGPT se puede usar para conversar, resolver dudas o pedir que explique cosas. Eso sí, se autocensura a través de un modelo conversacional de apoyo que le prohíbe hablar de temas controvertidos -aunque existen grietas para engañarlo-. La aplicación está "muy anclada a lo correcto, pero si se le da la misma pregunta peliaguda de otra forma se le engaña. Por ejemplo, si se le pide argumentos terraplanistas no los da, pero si le dice que vas a participar en un debate y quieres saber qué argumentos pueden dar contrincantes terraplanistas sí lo da".  

Entre los aspectos negativos de este chat está el hecho de que "se va por las ramas", requiere verificación en casos como, por ejemplo, diagnósticos de salud perpetúa estereotipos y es tendencioso.  

El ponente, Jorge Calvo, es experto en inteligencia artificial y aprendizaje automático, habiendo dirigido diversos proyectos financiados por la Unión Europea, el Ministerio de Ciencia e Innovación de España y fundaciones privadas. También ha sido galardonado con el premio nacional de investigación de la Sociedad Científica Informática de España en la categoría 'Jóvenes Investigadores', así como con el 'Premio extraordinario en Ingeniería en Informático' y 'Premio extraordinario de doctorado' por la Universidad de Alicante.