Investigadores de la UPV participan en el desarrollo un modelo de lenguaje basado en IA
Foto: AP
23/04/2023 -
ALICANTE (EP). Un equipo de investigadores del instituto Vrain de la Universitat Politècnica de València (UPV) ha colaborado recientemente con OpenAI en el 'red team' de GPT-4, el nuevo modelo de lenguaje basado en Inteligencia Artificial (IA), para su evaluación y mejora.
Este proyecto tenía como misión encontrar "fallos" y "vulnerabilidades" en el sistema, así como evaluar sus capacidades y posibles riesgos asociados a su uso, según ha indicado la UPV en un comunicado.
El equipo, compuesto por Yael Moros, Lexin Zhou, Wout Schellaert, Cèsar Ferri y José Hernández-Orallo, ha identificado estos riesgos y vulnerabilidades en el sistema, tras adoptar la mentalidad y métodos de posibles atacantes, y evaluar de las capacidades de GPT-4 y el "potencial exceso de confianza" de los usuarios en el mismo.
El trabajo ha ayudado a identificar riesgos iniciales, motivar la investigación sobre seguridad, realizar pruebas iterativas en áreas clave y reducir los riesgos en muchas áreas identificadas. También ha permitido comprender mejor las capacidades de GPT-4, sus mejoras con respecto a modelos anteriores y si estaba avanzando en la dirección deseada.
Los investigadores han destacado la determinación del 'red team' para conseguir sistemas "más seguros" y el "gran salto" en rendimiento de GPT-3 a GPT-4 en dos años. Aunque, han señalado que "es importante utilizar GPT-4 con cautela para evitar una dependencia excesiva".
Asimismo, han resaltado que tiene un "gran potencial" para cambiar la forma en que se trabaja, automatizando tareas "tediosas" y permitiendo centrarse en tareas "más desafiantes" y "divertidas".
En el ámbito de la ingeniería informática, GPT-4 podría influir "significativamente" en el proceso de desarrollo de software y hardware, mejorar la productividad en tareas como generación de código, detección y corrección de errores, generación de documentación, revisión y optimización de código, extracción y resumen de conocimientos o ciberseguridad, entre otros.