Miembros del equipo investigador de la UPV, en una imagen cedida por la universidad.
Un equipo de investigadores del instituto VRAIN de la Universitat Politècnica de València (UPV) ha colaborado con OpenAI en la evaluación y mejora de GPT-4, el nuevo modelo de lenguaje basado en inteligencia artificial (IA).
El equipo integrado en el instituto VRAIN de la UPV ha sido parte del "red team" de GPT-4, cuya misión era encontrar fallos y vulnerabilidades en el sistema, asà como evaluar sus capacidades y posibles riesgos asociados a su uso, informa la universidad.
La colaboración se realizó debido a la experiencia del grupo de investigación en la evaluación de la Inteligencia Artificial (IA) y sus anteriores trabajos con OpenAI.
Investigadores de OpenAI se pusieron en contacto con el equipo de investigadores de VRAIN de la UPV para solicitar su ayuda en la evaluación de GPT-4, dada la relación entre sus áreas de investigación.
El equipo, compuesto por Yael Moros, Lexin Zhou, Wout Schellaert, Cèsar Ferri y José Hernández-Orallo, ha trabajado con otros investigadores de fuera y dentro de OpenAI en el "red team".
Su labor consistió en la identificación de riesgos y vulnerabilidades en el sistema, adoptando la mentalidad y métodos de posibles atacantes, asà como en la evaluación de las capacidades de GPT-4 y el potencial exceso de confianza de los usuarios en el mismo.
El trabajo realizado por el equipo del instituto VRAIN de la UPV ayudó a identificar riesgos iniciales, motivar la investigación sobre seguridad, realizar pruebas iterativas en áreas clave y reducir los riesgos en muchas áreas identificadas.
También permitió comprender mejor las capacidades de GPT-4, sus mejoras con respecto a modelos anteriores y si estaba avanzando en la dirección deseada.
Los investigadores destacan la determinación del "red team" para conseguir sistemas más seguros y el gran salto en rendimiento de GPT-3 a GPT-4 en solo dos años, aunque consideran que es importante utilizarlo con cautela para evitar una dependencia excesiva.
Opinan asimismo que tiene un gran potencial para cambiar la forma en que se trabaja, automatizando tareas tediosas y permitiendo centrarse en tareas más desafiantes y divertidas.
En el ámbito de la ingenierÃa informática, GPT-4 podrÃa influir significativamente en el proceso de desarrollo de software y hardware, mejorar la productividad en tareas como generación de código, detección y corrección de errores, generación de documentación, revisión y optimización de código, extracción y resumen de conocimientos o ciberseguridad, entre otros.
CategorÃas de la noticia
Quizá te interese
