OpenAI, la compañía desarrolladora de ChatGPT, hizo anuncios este lunes en el marco de su primer evento para desarrolladores, en el que reveló los detalles de ChatGPT Turbo, un modelo grande de lenguaje (LLM, por las siglas en inglés) que refuerza algunos de los puntos débiles de sus predecesores, GPT-3.5 y GPT-4.
Uno de los puntos más destacados del DevDay fue el de la nueva longitud de contexto –lo que le permite al chatbot interpretar mejor la información dependiendo de la conversación–, que en esta nueva versión supera los 32K del modelo anterior. Sam Altman, director de OpenAI, explicó que la longitud de contexto asciende a 128K en GPT-4 Turbo.
La longitud de contexto se refiere a los denominados tokens, una forma de expresar datos en la cual cada token puede equivaler a fragmentos de palabras, o incluso a una. Es decir que, mientras mayor sea la longitud de contexto, más extenso será el prompt (texto que escribe el usuario) que podrá interpretar el modelo para generar su respuesta.
En promedio, y dependiendo del prompt, 1.000 tokens equivalen a unas 750 palabras. Por lo que con una longitud de contexto de 128K se obtendrían más de 300 páginas que pueden ser interpretadas por el modelo en sus interacciones con el usuario.
El nuevo GPT-4 Turbo esta disponible desde este lunes para aquellas firmas que acceden a la API de la herramienta. Entre las compañías que se beneficiarán de esta actualización se encuentran Duolingo, Be My Eyes, Stripe y Morgan Stanley. En el evento también se anunció una reducción del precio que pagan empresas y desarrolladores por utilizar el programa.
Mientras tanto, para los usuarios que no son desarrolladores la empresa seguirá ofreciendo el acceso a GPT-3.5 (con una ventana de contexto estándar de 4.96 tokens) a través de la versión gratuita de ChatGPT, y a GPT-4 (con la ventana de contexto de 8.192 tokens) a través de ChatGPT Plus. La versión Turbo, en tanto, se hará pública en las próximas semanas.
Modelos GPT personalizados
Durante su evento la compañía también anunció la llegada de versiones personalizadas de ChatGPT –agentes a los que llamaron GPT's– que serán creadas por la comunidad de desarrolladores y optimizadas para fines específicos.
Estos modelos estarán disponibles para usuarios de ChatGPT Plus y ChatGPT Enterprise a partir de finales de este mes a través de la GPT Store, una nueva plataforma dedicada en la que se podrán encontrar versiones de ChatGPT optimizadas para productividad, educación y entretenimiento, entre otras categorías.
OpenAI aclaró que la creación de estos modelos se podrá realizar sin la necesidad de escribir código de programación. También detallaron que cada modelo particular podrá conectarse con la web para realizar búsquedas, con el generador de imágenes DALL-E y con el intérprete de código de la empresa, capaz de programar y ejecutar comandos.
Cada usuario podrá agregarle los datos que quiera a su propio modelo a través de la sección "Knowledge" (Conocimiento), mientras que con otra opción se podrá conectar al chatbot con servicios externos para, por ejemplo, acceder a emails, bases de datos y aplicaciones como Canva y Zapier.