OpenAI ha presentado el nuevo modo Ultrafast (o ultrarrápido, si lo prefieres), con el que aspira a convertir a su modelo de referencia, GPT Sol, en el líder del mercado de las IAs generalistas. En un comunicado en su web, la empresa de Sam Altman ha descrito este modo ultrarrápido de GPT Sol 5.6 como “una nueva categoría de velocidad para la inteligencia de vanguardia, que convierte la velocidad en una ventaja competitiva”.
Veamos en qué consiste.
Hace tiempo que en OpenAI se han tomado en serio recuperar su papel de líderes del sector de la IA de aplicación empresarial, un papel para el que parecían destinados, pero en el que han ido perdiendo posiciones respecto de los distintos modelos que Anthropic ha ido lanzando, con Fable a la cabeza.
No me entiendas mal: como ya hemos visto otras veces ChatGPT es el gran dominador del mercado de consumo “doméstico”, a nivel usuario, todavía bastante por delante de Gemini. Sin embargo, el tirón de Anthropic en el ámbito empresarial es innegable, y OpenAI ha decidido apostar por llevar a Sol a un nuevo nivel a través de la velocidad, sin sacrificar la potencia de cálculo, que era lo que sucedía hasta el momento con los modelos “rápidos” de las distintas empresas de IA.
“Cuando la velocidad ya no exige sacrificar la inteligencia, la IA puede integrarse en las áreas más críticas de una empresa y se abren nuevas posibilidades de trabajo”, explica la empresa sobre este modo Ultrafast, que es hasta 14 veces más rápido que el procesamiento estándar, y que se lanzará primero en la API de OpenAI.
Para ello, Ultrafast genera hasta 750 tokens de salida por segundo, algo que logra gracias a los chips de Cerebras, rival de Nvidia, y una de las empresas de semiconductores y hardware más disruptivas del sector de la IA. Cerebras, con la que OpenAI anunció una alianza en enero, es famosa por haber creado el chip de silicio más grande del mundo enfocado en acelerar el entrenamiento y la inferencia de modelos de lenguaje.
Curiosamente, OpenAI ya ofrecía un Fast mode para GPT-5.6 Sol, capaz de alcanzar velocidades hasta 2,5 veces superiores al procesamiento estándar. Ultrafast lleva ahora esa apuesta mucho más lejos. Para que te sirva como referencia, mediciones independientes de la API estándar de GPT-5.6 Sol sitúan habitualmente su velocidad de generación en el entorno de los 60-80 tokens por segundo, dependiendo de la configuración.
Recordemos que este anuncio se produce justo el mismo día en el que Google ha anunciado la llegada de Gemini 3.7 Flash, que se convierte (a la espera de la llegada de este modo ultrarrápido) en el modelo más veloz del mercado, aunque este nuevo modelo de Google se queda lejos de la capacidad de Sol o Fable en la mayoría de marcadores evaluados.
OpenAI explica que esta hipervelocidad aplicada a Sol será muy útil en determinados aspectos críticos de las operaciones de las empresas. Por ejemplo, cita casos de respuesta rápida ante incidentes, aplicaciones en investigación financiera y seguridad o, por ejemplo, su utilidad en el soporte al cliente. En teoría, el modo ultrarrápido permitirá resolver “problemas complejos de los clientes en tiempo real sin interrumpir la conversación, incluso cuando encontrar la respuesta requiera varios pasos o sistemas”, explican
Además, en el campo de las ventas online, OpenAI apunta a que Ultrafast permitirá agilizar tareas clave, como responder a las preguntas sobre los productos, comprobar el inventario, personalizar las recomendaciones y resolver los problemas de pago mientras el comprador aún está decidiendo, “antes de que la indecisión se convierta en un carrito abandonado”, apuntan.
En cualquier caso, me temo que no podrás probar todavía esta velocidad aumentada.
Hasta el momento, Ultrafast ha estado a disposición de un grupo inicial de empresas de distintos sectores (programación, eCommerce y finanzas entre ellos). La empresa ha explicado que ampliará el acceso a medida que aumente su capacidad, pero ha animado a las empresas interesadas a registrarse para recibir actualizaciones al respecto.
Imagen: ChatGPT
Your email address will not be published. Required fields are marked *
Δ