OpenAI ha basat bona part de la seva estratègia de l'últim any a millorar la qualitat dels seus models de raonament, però la velocitat de resposta s'havia convertit en un coll d'ampolla per a aplicacions que necessiten actuar en temps real, com la detecció de frau o l'atenció al client automatitzada. Fins ara, l'única manera d'accelerar una resposta era canviar a un model més petit i menys capaç.
La companyia ha presentat Ultrafast, una nova capa de servei per a GPT-5.6 Sol que multiplica per catorze la velocitat de processament respecte al mode estàndard i arriba als 750 tokens de sortida per segon, segons ha explicat OpenAI. L'acceleració es basa en un acord amb el fabricant de xips Cerebras, i de moment només hi tenen accés un grapat de clients durant la fase de proves.
OpenAI presenta Ultrafast com un canvi de direcció -"més feina útil per segon", en paraules de la companyia- i no com una simple reducció de mida del model per guanyar temps de resposta. Els usos previstos inclouen la resposta a incidents de seguretat, l'anàlisi de mercats financers, l'atenció al client i aplicacions de veu, on la latència és determinant per a l'experiència.
La funció es manté en fase de vista prèvia amb accés restringit i disponible només a través de l'API, sense data confirmada per a una obertura més àmplia ni detalls de preu diferenciat respecte al mode estàndard. OpenAI ha dit que ampliarà l'accés a mesura que creixi la capacitat, però no ha concretat cap calendari.