Els models de decisió són una categoria nova: no redacten textos, sinó que trien ràpidament entre diverses opcions i diuen amb quina confiança ho fan. Fins ara, el més consultat era Jev, de l'empresa TypeSafe. Aquest dijous OpenAI ha posat la seva resposta a disposició de tots els clients.
La Decisions API es va anunciar el 29 de setembre, a la jornada per a desenvolupadors d'OpenAI. Per aconseguir-la, l'empresa no ha creat un model calibrat de zero: ha reconfigurat el seu model ChatGPT Luna perquè pensi més de pressa i costi menys. La versió pública afegeix veu i imatge, i permet triar la regió on es processa la petició per reduir l'espera.
Segons el responsable de producte, el temps de resposta ha passat d'un a tres segons a entre 100 i 180 mil·lisegons. Box, Datadog, Ramp i Speak l'han provat; el director tècnic de Speak diu que el temps entre accions va baixar d'1,4 segons a 0,13. L'article no en dona el preu, només que aquests models solen ser més barats que els de llenguatge.
Els rànquings independents no li són tan favorables. A l'Artificial Analysis Decision Index, el model d'OpenAI és el 14è i Jev el 3r; a l'AIM System One Index, el 8è i el 7è. TypeSafe, valorada en 7.600 milions de dòlars segons TechCrunch, manté el lideratge d'ús a OpenRouter. Convé llegir aquestes xifres amb prudència: són índexs recents i els resultats depenen de la prova que s'hi faci servir.