Durant anys, els xips de Nvidia han estat l'opció per defecte en IA en bona part perquè el seu programari, CUDA, funciona de sèrie amb PyTorch, la biblioteca amb què, segons Amazon, s'escriu un 85% de les aplicacions d'IA. PyTorch va néixer a Facebook i des del 2022 depèn de la Linux Foundation.
Aquest dilluns, Amazon Web Services ha publicat TorchNeuron, una eina que, segons l'empresa, permet passar una aplicació de PyTorch als seus xips Trainium amb una sola línia de configuració i sense reescriure codi. AWS diu que també aportarà codi al projecte principal de PyTorch per treure'n les dependències d'un xip concret. Com a exemple, cita Deepgram, una empresa de veu amb IA, que després de passar a Trainium assegura que processa un 70% més d'àudio per dòlar amb una precisió de nivell de producció. Colin Brace, vicepresident de programari d'Annapurna Labs, la divisió de xips d'Amazon, va dir a TechCrunch que Trainium fa entrenament i inferència en un sol xip i que això estalviarà diners a les empreses emergents, encara que no tingui el preu per resposta més baix.
Amazon presenta l'oferta com una manera d'evitar la dependència d'un sol proveïdor i contrasta el seu núvol amb els «neoclouds» (CoreWeave, Nebius, Firmus), que segons ella van lligats al maquinari de Nvidia. Ja es poden portar aplicacions de PyTorch a xips d'AMD i d'Apple amb un canvi de configuració semblant, així que el moviment d'Amazon se suma a una tendència, no n'inaugura una.
Les xifres de rendiment i d'estalvi són d'AWS i no les ha verificat ningú independent. TechCrunch recorda també que PyTorch existeix precisament per amagar la complexitat del maquinari: desvincular-lo de Nvidia pot acabar donant més maldecaps de configuració en lloc de més opcions, i encara cal veure si els preus baixaran de debò per als desenvolupadors.