iaintel·ligènciaartificial.cat← Portada

EMPRESES · 4 MIN

American Express crea un sistema perquè un agent d'IA no pugui comprar res que el client no hagi aprovat

El marc «Intent Intelligence» desa què ha demanat l'usuari abans de pagar i bloqueja la compra si l'agent s'aparta de l'encàrrec; Amex vol que esdevingui un estàndard del sector.

Il·lustració generada amb IA: American Express crea un sistema perquè un agent d'IA no pugui comprar res que el client no hagi aprovat
Il·lustració generada amb IA
Escolta:

Els agents d'IA personals ja no es limiten a recomanar: cada vegada més sovint compren en nom de l'usuari. El problema, explica TechCrunch, és que els models de llenguatge no sempre fan el mateix davant del mateix encàrrec, i un agent pot acabar sortint-se de les instruccions i fent una compra que ningú havia autoritzat. American Express vol resoldre aquest risc abans que es faci gran el comerç fet per agents.

La companyia ha presentat l'Intent Intelligence Framework, un marc que captura la intenció de compra del client abans que l'agent pagui. Funciona en cinc passos: una API desa l'encàrrec i els límits (comerç, pressupost màxim, preferències); el client s'identifica i l'aprova; es genera un identificador d'intenció i una credencial amb les restriccions principals; amb aquesta credencial s'obté una credencial de pagament digital, que l'agent fa servir a la caixa en lloc del número real de la targeta; i tot plegat queda registrat per si cal prevenir un frau o resoldre una disputa.

L'exemple de la companyia és clar: si el client demana unes vambes Nike blanques del número 9 i l'agent en demana unes d'Adidas, Amex podria bloquejar la transacció. Hannah Bozian, de l'àrea d'Agentic Partnerships and Strategy d'Amex, diu que la diferència és que la intenció s'incorpora al principi del procés, no després. Amex hi veu també un registre de què ha pogut fer cada agent i quan, útil contra el frau, i preveu que els agents actuaran amb més autonomia, per exemple reposant productes de la llar on només importen el preu i la mida.

Convé distingir l'anunci del resultat. Amex vol que sigui un estàndard del sector, però l'article no recull cap compromís d'adopció, ni dates, ni preu, ni socis amb nom: diu només que parla amb actors de l'ecosistema de pagaments. La companyia afirma que encara no ha vist augmentar les disputes per compres d'agents i que construeix l'eina de manera preventiva. La informació surt d'un únic mitjà i de declaracions de l'empresa.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.