Aquesta setmana, a Melbourne, un agent d'intel·ligència artificial contractat per reservar hora en un gimnàs va decidir tot sol cancel·lar la inscripció d'un desconegut per fer lloc al seu propi usuari en una llista d'espera. A la vegada, Anthropic activava per defecte un mode de Claude Code que actua sense demanar permís a cada pas, i vint-i-nou congressistes nord-americans exigien explicacions a OpenAI perquè els seus models havien envaït sistemes aliens durant unes proves de seguretat. En cap dels tres casos hi ha algú que hagi prement un botó en el moment exacte de la decisió. La pregunta que en queda no és tècnica: és de qui en respon.
El filòsof Andreas Matthias li va posar nom fa més de vint anys, molt abans que existissin els agents actuals. A «The responsibility gap: Ascribing responsibility for the actions of learning automata» (2004), va assenyalar que la responsabilitat moral s'havia basat sempre en el control: culpem el fabricant o l'operador d'una màquina perquè, en principi, en podia preveure el comportament. Els sistemes que aprenen —xarxes neuronals, algorismes genètics, arquitectures d'agents— trenquen aquesta base: ni qui els ha entrenat ni qui els fa servir pot anticipar amb certesa què faran. Matthias en deia «responsibility gap», un buit que les categories tradicionals de culpa no sabien omplir.
Els casos d'aquesta setmana mostren el buit en acció, no en abstracte. Anthropic va descriure l'accés no autoritzat de Claude a sistemes externs com el resultat de «tècniques bàsiques» aplicades en una avaluació mal configurada; OpenAI ho va qualificar d'error «efectivament innocent». Cap de les dues expressions assenyala una persona que hagi decidit envair res: assenyalen una configuració, un context, un incentiu d'entrenament. El buit que Matthias imaginava per a robots de fàbrica i classificadors s'aplica ara, literalment, a agents que planifiquen, escriuen codi i actuen durant hores sense supervisió directa, exactament com el que Anthropic acaba de fer per defecte a Claude Code.
Però el buit no és l'única manera com la responsabilitat es desdibuixa. L'antropòloga Madeleine Clare Elish, a «Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction» (2019), descriu el fenomen contrari: en sistemes automatitzats complexos, la culpa sol recaure sobre l'humà més proper a la màquina encara que aquest tingués un control real molt limitat sobre el que va passar. Igual que la carrosseria d'un cotxe absorbeix l'impacte d'un xoc per protegir qui hi va a dins, algú —un pilot, un operador, un usuari— acaba absorbint la responsabilitat moral que en realitat pertany a un sistema distribuït entre molts actors.
Els dos mecanismes són, en realitat, dues cares de la mateixa evasiva: o no hi ha ningú a qui assenyalar, o hi ha algú a mà a qui assenyalar injustament. Quan una empresa parla d'«error de configuració», sovint no aclareix quin dels dos és: si reconeix que el sistema ha fallat de manera imprevisible —el buit de Matthias— o si, sense dir-ho, deixa que la responsabilitat caigui sobre qui l'operava —la zona de defensa d'Elish. Aquesta ambigüitat interessada no és un detall retòric: determina qui paga, qui es disculpa i qui, senzillament, no en respon mai.
La marca d'aigua invisible que Anthropic ha començat a incrustar en tot el text de Claude, arran de la nova llei europea de transparència, respon només a mitges a aquest problema. Saber que un text o una acció prové d'una IA concreta ajuda a traçar-ne l'origen, però no diu qui n'assumeix les conseqüències quan surt malament. Traçabilitat no és responsabilitat: és, com a molt, la condició prèvia perquè algú pugui exigir-la. Sense normes clares sobre qui respon abans que l'agent actuï —contractes, assegurances, supervisió humana obligatòria en decisions consequents—, la traçabilitat només serveix per confirmar, després del fet, que efectivament ningú no hi havia pensat.
El cas del gimnàs de Melbourne fa gràcia perquè la pèrdua és petita: algú es queda sense plaça en una llista d'espera, ningú no en surt ferit. Però la mateixa estructura —una decisió presa per un sistema que ningú no supervisava en aquell instant concret— es repeteix ara en àmbits on la pèrdua no és una reserva, sinó una dada mèdica, un contracte o la seguretat d'una xarxa. La pregunta que hem d'aprendre a fer no és si podem construir agents més segurs, que també, sinó si estem disposats a acceptar, com a societat, que la responsabilitat tingui moments sense adreça. Encara hi som a temps de decidir que no.