Sovint es defensa que, mentre una persona revisi el que produeix una IA, els errors quedaran controlats. Un grup de la Universitat de Georgetown i de la Universitat de Washington, format per Mattea Sim, Yael Eiger i Tadayoshi Kohno, ha posat a prova aquesta idea en un preprint publicat a arXiv el 23 de setembre: què passa amb la memòria d'una persona quan el resum que llegeix conté errors.
L'estudi té dues parts. En la primera, els autors van demanar a dos models (ChatGPT-5.5 i Gemini 2.5 Flash-Lite) que resumissin dos vídeos, amb cinc instruccions diferents, i van analitzar les 20 peces resultants. En 19 de les 20 va faltar el fet més central de l'escena, un cotxe que atropella un vianant, i en el 65% hi havia alguna inexactitud crítica. En la segona part, 328 persones van veure el vídeo d'un accident i després van llegir un resum coherent o un d'enganyós, atribuït a una IA o a una persona.
Entre les que havien llegit un resum coherent, el 83,6% va respondre bé què deia un senyal de trànsit clau; entre les del resum enganyós, només el 44,8%. L'efecte va ser el mateix tant si es deia que l'autor era una IA com si era una persona. Els autors avisen que això afecta àmbits on s'utilitzen resums automàtics de vídeos o d'informes, com el treball policial, on qui revisa el resultat també pot sortir-ne influït.
Hi ha límits clars. És un preprint, encara no revisat per parells; la mostra d'anàlisi dels resums és petita (20 textos) i només inclou dos models; i l'experiment mesura la memòria d'un sol vídeo en un entorn en línia. Els resultats no diuen quantes vegades passa a la vida real, però sí que la revisió humana no és una garantia automàtica contra els errors de la IA.