Helsing, l'empresa alemanya de tecnologia de defensa que subministra drons a Ucraïna, s'ha convertit en el principal aspirant europeu a competir amb la nord-americana Palantir, el sistema Maven de la qual fan servir el Pentàgon i l'OTAN. Dimecres va presentar a Berlín Clarity, una plataforma que l'empresa defineix com d'«intel·ligència agèntica»: centenars d'agents d'IA especialitzats que treballen junts sobre les dades d'una unitat militar.
Segons Helsing, Clarity aplega tot el que una unitat té a l'abast —dades de sensors, informació de fonts obertes, informes escrits i els sistemes que ja fa servir— i ho relaciona per identificar forces, instal·lacions i posicions de l'adversari. Els agents preparen aquesta informació perquè la revisi una persona i, després, l'empaqueten per enviar-la a un sistema d'armes de qualsevol fabricant. L'empresa assegura que una persona ha de triar els objectius i autoritzar cada traspàs a una arma, que només es recomana un objectiu quan diverses fonts independents coincideixen i que cada decisió queda registrada amb el nom del responsable. La plataforma funciona a les instal·lacions de l'exèrcit client, i Helsing diu que els models s'han desenvolupat a Europa i que les dades no surten del control de les forces armades.
El llançament arriba quan l'ús de la IA per triar objectius és més discutit que mai. The Decoder recorda les investigacions de +972 Magazine segons les quals el sistema israelià Lavender va assenyalar fins a 37.000 palestins i la revisió humana sovint durava uns vint segons per objectiu, i les informacions sobre l'ús de Maven amb models de llenguatge per proposar centenars d'objectius en la guerra amb l'Iran. A Europa, l'exèrcit alemany vol començar a incorporar sistemes amb IA l'any que ve, i la promesa d'una eina sota control europeu és un argument comercial de primer ordre.
Les garanties de control humà, però, són de moment declaracions de l'empresa, que ningú no ha verificat de manera independent. Helsing no ha dit si Clarity ja la fa servir cap exèrcit. I creuar diverses fonts no evita que un model s'inventi informació: el risc que una revisió humana feta amb presses es limiti a validar el que proposa la màquina continua sent el centre del debat.