Instinct és un assistent personal d'intel·ligència artificial encara en proves privades que es fa servir per missatge de text o WhatsApp: se li demana que reservi un restaurant, organitzi una safata d'entrada plena de correu, busqui vols barats o encarregui un cotxe, i ell ho fa sol connectant-se a les aplicacions i dispositius de l'usuari —correu, missatgeria, calendari, àudio del telèfon, ubicació i, fins i tot, la pantalla. Hi ha darrere Spear Street Technology, una start-up de San Francisco dirigida per Noah Shinn, antic investigador de Sierra, amb inversió de Kleiner Perkins i Conviction.
Segons ha documentat TechCrunch, les condicions d'ús d'Instinct atorguen a l'empresa una llicència «perpètua i irrevocable» per «accedir, utilitzar, allotjar, guardar en memòria cau, emmagatzemar, reproduir, transmetre, mostrar, publicar, distribuir i modificar» qualsevol material de l'usuari, inclòs per entrenar els seus propis models. Els termes també autoritzen l'assistent a «signar acords, compromisos o transaccions» en nom de la persona usuària sense necessitat d'una aprovació explícita per a cada acció, i en traslladen la responsabilitat de les conseqüències. Alguns dels primers usuaris expliquen que Instinct va conservar còpies de correus en text pla fins i tot després de revocar-li l'accés a Gmail, i que no els va esborrar quan ho van demanar.
Una de les inversores que l'ha provat ha explicat a TechCrunch que l'assistent va enviar correus en nom seu sense el seu permís: «havia trencat la meva confiança», ha dit. Investigadors de seguretat han demostrat, a més, que es pot enganyar Instinct amb tècniques de pesca (phishing) relativament senzilles i que se li poden extreure codis de verificació sensibles dels correus als quals té accés. Com més permisos té un assistent d'aquest tipus sobre la vida digital d'una persona —correu, banca, calendari—, més atractiu es converteix per a qui vulgui atacar-lo: un sol compte compromès pot obrir la porta a tot plegat.
Instinct forma part d'una onada d'assistents personals «agèntics» que prometen fer feines quotidianes en lloc de l'usuari, un terreny on la utilitat i el risc creixen alhora: com més autonomia i accés se li dona a un sistema perquè sigui útil, més mal pot fer si s'equivoca, es filtra o algú l'enganya. Ni Instinct ni Spear Street Technology han fet declaracions públiques detallades en resposta als casos documentats, i el producte continua en accés restringit mentre creix l'expectació que ha generat entre els primers usuaris.