Google DeepMind és el laboratori de Google que desenvolupa els models de frontera de la companyia, com Gemini, i fins ara havia mantingut dins seu els equips que n'avaluen els riscos abans i després de llançar-los. El 5 d'agost, la companyia ja havia fet un primer pas en una reorganització més àmplia del laboratori, quan el seu cofundador Demis Hassabis va passar a la presidència i Koray Kavukcuoglu va assumir el lideratge de la recerca de frontera.
Segons ha revelat el Wall Street Journal, citant un correu intern, Google ha decidit ara treure de DeepMind la seva unitat d'«IA responsable» i traslladar-la a l'àrea d'afers globals, la mateixa que gestiona el lobi i la política pública de la companyia. L'equip, format per unes 90 persones, s'encarrega d'analitzar els riscos químics, biològics, radiològics i nuclears dels models de Google, la manera com les persones hi interactuen i els efectes psicològics dels xatbots. Un portaveu de la companyia ha justificat el canvi dient que «apropar els equips de responsabilitat d'IA reforça la seva capacitat d'informar la seguretat» dels models i productes de Google. Treballadors de DeepMind consultats pel diari, en canvi, han expressat el temor que la mesura redueixi la capacitat d'aquests equips de fer recerca independent i que perdin visibilitat sobre el que passa amb els models més recents.
El moviment és rellevant perquè situa físicament i organitzativament els equips de seguretat fora del laboratori que construeix els models que haurien de vigilar, en un moment en què el mateix Google reconeix que vol convertir DeepMind en una unitat de negoci més estàndard, semblant a la del cercador, i no en una divisió semiautònoma com havia funcionat fins ara. El debat que obre —si la vigilància de la seguretat ha d'estar integrada dins del laboratori que crea la tecnologia o més a prop de l'àrea que en gestiona la política i la reputació— no és exclusiu de Google, i ja ha aparegut en altres laboratoris d'IA on equips de seguretat han denunciat pèrdua d'influència interna.
La informació es basa en un correu intern filtrat i en fonts d'empleats no identificats, i la mateixa Google en dona una versió que contradiu la lectura dels treballadors consultats. Com que el canvi s'acaba d'anunciar, encara no hi ha manera de comprovar quin efecte pràctic tindrà sobre la revisió de seguretat dels pròxims models de Google, ni si la companyia en farà una avaluació pública més endavant.