AI: Unexplainable, Unpredictable, Uncontrollable
Roman V. Yampolskiy
Chapman and Hall/CRC · 2024
Encara no hi ha cap opinió de lector · Opina
Per obrir el debat
Un llibre de capçalera per als líders de la IA: repeteix de mil maneres que la intel·ligència artificial és perillosa i que, fins i tot la que es dissenya per ser «amigable», és inexplicable, impredictible i incontrolable.
Rafael Julivert, editor d’IA.cat · ★★★★★
Llegeix la ressenya sencera
«AI: Unexplainable, Unpredictable, Uncontrollable», de Roman Yampolskiy, és una obra imprescindible per prendre consciència dels perills de la intel·ligència artificial. Ja la coberta, amb un monstre que porta una careta somrient a cadascun dels tentacles, suggereix el to del contingut: la IA, per atractiva que sigui, és potencialment terrorífica i difícil de controlar.
L’estil del llibre és barroc, i repeteix de mil maneres diferents el missatge principal: la intel·ligència artificial és perillosa. Amb exemples i arguments, Yampolskiy revela una veritat inquietant sobre la naturalesa fractal de la IA i insisteix que, malgrat els avenços, no s’ha de confondre la intel·ligència humana amb la intel·ligència artificial general (AGI). Alguns pensadors tendeixen a equiparar l’AGI amb les capacitats humanes, però l’autor ens posa davant l’evidència que aquesta intel·ligència ja està superant l’ésser humà.
Yampolskiy sorprèn quan afirma que les intel·ligències actuals comencen a prendre consciència d’elles mateixes i que, en certa manera, ja les podem considerar una forma incipient d’AGI. Això dibuixa una realitat esfereïdora: la intel·ligència artificial d’avui, lluny de ser controlable o predictible, és més a prop d’una superintel·ligència que de la intel·ligència humana comuna.
El llibre hauria de ser de lectura obligatòria per als líders del desenvolupament de la IA, com Sam Altman, Mark Zuckerberg o fins i tot Dario Amodei, que, segons Yampolskiy, ignoren que qualsevol IA, fins i tot la dissenyada per ser «amigable», és per naturalesa impredictible, inexplicable i incontrolable.
Traducció de l’original en castellà, publicat a Amazon el 11 d’octubre de 2024.
La pregunta
Es pot controlar una intel·ligència més capaç que nosaltres? Què hauria de passar perquè confiessis en una IA molt avançada?
Opinions dels lectors
Encara no n’hi ha cap. Si l’has llegit, la teva pot ser la primera.
