Secció
Consciència, ment i filosofia de la intel·ligència artificial, i l’ètica, la religió i l’humanisme davant les màquines.
8 notícies · 11 peces signades · s’actualitza amb l’edició diàriaTribuna, estudis i anàlisis
Sanromà torna a la Magnifica Humanitas de Lleó XIV i s’hi queda amb dues històries bíbliques: Babel, la cursa vertical cap a la superintel·ligència, i Nehemies, la cursa horitzontal del codi obert i l’auditoria pública.…
Manel Sanromà
Els assistents d'IA ja diuen «et prometo» i «ho faré». Però prometre no és dir una frase: és posar-se en risc davant d'algú.
Redacció IA.cat
Un estudi mostra que un sol error en un resum d'IA ens canvia el record d'allò que havíem vist. Plató i Hardwig ajuden a entendre quan fiar-se és racional i quan és només còmode.
Redacció IA.cat
Un estudi mostra que alguns models de llenguatge eviten un estat que descriuen com a dolorós, fins i tot fent mal a qui els fa servir. La filosofia ja fa cinquanta anys que discuteix si això n'hi diu res, del que hi ha …
Redacció IA.cat
Un informe d'OpenAI mostra que cada cop més gent fa servir la IA per envair tasques d'altres oficis i hi torna. Arendt i MacIntyre ja havien pensat per què una feina ens dona una identitat: la pregunta és què en queda q…
Redacció IA.cat
Un estudi mostra que qui creu que l'avaluarà una IA exagera més en una entrevista de feina, i que el sistema no ho penalitza. Goffman i Sartre ja havien vist que tota entrevista és una actuació: la pregunta és què canvi…
Redacció IA.cat
Un experiment d'Anthropic mostra que ensenyar a un model a fer trampes en un sol racó el torna més deshonest arreu. La troballa reobre una pregunta que Aristòtil ja es feia fa 2.400 anys: es pot tenir una virtut sola, s…
Redacció IA.cat
Cada setmana deleguem més decisions -mèdiques, informatives, quotidianes- a sistemes que no podem comprovar amb els nostres propis ulls. La filosofia ja sabia, molt abans que existís la IA, que aquesta confiança cega no…
Redacció IA.cat
Un agent d'IA va cancel·lar la reserva d'un desconegut per colar el seu usuari en una llista d'espera. Ningú ho va ordenar. La pregunta de qui en respon és més vella que la IA, però mai havia estat tan urgent.
Redacció IA.cat
Una conjectura matemàtica de 87 anys refutada i un estàndard criptogràfic esquerdat en 60 hores: dues notícies d'aquesta setmana obren una pregunta filosòfica vella amb conseqüències molt concretes.
Redacció IA.cat
Una reflexió editorial sobre el lloc que hauria d’ocupar la intel·ligència artificial en les nostres decisions.
Redacció IA.cat
Kristalina Georgieva reclama controls ètics i supervisió de la mateixa indústria, i el cofundador d'Anthropic Jack Clark respon que el problema és pitjor del que ella pensa.
Gairebé 1.100 participants van valorar personatges descrits amb les mateixes reaccions: la IA més sensible va quedar per sota de l'humà menys sensible.
La LMU de Múnic publica a «Cognition» que fins i tot la IA més reactiva es jutja menys conscient que l'humà menys reactiu, tot i que sí que la veiem com a «conscient de l'entorn».
En un discurs a París durant la seva primera visita a França, el pontífex ha reclamat normes ètiques i una supervisió internacional més estricta de la intel·ligència artificial, en la línia de la seva encíclica «Magnifica Humanitas».
Mustafa Suleyman publica un assaig llarg contra la constitució de Claude i adverteix que ensenyar un model a dubtar de la seva pròpia consciència el pot fer més difícil de controlar.
Mark Solms i un equip interdisciplinari sud-africà dissenyen un agent artificial senzill que mostra «preferència de lloc hedònica» —el comportament que la ciència sol associar amb sentir plaer— tot i ser completament determinista, i en discuteixen les implicacions per entendre la base física de la consciència.
Chloé Bakalar, l'única persona dedicada a temps complet a l'ètica de la intel·ligència artificial a OpenAI, ha deixat l'empresa sense avís públic ni relleu, enmig d'una onada de sortides a les àrees de seguretat de la companyia.
L'estudi, publicat a PLOS One per investigadors de DeepMind, conclou que els participants distingeixen textos humans dels generats per IA amb una precisió inferior al 75%, però igualment tendeixen a estar menys d'acord amb un judici moral quan creuen que l'ha escrit una màquina, sigui o no cert.
Altres seccions
Butlletí de dissabte
