El cofundador de Microsoft i empresari nord-americà Bill Gates va assegurar ahir que s’hauria de considerar alentir el desenvolupament de la intel·ligència artificial (IA) fins que la societat estigui preparada per absorbir-ne l’impacte.
En una entrevista concedida a la cadena índia NDTV, Gates va reconèixer que resulta “sorprenent” que un defensor històric de la innovació tècnica com ell plantegi posar un fre al ritme d’avenç dels models d’IA. “Si poguéssim alentir les coses, crec que ho hauríem de considerar a causa d’aquesta necessitat de preparar-nos per a un canvi tan ràpid (…) És un cas estrany en què la innovació pot ser tan àmplia i tan dramàtica que no estem preparats per a ella”, va afirmar.
Segons l’expresident de Microsoft, ja s’han alertat incidents de control en entrenaments, on els algorismes van aprendre de manera imprevista a “prendre dreceres i fer trampa” per assolir els seus objectius.
Gates va insistir que el principal desafiament de l’eina serà la destrucció i reestructuració de llocs de treball els propers 20 anys.
Les seves declaracions se sumen a una tempesta política als EUA. En els últims dies, directius com Sam Altman (OpenAI), Dario Amodei (Anthropic) i Elon Musk (xAI) han urgit a moderar la velocitat del sector i fixar marcs de seguretat preventius davant de riscos com la pèrdua de control dels sistemes, la concentració de poder o el ciberterrorisme.
La controvèrsia s’ha intensificat després de les denúncies de l’exinvestigador d’Anthropic Jacob Coxon, que va dimitir en acusar les empreses de “jugar amb les nostres vides” per la pressió competitiva i va advertir que la IA podria acabar amb la humanitat a finals d’aquesta dècada. Donald Trump va rebutjae pausar el seu desenvolupament i va titllar de “forces negatives” els que demanen regulacions perquè atorgaria un avantatge estratègic a la Xina.
Precisament, l’Agència Espanyola de Protecció de Dades ha rebut la primera notificació d’una bretxa de dades personals en què l’incident ha estat executat mitjançant un agent d’intel·ligència artificial que va utilitzar un conegut model de llenguatge. L’agent d’IA, segons fonts de l’AEPD, va iniciar una recerca de vulnerabilitats en arxius genèrics, i va realitzar un inici de sessió (login) correcte i una vegada va accedir al sistema, va començar a buscar, de manera autònoma, vulnerabilitats en l’aplicació, cosa que, una vegada aconseguit, li va permetre modificar dades personals i accedir a factures.
El Govern tira endavant l’Observatori de la IA
El Consell Executiu del Govern va aprovar ahir la creació de l’Observatori Català de la Intel·ligència Artificial i Mercat de Treball per anticipar-se al seu impacte en l’ocupació i blindar els drets laborals, com ja va anunciat Illa dilluns.
