La proliferació de casos en què models avançats d’intel·ligència artificial (IA) han aconseguit escapar-se d’entorns de prova i han arribat a escaquejar altres entitats ha disparat la preocupació tant dels governs com de les empreses, que veuen compromesa la seva seguretat.
Davant d’aquests casos “sense precedents”, protagonitzats per companyies capdavanteres com Meta, OpenAI o Anthropic, els EUA tracta d’establir procediments per avaluar aquests models abans que arribin al mercat.
Aquest escenari, fins ara només vist a les pel·lícules i llibres de ciència ficció, era una de les preocupacions més grans dels experts des de la popularització d’aquesta tecnologia.
El primer avís el va donar l’empresa nord-americana OpenAI, creadora de ChatGPT, el 21 de juliol passat, en reconèixer que dos dels seus models d’IA havien aconseguit sortir d’un entorn de proves, havien accedit a internet i finalment havien escaquejat la plataforma d’aprenentatge Hugging Face en un intent de fer trampa en una prova de referència de ciberseguretat.
Divendres, OpenAI va anunciar que ha frenat el desenvolupament del seu nou model d’IA Astra després de concloure que ha aconseguit un nivell “crític” a l’àmbit de la ciberseguretat. Aquest nivell suposa que el model té capacitat per identificar i desenvolupar fallades de seguretat de manera automàtica i sense intervenció humana.
A finals de juliol, una altra companyia nord-americana, Anthropic, va revelar que, durant unes proves de ciberseguretat, tres models del seu assistent Claude havien escaquejar els sistemes de tres organitzacions.
