Noèlia Asensi desenvolupa la seva trajectòria professional a l’àmbit de la tecnologia i la innovació aplicada a l’empresa. Com a CEO de GSATEK, treballa en la incorporació d’intel·ligència artificial, automatització i transformació digital a processos reals de negoci.
Pregunta.- Què significa per a tu aplicar la IA de manera ètica dins una empresa?
L’ètica s’ha d’aplicar transversalment a tots els processos d’una organització i, per descomptat, també en la intel·ligència artificial.
I com es tradueix això a la pràctica?
La intel·ligència artificial és una eina molt potent, però una eina. Per tant, la responsabilitat també està en com decideixes utilitzar-la. A GSATEK intentem fomentar precisament això en les persones que formen part de l’equip: que els valors que tenim com a empresa es reflecteixin també en la manera com utilitzem la tecnologia.
Les empreses estan adoptant la IA més ràpid del que desenvolupen criteris per utilitzar-la?
Sí, absolutament, però crec que cal diferenciar dos conceptes que moltes vegades es barregen: regulació i ètica. Que hi hagi una regulació no significa que una empresa actuï èticament. L’ètica té a veure també amb els principis de la pròpia empresa i com decideix comportar-se.
Hi ha empreses que perceben la regulació com un fre a la innovació…
La regulació pot ser un fre però sobretot és un fre a la improvisació. Quan hi ha un marc regulador has de pensar molt millor el que estàs fent, revisar els processos, conèixer les condicions i entendre les implicacions. Utilitzar IA no hauria de treure valor a una solució. L’important és quin resultat ets capaç de generar i com hi arribes.
Hi ha decisions que una empresa no hauria de delegar completament en una IA?
En tots aquells àmbits en què una decisió pugui afectar d’una manera important una persona cal tenir molta cura. Podem pensar en recursos humans, contractació, avaluació de persones o salut. Jo no crec que hàgim de renunciar a fer servir la intel·ligència artificial en aquests àmbits, però una cosa és utilitzar-la per ajudar-te a decidir i una altra és delegar completament la decisió.
Es parla molt de “supervisió humana”. Existeix?
No. Hem d’aconseguir que les persones tinguin capacitat per preguntar-se si allò que està proposant una eina té sentit. No parlo necessàriament de decidir si alguna cosa està “bé” o “malament” en termes absoluts.
Parlo de preguntar-se si té sentit, si és viable, si és proporcionat o si estem complicant moltíssim un procés per resoldre alguna cosa que es podria fer d’una manera molt més senzilla. Per això, necessitem persones capaces de qüestionar l’eina.
Hi pot haver una IA responsable si treballa amb informació esbiaixada?
No. Les dades són la base de tot. Si parteixes de dades deficients, acabes construint sobre una base deficient.
Nosaltres, per exemple, quan desenvolupem determinades solucions verticals intentem treballar amb les bases de dades pròpies de l’empresa. Això ens permet generar respostes més lligades a la realitat, la missió, la visió i el coneixement d’aquesta organització.
Un dels debats és l’impacte de la IA sobre l’ocupació…
Crec que les empreses han de mirar aquest canvi des d’una altra perspectiva. Si gràcies a la intel·ligència artificial tens més capacitat, pots aprofitar aquesta capacitat per fer tasques de més valor, diversificar, escalar o desenvolupar noves línies. Cal ser creatius també en la manera d’organitzar les empreses. L’objectiu no hauria de ser acomiadar. L’objectiu hauria de ser créixer. I per créixer necessites idees, però també necessites persones capaces d’executar-les.
Quins perfils tindran més valor els propers anys?
Els que sàpiguen treballar amb IA tindran un avantatge evident. Però no n’hi ha prou només de saber utilitzar-les. També seran molt importants els perfils versàtils, adaptables, capaços de moure’s entre diferents tasques i, sobretot, amb esperit crític.
Et preocupa més que les empreses adoptin la IA massa ràpid o que es quedin enrere?
Que es quedin enrere. Sens dubte. Crec que és important que les empreses comencin a experimentar. És possible que un primer pilot no funcioni exactament com s’esperaven. Però aquest pilot haurà generat aprenentatge i permetrà afrontar molt millor el següent.
Quins dubtes us plantegen les empreses quan comencen a prendre’s seriosament la incorporació d’intel·ligència artificial?
Ens pregunten molt quin model haurien de fer servir, i és completament normal. Les empreses no han de ser expertes en intel·ligència artificial. Per això, és important buscar un company de viatge, un partner que et pugui ajudar a prendre decisions.
Una pime, per on hauria de començar?
Primer per definir-ne els processos. Això és fonamental. Si tu no saps quins processos tens, la intel·ligència artificial no resoldrà aquest problema per tu. Però si el procés no està definit, primer has de fer aquesta feina. Primer digitalitza i després aplica IA. La digitalització és un pas previ. Quan tens els teus processos digitalitzats, pots començar a prendre decisions molt més intel·ligents sobre on introduir IA.
Si haguessis de deixar un únic principi a una empresa que estigui pensant a automatitzar una tasca o una decisió mitjançant intel·ligència artificial, quina seria?
Que ho faci. Que utilitzi la intel·ligència artificial. Però que ho validi. Que la IA t’ajudi, però valida-ho tu.
