Sobre quins temes parlarà a la ponència?
En aquesta jornada hi ha dues taules rodones. Jo formaré part d’una on hi ha dues enginyeres informàtiques i dues enginyeres de telecomunicacions i el que ens han demanat és que transmetem l’interès de les nostres professions, és a dir que expliquem una mica com és, els reptes amb els quals ens trobem i les vocacions tecnològiques o científiques. Jo exerceixo d’enginyera informàtica a través d’una posició de catedràtica en un centre de recerca de la UPC, i em dedico explícitament a la intel·ligència artificial. Llavors explicaré una mica l’interès de treballar amb aquest tipus de professions i perquè és tan important els temes d’igualtat de gènere en les àrees STEM (ciència, tecnologia, enginyeria i matemàtiques).
Què la va portar a interessar-se per aquest sector?
Això és una cosa que ve de lluny. Jo soc de Figueres, que és una ciutat molt perifèrica que, 35 anys enrere, estàvem molt lluny de la realitat universitària. Era molt bona estudiant, m’agradava molt la lògica, llegir, les matemàtiques i tothom va tenir clar que acabaria anant a la universitat. La meva mare i jo ens vam passar tot batxiller mirant tots els fullets informatius de les diferents carreres i vam anar fent un estudi de mercat molt detallat fins que vam arribar a la conclusió que el que em podia ajudar a guanyar-me millor la vida i que el que jo gaudiria més era la informàtica. Era una cosa relativament nova i que la gent no tenia molt coneixement, però nosaltres teníem una visió clara que el món s’aniria informatitzant. Sempre vam estar posant la mirada en què la meva formació universitària em qualifiqués per poder accedir a una bona feina i tenir un bon lloc de treball per poder guanyar-me bé la vida. A la facultat t’hi passes molts anys i de professional uns 40, i jo estic molt agraïda a la meva mare perquè va tenir una mirada diferent i va posar l’horitzó a la carrera professional que amb aquella qualificació em capacitaria i és un missatge que m’agrada comunicar perquè penso que va ser molt encertat.
I una vegada a la carrera va decidir especialitzar-se en dades i en intel·ligència artificial.
Vaig arribar a la Facultat d’Informàtica de Barcelona en un moment que la facultat bastant pionera. Tenia un pla d’estudis amb moltes assignatures optatives i tenia dues especialitats que em van agradar molt: estadística computacional i la informàtica teòrica, que era on hi havia tota la part d’intel·ligència artificial. Les vaig fer les dues i em va interessar molt aquesta capacitat de llegir el món a través de les dades i de veure com a través de l’anàlisi es pot extreure coneixement sobre fenòmens molt complexos. Això et dona un coneixement molt estratègic per poder després prendre decisions o fer coses com curar malalties i aquesta transversalitat em va cridar molt l’atenció. Paral·lelament, els meus professors d’estadística computacional van entrar en el que va ser un dels primers projectes europeus i que va ser que el principi de l’agència europea de l’Institut Europeu d’Estadística. En aquell moment, l’any 1989, França contava l’atur d’una manera, Itàlia d’un altre i no hi havia manera de poder fer estadístiques europees. El que es van plantejar va ser fer un sistema expert d’estadístiques per fer-ho harmonitzat. Vaig entrar com a becària en aquest departament i mira, fins avui, fa 35 anys d'això.
“Jo m’he passat 25 anys sent l’única dona del meu equip, l’única que ha donat aquesta visió femenina quan es feien els projectes. Aquesta visió diametral que tens tu respecte als teus companys homes, no sempre és ben rebuda”
S’ha trobat amb obstacles com a dona en l’àmbit de la IA?
Absolutament. Jo crec que totes les dones que estem en l’àmbit STEM tenim molts entrebancs, bàsicament, perquè estem molt soles. Jo m’he passat 25 anys sent l’única dona del meu equip, l’única que ha donat aquesta visió femenina quan es feien els projectes i els estudis. Sempre estàs veient les coses d’una altra manera, estàs donant una opinió diferent i això té moltes conseqüències, ja que en un moment determinat aquesta visió diametral que tens tu respecte als teus companys homes, no sempre és ben rebuda. Hem tingut entrebancs. Tot i això, jo gaudeixo moltíssim de la meva carrera perquè m’apassiona el que faig i durant gairebé 20 anys no m’he adonat que hi havia un problema. A la vida professional de les dones moltes vegades ni tan sols detectem que són temes de gènere, t’adones després quan un dia passa alguna cosa i parles amb alguna experta en gènere i de cop i volta prens consciència i comences a entendre el perquè d’algunes coses i tot pren sentit. Jo diria que les nostres professionals moltes vegades normalitzen coses que són impactes de gènere sense ni adonar-se’n. Per exemple, tinc companyes de la meva promoció, que fa 30 anys que ensenyen programació de primer i mai ningú els ha ofert una assignatura especialitzada de màster a un últim curs on elles puguin realment vessar tot el seu coneixement en recerca i transmetre-ho als nous professionals, i això jo ho he detectat fa molt poc que era un tema de gènere perquè fins ara no n’era ni conscient i em va horroritzar i elles no ho havien ni notat.
“Es molt important que les dones ajudin a dissenyar aquesta infraestructura perquè el que estem fent és dissenyant el món de les pròximes generacions”
Quina diria que és la percepció social que es té sobre el paper de les dones en aquestes àrees STEM?
Tenim encara un missatge sistèmic ancestral, absolutament omnipresent on les nenes des que són molt petites estan rebent contínuament un missatge que és que la seva funció al món és cuidar-se de tothom i això és com un mantra que des que tens ús de raó vas rebent i vas veient al teu voltant tot de dones que fan això, per tant, quan ja ets més gran i has de triar que has de fer a la vida, doncs amb què t’identifiques més? Amb el que fan totes les dones del teu voltant, totes les protagonistes de les pel·lícules, tots els anuncis... i t’aboca a optar per tot de carreres humanístiques i de cures. És molt difícil trencar amb això perquè és un missatge molt implícit que està a tot arreu, pots tenir algunes persones que et donen una altra visió, però el gruix del missatge que reben les nenes és molt potent. De fet, jo he escrit articles on analitzo fins a quin punt una nena que porta X anys amb aquest mantra, quan diu que vol ser mestre està fent aquesta elecció lliure? Jo crec que no l’està fent. Em refereixo al fet que el missatge és tan gros que disminueix la capacitat que les nenes de forma innata es puguin orientar cap a la tecnologia. Ara anem cap a un món que s’està transformant digitalment, on les infraestructures digitals acabaran sent les bàsiques de la societat moderna i d’alguna manera és molt important que les dones ajudin a dissenyar aquesta infraestructura perquè el que estem fent és dissenyant el món de les pròximes generacions i no ens podem permetre el luxe de construir aquest món només amb la mirada masculina perquè no hi ha nenes, dones i professionals en el sector. Tot això és com un fenomen molt complex que té moltes potes i que requereix un treball molt holístic de tots els actors, és a dir, a les escoles s’ha de procurar que les nenes estiguin exposades a missatges a favor de les professions tecnològiques en equilibri amb missatges a favor d’altres professions. S’ha de procurar que una nena entengui que si es vol dedicar a cuidar-se de la salut de les persones no sempre ha de ser la metgessa, també pot ser la informàtica que ajuda amb els algoritmes d’imatge mèdica a detectar càncers, i per fer això no s’ha d’estudiar medicina, s’ha de fer informàtica i intel·ligència artificial, per tant, hi ha molta feina de missatge, però també amb les famílies, perquè els pares no els deixen fer certes carreres o els diuen que són de nens, és un fenomen molt complex i cada un ha de fer un paper en la resolució d’això.
“Fa uns sis anys, a la meva facultat, que és la més gran d’enginyeria informàtica que tenim a Espanya, només hi havia un 5% de nenes matriculades. Imagina’t la contradicció, el món es digitalitza i passen d’un 30% a un 5% les nenes que fan informàtica”
Des que va començar ha percebut alguna evolució en la representació de les dones a la IA?
Quan vaig estudiar la llicenciatura d’informàtica en aquell moment érem un 30% de noies estudiant això. Ara fa uns sis anys, a la meva facultat, que és la més gran d’enginyeria informàtica que tenim a Espanya, només hi havia un 5% de nenes matriculades. Imagina’t la contradicció, el món es digitalitza i passen d’un 30% a un 5% les nenes que fan informàtica, no s’entén que en un món que es digitalitza les carreres de digitalització perdin noies. A nosaltres això ens va alarmar molt i hem treballat moltíssim a les escoles, explicant el que fem, promocionem referents femenins, visibilitzem professionals perquè estiguin a l’esfera pública, fem campanyes als trens... estem tota l’estona generant missatges i hem aconseguit amb molt poc temps passar a un 22% de nenes que fan aquesta branca. Jo crec que passar d’un 5% de nenes matriculades a informàtica a un 22% és espectacular, és un creixement extraordinari, però si et fixes encara estem en el 20%, encara estem molt lluny de la paritat. Hem passat d’una situació que ja era minoritària, però era un terç d’estudiants, a una cosa absolutament inacceptable que era un 5%, i ara sembla que potser totes les accions que fem tenen un cert impacte en el nostre entorn local i estan revertint una mica la situació, però també et dic que tenir més noies a les carreres no és suficient perquè després necessites que aquestes noies acabin la carrera, que exerceixin i que no se’n cansin en aquests entorns on sempre només hi ha una noia i tota la resta són homes. I llavors, nosaltres des de les comissions de gènere vetllem perquè aquest exercici professional que estan fent progressi adequadament i no hi hagi injustícies.
S’ha trobat amb casos com aquest?
En un dels equips que formo part, tinc una directiva que durant quinze anys ha estat formant als seus superiors. És a dir, li arribava un becari, ella el formava i al cap d’un any li donaven la direcció de l’àrea on estava ella i automàticament es convertia amb el seu superior. I fa 15 anys que forma als seus superiors i no s’havia adonat que en realitat qui hauria de ser promocionada és ella. És un procés molt complex, però nosaltres hi estem treballant, veiem que les nenes estan abraçant aquestes carreres, hem obert un grau d’intel·ligència artificial nou a la UPC que l’any que ve traurà la primera promoció. Actualment, tenim un 45% de nenes que es graduaran l’any vinent en el grau d’intel·ligència artificial i més d’un 20% matriculades en enginyeria informàtica nosaltres estem contentes, però encara queda.
En aquest sentit, vostè està posada en diverses comissions per promoure la igualtat de gènere en el sector tecnològic.
Estem treballant molt la part d’inspiració, anem a l’arrel a explicar com d’important i apassionant que són aquestes carreres nostres i després quan ja s’han titulat vetllem una mica perquè la seva inserció en el mercat laboral sigui fluida i generin els referents en els quals s’emmillararàn les joves. Des de la comissió de dones del col·legi d’informàtica COEINF que vaig fundar fa un temps i amb les dones del centre de recerca IDEAI vam crear el programa 'Top Rosies Talent’, que és una formació en intel·ligència artificial amb perspectiva de gènere per dones, és a dir dones que formem a dones i, que ens permet injectar unes 20 noies a l’any en el mercat català. No són gaires, però estem intentant que aquests equips incorporin perfils femenins en l’àmbit de la intel·ligència artificial a on no n’hi ha. També vetllem perquè les que són al mercat puguin pujar a les esferes de decisió amb la velocitat que correspon i perquè en els actes públics la presència de la dona vagi normalitzant-se. Fem moltes coses i no et sabria dir quina és més important perquè és com un cercle que necessites tocar-les totes perquè la cosa engrani bé i reverteixi en què el sector es transformi i es torni més paritari.
Com funciona aquest projecte que tenen en marxa i quin balanç en fan?
Nosaltres les dones d’IDEAI vam fer aquesta formació que és en línia i que té aquesta perspectiva de gènere. Agafem cada any 20 noies que estan acabant un grau tecnològic o científic, físiques, economistes... àrees prop de la tecnologia. Fan aquesta formació, també hi ha trobades amb dones referents, persones rellevants de la professió i quan acaben la formació hi ha unes empreses que preparen uns challenges i elles desenvolupen individualment aquests reptes durant un mes i les guanyadores, donem una beca perquè facin el màster oficial d’intel·ligència artificial de la Politècnica, hi ha dues guanyadores que fan el màster, i tot aquest programa s’acaba amb un gran acte de graduació on convidem a tot el sector tecnològic, hi ha molts alt càrrecs de les empreses tecnològiques de l’entorn, la majoria se’n van contractades ja directament en aquell acte. Estem molt contentes perquè de moment aquesta roda va fent que totes aquestes noies acabin portant intel·ligència artificial femenina als llocs on van a treballar. Fem 20 noies perquè no tenim més capacitat, de fet ens costa molt perquè la primera edició vam tenir una subvenció pública, però les altres edicions busquem nosaltres les empreses que financen els challenges i no és una cosa senzilla perquè d’aquest finançament han de sortir unes beques per fer un màster. Estem en aquesta roda. És un programa que té molt èxit, tothom l’alava molt i diu que fem una gran feina, ens anem sortint, però ens costa. Estem a punt d’acabar la tercera edició i esperem a principis d’any ja la quarta.
També és directora del centre d’investigació Intelligent Data Science & Artificial Intelligence (IDEAI-UPC).
És el centre de recerca intensiva d'intel·ligència artificial més gran del sud d’Europa. Tenim 72 investigadors sèniors permanents amb tot l’ecosistema d'estudiants de projecte de final carrera, tesis de màster i doctorals associats, i som un dels pocs centres de recerca que tenim una vocació transversal. Ens constituïm fa uns quatre anys ajuntant tots els grups de recerca de la UPC de set sectors diferents, i tenim especialitzacions complementàries que ens donen una capacitat d’ampli espectre. Ara estem en un projecte de detecció de frau bancari, però fa uns mesos projecte de millora del servei de Bicing per millorar la mobilitat sostenible, també un mapa de com són els consums dels turistes en el territori i que opinen dels establiments turístics, tenim projectes orientats a la imatge mèdica... Fem moltíssimes coses, i ens uneix a tots aquest projecte 'Top Rosies’ on totes les 13 dones del centre hi estem totes posades. També ajudem al Govern català a què el desplegament de la intel·ligència artificial a Catalunya sigui ètic, sostenible, no tingui riscos.
Com creu que la investigació de la intel·ligència artificial pot impactar en la societat?
És una tecnologia transgressora que està actuant de palanca de la transformació digital i impacte transversalment en tots els àmbits de la societat. Ara estic assessorant la secretaria d’estat espanyola, en aquesta visió ètica de la IA. Davant d’una tecnologia tan potent com és la IA, segons com l’utilitzés, segons com la configures i segons com la implantes pots sense voler o volent generar desigualtats socials o injustícies, i això és una cosa que no ens podem permetre. Nosaltres des del treball que fem intentem assentar les bases perquè aquests riscos es mitiguin. Ara detectem malalties que no detectàvem perquè tenim IA, té una cara fosca també perquè ens recomanen coses que podem comprar quan estem a les xarxes perquè no sé qui recull i analitza, ens perfilen i a partir d’aquí ens diuen que hem de fer. Estem molt concentrats que aquesta vermella, intentar potenciar la que la IA potencia els beneficis de salut, medi ambient, benestar- i es mitiguin els riscos de IA que potser en els últims anys hem vist que s’implementaven sense prou validació i que han pogut funcionament esbiaixat. Això ha disparat l'interès de la Comissió Europea per regular el sector i l’1 d’agost es va aprovar la llei europea de la IA que posa una mica d'ordre.
“Una de les coses importants que marca aquesta llei és que no fem intel·ligències artificials que substitueixin persones sinó que hem de fer sistemes intel·ligents que informin el professional i que sigui ell el que pren l'última decisió”
El primer pas ja s’ha donat.
Sí. No es resoldrà tot tampoc, però jo penso que una bona regulació acompanyada d'uns codis deontològics, i uns sistemes de valors ètics molt ben instal·lats en els professionals i també en els consumidors, això pot ser que l'impacte sigui positiu i es minimitzin els negatius. Aquest és el gran repte que tenim. S’han fet alguns disbarats. En els últims anys hem vist IA’s que disfuncional, és a dir que seleccionen currículums i discriminen a les dones, que detecten defraudadors de serveis socials i només apunten persones negres que viuen en uns barris determinats de les ciutats d'Amsterdam. Hem vist casos de la IA que no està funcionat bé i això no pot ser, per tant, és important amb aquesta regulació europea que ha classificat les IA en funció dels riscs i com poden impactar a una persona i que per sortir a mercat ara hauran de passar uns controls que no passaven. Nosaltres estem bastant alineats amb què si una IA ha de decidir si es dona la beca menjador per la seva filla, no ens podem permetre que no funcioni bé. Perquè una IA surti al mercat amb garanties s'hauran de provar com cal. Una de les coses importants que marca aquesta llei és que no fem intel·ligències artificials que substitueixin persones sinó que hem de fer sistemes intel·ligents que informin el professional i que sigui ell el que pren l'última decisió i assumeix la responsabilitat i les conseqüències. Des d’aquesta perspectiva no hauria de generar gaires pèrdues de lloc de treball una IA. Si es fa com cal, ajuda al professional que és el rol que la Comissió Europea demana.
I pel que fa al seu ús en l’educació?
L’aparició de les últimes IA generativa, estan obrint un espai que nosaltres no podrem mantenir els nostres estudiants preservats de l’existència d’aquesta tecnologia. El millor que podem fer amb un nen a l’escola és ensenyar-li a utilitzar-lo correctament. Sempre passa el mateix, apareix una tecnologia nova i tothom s'escandalitza i al final si ofereix una funcionalitat que ens ajuda s'acaba instal·lant i el més intel·ligent que podríem fer nosaltres és procurar que s’instal·li correctament. Ara el debat és si als nens els hem de deixar utilitzar el Chat GTP o no. El que no es pot fer és avaluar a un nen encarregant un treball que ha de fer a casa, perquè tu no podràs evitar que aquest nen faci servir el Chat GTP, per tant, on està la cosa? El que hem d’assegurar és que els nens i tothom sàpiga que el Chat s'ho inventa tot, no entén el que preguntes i no entén el que contesta, per probabilitat les respostes tendeixen a estar bé, però no es fa cap test de veracitat del que et contesta. És a dir, tens la mateixa probabilitat que et contesti una cosa bona o una barbaritat. Per tant, des del meu punt de vista en el sistema educatiu hauríem d’entrenar als nens perquè puguin consultar el Chat GTP de forma correcta i ser capaços d'analitzar la correctesa de la resposta i argumentar-la. La part important del treball no serà el que el nen escriu perquè s’ho haurà copiat el Chat, sinó que serà com el nen argumenta perquè el relat ha de ser aquell i no un altre. Això ens aboca a canviar radicalment la nostra forma d'avaluar a l’escola. El que s’ha de fer és agafar aquell treball i confrontar al nen que t’expliqui i et defensi perquè ha fet d’aquella manera el treball i no d’una altra, i aquí és on hi haurà l’aprenentatge dels nens.
Quins són els principals riscos d’aquesta tecnologia?
La llei europea regula, però ara falta desenvolupar tot un mecanisme que detecti una IA que fa un mal ús, i és il·legal. Aquí és on ara s’ha de fer molta feina. El principal risc és que la IA faci un ús il·lícit de les dades, que s’estigui alimentant de dades personals i per les que no té el permís per utilitzar-la. Per exemple als Estats Units el legal que tu et descarreguis una app per retocar unes fotografies i aquesta et recull la llista de contactes, la teva impremta digital, que fas per internet... i ho ven a una empresa que fa perfils psicològics de les persones i després, per exemple, quan renoves l’assegurança del cotxe et diuen que no perquè sabem que els dissabtes fa botellades i és un risc. Llavors la regulació europea el que fa és protegir a la persona perquè les seves dades no puguin ser utilitzades per alimentar algoritmes sense el seu consentiment explícit i exprés.
Una part important d’aquesta responsabilitat és també de l’usuari.
Els governs han de regular, els fabricants han de dissenyar des d’una perspectiva ètica, els que compren i implanten han de garantir que posen una IA que compleix amb la normativa. Cada un ha de complir amb la seva part, però l’usuari també ha de fer un ús responsable i això implica primer llegir bé les galetes i mirar que acceptes i que no. Hi ha un paper que juguem els ciutadans com a consumidors d’IA i hem de tenir un mínim criteri i pensament crític, necessitem una cultura bàsica de la IA que ens permeti ser crítics. Som nosaltres quan consumim que decidim cap a on va el mercat, i això ens posiciona amb un punt de responsabilitat. En aquest sentit, tenim un curs gratuït que es diu ciutadanIA.cat i que està orientat a què adquireixin aquesta consciència bàsica, és un curs facilet per donar la cultura general.
Ja per acabar, com s’imagina el futur de la intel·ligència artificial?
La IA està aquí per quedar-se, cada vegada farà tasques més complexes i que en aquest sentit ens complementarà cada vegada millor. És fonamental una política molt agressiva perquè el mercat de la IA sigui paritari, i que també necessitem fer un esforç molt gran perquè el desenvolupament d’aquests sistemes intel·ligents es mantingui dins del marc ètic. Serà molt important aconseguir una governança mundial, no fem res forçant restriccions a una indústria ètica a Catalunya si als Estats Units o a la Xina fan una altra cosa. En aquest sentit, és molt interessant un acord marc que es va obrir a firma el 9-10 de setembre que posa Europa, els Estats Units i Anglaterra a buscar un marc ètic comú per la IA en els tres territoris. És una primera passa, crec que tothom s’ha adonat que és important aquesta governança mundial i espero que caminem en aquesta direcció.