Golobardes, experta en IA: "No doneu dades personals a ChatGPT"

La santcugatenca Elisabet Golobardes és professora catedràtica de La Salle-Universitat Ramon Llull i gran especialista en intel·ligència artificial i ciència de les dades. Llicenciada en Informàtica per la UPC i doctora en Enginyeria Informàtica per la URL, fa més de tres dècades que treballa en l'àmbit de la intel·ligència artificial. El TOT Sant Cugat conversa amb ella sobre la realitat de la IA i els riscos i oportunitats que suposa. "És com si haguéssim donat un cotxe de Fórmula 1 a uns nens que ni arriben als pedals, ni saben conduir, ni coneixen les regles de circulació", alerta sobre l'ús massiu de la IA entre la població.

L’enginyer i investigador Jacob Coxon ha advertit recentment que "les persones que estan construint la IA creuen sincerament que podria matar-nos a tots abans que acabi la dècada". Responsables de les principals empreses també han mostrat preocupació sobre l'evolució de la IA. Què en pensa?

S’han d’escoltar les advertències que treballen en la frontera de la intel·ligència artificial, però també evitar alarmismes infundats. Els riscos existencials formen part d'un debat legítim sobre el futur, però els riscos més reals i immediats són la desinformació, la manipulació de l'opinió pública, la polarització social, la concentració de poder tecnològic i els nous desafiaments en ciberseguretat. Fins i tot, m’atreviria a dir, el fet que cada vegada pensem menys, i podríem perdre capacitat cognitiva, delegant qualsevol pregunta a la IA generativa. El repte principal no és tant una IA que decideixi destruir la humanitat, sinó que nosaltres no sapiguem usar i governar adequadament una tecnologia tan potent i desconeguda (encara que molta gent cregui que la coneix) al mateix temps.

Vostè ja treballa amb la IA als anys 90. Com era llavors i què ha canviat fins avui?

El que ha canviat és bàsicament la potència de càlcul que tenim. Ha augmentat molt la capacitat dels ordinadors, ha arribat internet i es poden comunicar les dades. Ara la intel·ligència artificial té un impacte molt més gran i es poden crear uns algoritmes que abans no podíem fer. Però la part matemàtica, computacional i algorísmica ja estava sobre la taula. La IA no és nova.

"Ens ha enganxat perquè hi havia algortimes que ens ho personalitzaven tot"

Dess de fa quatre o cinc anys, tothom parla d'intel·ligència artificial i gairebé tothom en fa servir. Què entenem avui per intel·ligència artificial?

Fins i tot a mi em cansa. La intel·ligència artificial va arribar a les cases amb la irrupció de ChatGPT. Veníem d'una pandèmia que va provocar un salt tecnològic molt important. Quan arriba ChatGPT el 2022, ho fa en una societat que té més habilitats tecnològiques i que està més enganxada a les xarxes socials. Si no hagués estat així, potser hauria passat més desapercebut. La intel·ligència artificial de què parla tothom ara és generativa, que permet crear fàcilment textos, imatges, vídeos, veus, etcètera. Però la IA comprèn molts més camps: pot permetre estructurar dades, crear sistemes d'ajuda al diagnòstic mèdic o sistemes d'ajuda a l'educació i de personalització.

La societat està massa enganxada a ChatGPT i a les principals eines d'intel·ligència artificial?

Sí, però la IA no és la culpable de tot. Per mi, la intel·ligència artificial generativa ha esdevingut un mirall de la societat, que ha permès que la gent faci coses bones i coses dolentes. Ens ha permès connectar-nos, però al mateix temps desconnectar-nos. Les xarxes socials et personalitzen tant la informació que acabes rebent continguts que encaixen amb la teva mentalitat i els teus interessos. Això ha contribuït a crear intolerància, desinformació, fake news i polarització de les opinions. És tan bèstia que avui sembla que persones de diferents generacions no puguem seure a la mateixa taula amb opinions diferents. Ens ha enganxat perquè hi havia algortimes que ens ho personalitzaven tot. En medicina, la personalització pot ser molt bona, però en una xarxa social fa que perdis el context del món global i et polaritzis.

"L'ús de la IA és responsabilitat de tots, no només de qui crea els sistemes"

On és el problema principal?

La intel·ligència artificial generativa és la que té ara un impacte molt més gran. Quan aquests mètodes estan a l'abast de tothom i no tens control sobre les dades a partir de les quals s'han generat, és quan la situació es complica. Se'n pot fer un bon ús i un mal ús. Si jo dissenyo un sistema d'ajuda al diagnòstic mèdic per ajudar a detectar un càncer i l'usuari final és el metge, tu, com a pacient, te'n beneficies. Però si utilitzes la intel·ligència artificial perquè un mitjà de comunicació esculli quin tema atraurà més visites i aquest tema és com agredir sexualment una noia... això ja dependrà del criteri ètic del grup editorial. L'ús de la IA és responsabilitat de tots, no només de qui crea els sistemes. Com a ciutadans, hem de plantejar-nos quin ús fem d'aquestes eines.

La qüestió clau són les dades?

Exactament. A l'origen hi ha les dades, més que l'algoritme com a tal. Per exemple, si vull crear una eina d'ajuda al diagnòstic del càncer de mama, em basaria en dades de pacients. Si tinc moltes dades, aquestes poden ajudar davant d'un cas complex. En canvi, si ho portem a àmbits més delicats, com la selecció de personal, el problema es veu clar. Si totes les dades que he donat al sistema  són d'homes blancs occidentals de mitjana edat que treballen d'informàtics, quan l'eina faci una selecció de personal tendirà a trobar persones amb aquest perfil.

Com creu que evolucionarà la IA a partir d'ara?

No ho sé. Jo desitjo que hi hagi un “hivern” de la intel·ligència artificial que permeti als investigadors tornar a investigar, en comptes d'anar dient quin és el bon ús i quin és el mal ús, i que la gent s'eduqui. Tot dependrà de l'educació de les persones i de prendre consciència que depèn de l'ús que se'n faci. És com si, de cop i volta, haguéssim donat un cotxe de Fórmula 1 a uns nens que ni arriben als pedals, ni saben conduir, ni coneixen les regles de circulació. A la canalla acostumes a donar-li tisores de punta rodona abans que altres tisores. Ara tenim una eina molt potent que està utilitzant tothom sense ser plenament conscient de com s'utilitza.

"Soc una enamorada de la intel·ligència artificial"

I n'hi ha qui en fa mal ús.

El primer que va sortir a la premsa a l'Estat espanyol van ser aquells vídeos manipulats de noies a les quals despullaven sexualment. Aquells nois potser mereixien un 10 en tecnologia perquè havien aconseguit fer-ho molt bé tècnicament, però com a societat ens hauríem de preguntar què s'ha de fer davant d'un ús així.

Amb tot això sobre la taula, ets més optimista o més pessimista sobre el futur de la intel·ligència artificial?

Jo soc positiva. Soc una enamorada de la intel·ligència artificial i m'hi he dedicat professionalment, tant en la gestió com en la recerca i els sistemes. Crec que la intel·ligència artificial, igual que la informàtica o la tecnologia, és una eina. I com a eina ens pot ajudar a fer molt bé a la societat. Pot ajudar les persones amb discapacitats a accedir a més llocs que sense aquestes eines. Pot ajudar a fer millors diagnòstics mèdics, a personalitzar l'aprenentatge, a tenir una conducció més fiable... Pot ajudar en una infinitat de coses. Ara bé, també es pot utilitzar per personalitzar les guerres, enviar drons que matin, crear fake news o generar desinformació. I si tens un món polaritzat en què la gent no conversa entre si, pot arribar a posar en risc la democràcia. 

Tornant a la polarització, quin paper tenen les xarxes socials i la tecnologia en aquesta deriva que veiem a Europa i als Estats Units? I com es pot revertir?

No hi ha cap recepta màgica. Hi ha països que estan intentant prohibir les xarxes socials a menors de determinada edat i escoles que ja no volen determinades tecnologies. Personalment, crec que la prohibició és sempre una cosa molt contundent i complicada de gestionar. Però puc entendre que s'arribin a aquestes solucions. Crec que les xarxes socials s'han de limitar en l'ús. També han tingut usos molt positius, com durant la pandèmia. Jo vull pensar en el bon ús. El mal ús ha existit sempre. Ara estem en un costat molt bèstia de la balança i vull confiar que tornarem una mica al mig. Però, malauradament, això probablement passarà per moltes regulacions i lleis. Preferiria un món en què no calguessin les lleis perquè la gent es portés bé, però hi haurà lleis que ens obligaran i potser aprendrem una nova manera de relacionar-nos amb les tecnologies.

"Amb la intel·ligència artificial, hem de seguir sent humans: entendre l'altre, apreciar la diferència, respectar-nos i escoltar la pluralitat"

La clau és l'equilibri?

Un dels meus fills, el gran, va ser de la generació a la qual, d'un curs per l'altre, els van treure tots els llibres i els van donar tauletes, i només es podien connectar remotament als llibres. Això va ser abans de la pandèmia. Jo veig que a aquesta generació, que de cop va deixar els llibres, se li van trencar una sèrie d'habilitats que ara li fan falta: el temps d'espera, fer resums, entendre les coses, fer esquemes, tenir paciència, intentar comprendre i llegir molts punts de vista. Això vol dir que hem de mesurar bé com apliquem les tecnologies i evitar-ne el mal ús. I crec que n'estem aprenent tots.

Quines dues o tres coses bones creu que aportarà la intel·ligència artificial a la nostra vida?

Pot facilitar moltes feines operatives i repetitives. En medicina i en educació també ens pot ajudar molt. Però voldria recordar que l'eina més poderosa que ensenyem als nens és aprendre a escriure. Si un no sap escriure i llegir, després no podrà aprendre res, perquè tot ho aprenem llegint. De fet, ni tan sols podrà fer els prompts que es fan a la intel·ligència artificial generativa. Les eines més importants continuen sent escriure i llegir. I jo ho faria amb mà i paper. Amb la intel·ligència artificial, hem de seguir sent humans: entendre l'altre, apreciar la diferència, respectar-nos i escoltar la pluralitat.

Moltes d'aquestes eines estan en mans d'un nombre reduït de grans empreses i plataformes. Creu que estan actuant amb ètica?

Recomano el documental El dilema de les xarxes. Crec que els usuaris finals no tenen tant un dilema d'ètica com un problema de bon ús i mal ús en general. Jo crec que inicialment es van començar generant sistemes en què els informàtics personalitzàvem els algoritmes per fer un bé. Però després es van començar a incorporar psicòlegs perquè els algoritmes enganxessin les persones i generessin addicció. I és aquí quan, per mi, es perd l'ètica: quan ets conscient que ho estàs fent expressament.

"En molt poc temps saben el teu perfil psicològic i físic i et van alimentant les teves opinions"

Per què enganxen tant les xarxes socials?

Estan pensades per personalitzar-se molt. El primer que fan és crear el teu perfil. I no només un perfil del que t'agrada, sinó també un perfil psicològic, i conèixer dades com on vius o quins són els teus costums. A partir d'aquí, als humans ens agrada que ens donin la raó. Hem desaprès el fet de conversar i escoltar opinions diferents sobre una mateixa taula. I, com que potser tenim una manca d'educació en el debat plural i en escoltar altres idees que no són les nostres, ens enganxa perquè el que ens proposen és allò que ens interessa. En molt poc temps saben el teu perfil psicològic i físic i et van alimentant les teves opinions, fins al punt que et poden conduir cap a una posició més extrema de la que tenies inicialment.

També s'ha parlat molt del paper de les xarxes socials en adolescents i de l'impacte que poden tenir. 

Crec que la clau de tot seria llegir de tot, escoltar i treballar més a l'escola les diferències. Escoltar qualsevol noi o noia que et vol explicar alguna cosa i, als que no volen explicar-la, donar-los algun mitjà perquè es puguin expressar. Tenim un problema sistèmic de tota la societat: no estem treballant prou les diferències i l'escolta. No tenim espais d'àgora per entendre'ns. Per mi, aquesta és la clau de tot.

Per acabar, ChatGPT ja forma part del dia a dia de molta gent, tant jove com gran. Quines precaucions hauríem de tenir quan fem servir aquestes eines, tant a nivell personal com laboral?

No doneu dades personals a ChatGPT ni a cap altra eina d'IA generativa, excepte que sigui un entorn tancat i segur i que els tècnics us hagin garantit que ho és. I l'altra cosa: qualsevol resposta que us doni una eina d'IA generativa, sigui un text, una imatge o un vídeo, valideu-la. Ha construït una resposta molt creïble i el nivell que han aconseguit, tant en escriptura com en imatges, és admirable. Però s'inventen coses perquè es basen en dades. Quan no saben una cosa, generen una resposta estadísticament plausible a partir de les dades que tenen. Si tu no coneixes el tema, te la pots creure. Per tant, dues idees sobretot: no introduir dades personals en eines d'intel·ligència artificial generativa i validar sempre les respostes que et proporcionen.

Segueix-nos per saber què passa a la ciutat.

Subscriu-te gratuïtament al WhatsApp, Telegram i butlletí electrònic. I pots seguir-nos a Facebook, X, Instagram i TikTok.