La intel·ligència artificial entra a l’agenda directiva: comprendre-la abans d’adoptar-la

La intel·ligència artificial ha passat en molt poc temps de ser una tecnologia coneguda principalment en àmbits especialitzats a formar part de converses quotidianes, entorns professionals i processos de decisió. Però la velocitat amb què s’ha popularitzat també ha contribuït a generar expectatives, temors i visions que no sempre s’ajusten a les capacitats reals de la tecnologia. 

Aquesta va ser precisament el punt de partida de la sessió dedicada a conceptes bàsics i fonaments d’intel·ligència artificial de l’Update Directiu. Lluny d’entrar en qüestions estrictament tècniques, la proposta ha volgut proporcionar a les persones amb responsabilitats directives criteris per entendre la tecnologia abans de prendre decisions sobre la seva incorporació. 

«És per ajudar-nos a entendre millor què és el que pot fer i què és el que no pot fer [la IA], és a dir, el seu potencial i les seves limitacions.» 

Una qüestió especialment rellevant per a les persones amb responsabilitats directives en salut, perquè aquest coneixement permet valorar amb més criteri com una tecnologia d’aquestes característiques pot contribuir a millorar els processos assistencials.  

Durant la sessió, Berenguer va situar el fenomen actual de la IA en perspectiva històrica. Va recordar que la disciplina no és nova i va fer un recorregut des de la conferència de Dartmouth de 1956 fins a l’expansió recent de la IA generativa. També va assenyalar que la història d’aquesta tecnologia ha estat marcada per períodes d’entusiasme, promeses i expectatives que no sempre s’han complert en els terminis previstos.

El canvi dels darrers anys ha estat, sobretot, la seva gran visibilitat pública. El creixement de la IA generativa i de diferents assistents ha portat aquesta tecnologia a milions de persones i ha multiplicat, alhora, els discursos sobre les seves possibilitats.

Precisament per això, Berenguer va defensar la necessitat de generar espais que ajudin a posar el fenomen en context: 

«Es tracta de donar un espai, un canal de comunicació diferent, més realista, més amb els peus posats a terra.» 

Durant la sessió, es va posar el focus no només en les oportunitats de la IA, sinó també en els problemes reals que ja plantejava la seva adopció en l’àmbit sanitari, allunyant-se tant d’una visió excessivament optimista com dels escenaris més catastrofistes.

Una de les qüestions que es va abordar va ser què significava, realment, parlar d’“intel·ligència” artificial. Es va explicar que els sistemes d’IA podien oferir resultats molt potents en tasques determinades, però que això no implicava que disposessin de totes les capacitats que associem a la intel·ligència humana. Aquesta distinció es va considerar especialment rellevant davant de sistemes generatius capaços de produir textos i respostes aparentment coherents i convincents.

També es va remarcar que una aparença convincent no equivalia necessàriament a comprensió. La capacitat de generar respostes plausibles convivia amb limitacions que calia conèixer, com les al·lucinacions, els biaixos derivats de les dades, la fragilitat davant de determinats canvis de context o la necessitat de supervisió humana.

En aquest sentit, es va subratllar que, per a una organització sanitària, entendre aquestes limitacions era tan important com conèixer el potencial de la tecnologia.

Decidir sobre IA també és una competència directiva 

El debat va anar més enllà del rendiment tecnològic. En un entorn com el sanitari, es va plantejar que adoptar una solució d’IA implicava preguntar-se amb quines dades s’havia desenvolupat, si aquestes dades eren representatives de la població en què s’utilitzaria, si el sistema havia estat validat adequadament i quina supervisió professional necessitava.

A partir d’aquí, es va introduir la importància del concepte d’IA fiable: una tecnologia que no només oferís bons resultats, sinó que també fos robusta, avaluable, segura, explicable i coherent amb criteris ètics i legals.

Durant la sessió també es van abordar diferents marcs que podien ajudar les organitzacions a orientar aquest procés d’avaluació, així com les implicacions de la regulació europea en àmbits especialment sensibles com la salut i el tractament de dades.

Per a les persones amb responsabilitats de direcció, una de les conseqüències més pràctiques d’aquesta mirada va ser la necessitat de canviar l’ordre de les preguntes. Es va insistir que no es tractava de començar per «on podem posar IA?», sinó per determinar quin problema es volia resoldre, quin impacte s’esperava obtenir i si la intel·ligència artificial era realment la millor manera d’abordar-lo.

A partir d’aquí, es va plantejar que l’avaluació d’una solució havia d’anar més enllà de la seva precisió tècnica i havia de considerar aspectes com la seguretat, els biaixos, la protecció de les dades, el cost-benefici, l’adequació als fluxos de treball, la capacitació dels equips, la gestió del canvi, l’acceptació de les persones usuàries i l’impacte legal, ètic i social.

La sessió va permetre també conèixer el paper de la Fundació TIC Salut i Social en l’anàlisi de les tecnologies que poden tenir impacte en el sistema sanitari i social de Catalunya. 

Berenguer ho explica a l'entrevista a través d’una metàfora: un sistema de salut de grans dimensions necessita temps per transformar-se. Per això, la Fundació pot actuar com una estructura més àgil que explora anticipadament els canvis tecnològics, aprèn i transfereix aquest coneixement al conjunt del sistema. 

«(A la Fundació) fem com d’exploradors per veure què és el que hi ha davant, sobretot en tecnologia i en el que pot canviar en el sistema de salut i en el sistema social de Catalunya.» 

La darrera sessió de l’Update Directiu situa així la intel·ligència artificial no només com una qüestió tecnològica, sinó com un àmbit que les persones amb responsabilitats de direcció han de comprendre per poder prendre decisions informades. 

Conèixer-ne el potencial permet identificar oportunitats per millorar processos assistencials i organitzatius. Conèixer-ne les limitacions és igualment important per determinar quan utilitzar-la, amb quines garanties i quan una solució basada en IA potser no és necessària. 

Quines idees ens portem a casa? La Sonora ho resumeix en format pòdcast 

Per poder escoltar els participants d'aquest programa formatiu amb quines idees s'han quedat us deixem els dos pòdcasts elaborats pels mateixos assistents. La Sonora és una activitat pedagògica que pretén mantenir l'atenció durant la sessió explicativa de la persona experta i que vol incentivar la reflexió, el coneixement compartit i poder fixar els coneixements a través d'elaborar un pòdcast. 

Podeu escoltar-los tots a la pàgina de l'Update Directiu 2026.