La inteligencia artificial entra en la agenda directiva: comprenderla antes de adoptarla

La última sesión del Update Directivo abordó los fundamentos de la inteligencia artificial, sus posibilidades y limitaciones y los criterios que deben guiar una adopción responsable en las organizaciones sanitarias. La sesión, conducida por Antoni Berenguer, del Área de Inteligencia Artificial de la Fundación TIC Salud y Social y del Programa Salud/IA, hizo hincapié en una idea central: antes de preguntarnos qué IA queremos incorporar, es necesario comprender qué puede aportar, qué limitaciones tiene y qué problema queremos resolver.  

«Es para ayudarnos a entender mejor qué es lo que puede y qué es lo que no puede hacer [la IA], es decir, su potencial y sus limitaciones.» 

Una cuestión especialmente relevante para las personas con responsabilidades directivas en salud, porque este conocimiento permite valorar con mayor criterio cómo una tecnología de estas características puede contribuir a mejorar los procesos asistenciales. 

Durante la sesión, Berenguer situó el fenómeno actual de la IA en perspectiva histórica. Recordó que la disciplina no es nueva e hizo un recorrido desde la conferencia de Dartmouth de 1956 hasta la reciente expansión de la IA generativa. También señaló que la historia de esta tecnología ha estado marcada por períodos de entusiasmo, promesas y expectativas que no siempre se han cumplido en los plazos previstos.

El cambio de los últimos años ha sido sobre todo su gran visibilidad pública. El crecimiento de la IA generativa y de distintos asistentes ha llevado esta tecnología a millones de personas y ha multiplicado, al mismo tiempo, los discursos sobre sus posibilidades.

Precisamente por eso, Berenguer defendió la necesidad de generar espacios que ayuden a poner el fenómeno en contexto: 

«Se trata de dar un espacio, un canal de comunicación distinto, más realista, más con los pies puestos en el suelo.» 

Durante la sesión, se puso el foco no solo en las oportunidades de la IA, sino también en los problemas reales que ya planteaba su adopción en el ámbito sanitario, alejándose tanto de una visión excesivamente optimista como de los escenarios más catastrofistas.

Una de las cuestiones que se abordó fue lo que significaba, realmente, hablar de “inteligencia” artificial. Se explicó que los sistemas de IA podían ofrecer resultados muy potentes en tareas determinadas, pero que esto no implicaba que dispusieran de todas las capacidades que asociamos a la inteligencia humana. Esta distinción se consideró especialmente relevante frente a sistemas generativos capaces de producir textos y respuestas aparentemente coherentes y convincentes.

También se remarcó que una apariencia convincente no equivalía necesariamente a comprensión. La capacidad de generar respuestas plausibles convivía con limitaciones a conocer, como las alucinaciones, los sesgos derivados de los datos, la fragilidad ante determinados cambios de contexto o la necesidad de supervisión humana.

En este sentido, se subrayó que para una organización sanitaria entender estas limitaciones era tan importante como conocer el potencial de la tecnología.

Decidir sobre IA es también una competencia directiva 

El debate fue más allá del rendimiento tecnológico. En un entorno como el sanitario, se planteó que adoptar una solución de IA implicaba preguntarse con qué datos se había desarrollado, si estos datos eran representativos de la población en la que se utilizaría, si el sistema había sido validado adecuadamente y qué supervisión profesional necesitaba .

A partir de ahí, se introdujo la importancia del concepto de IA fiable: una tecnología que no solo ofreciera buenos resultados, sino que también fuera robusta, evaluable, segura, explicable y coherente con criterios éticos y legales.

Durante la sesión también se abordaron distintos marcos que podían ayudar a las organizaciones a orientar este proceso de evaluación, así como las implicaciones de la regulación europea en ámbitos especialmente sensibles como la salud y el tratamiento de datos.

Para las personas con responsabilidades de dirección, una de las consecuencias más prácticas de esa mirada fue la necesidad de cambiar el orden de las preguntas. Se insistió en que no se trataba de empezar por «¿dónde podemos poner IA?», sino para determinar qué problema se quería resolver, qué impacto se esperaba obtener y si la inteligencia artificial era realmente la mejor forma de abordarlo .

Se planteó que la evaluación de una solución debía ir más allá de su precisión técnica y considerar aspectos como la seguridad, los sesgos, la protección de los datos, el coste-beneficio, la adecuación a los flujos de trabajo, la capacitación de los equipos, la gestión del cambio, la aceptación de las personas usuarias y el impacto legal.

La sesión permitió también conocer el papel de la Fundación TIC Salud y Social en el análisis de las tecnologías que pueden tener impacto en el sistema sanitario y social de Cataluña.

Berenguer lo explica en la entrevista a través de una metáfora: un sistema de salud de gran tamaño necesita tiempo para transformarse. Por eso, la Fundación puede actuar como una estructura más ágil que explora anticipadamente los cambios tecnológicos, aprende y transfiere este conocimiento al conjunto del sistema. 

«(En la Fundació) hacemos como exploradores para ver qué es lo que hay delante, sobre todo en tecnología y en lo que puede cambiar en el sistema de salud y en el sistema social de Cataluña.» 

Esta sesión del Update Directivo sitúa así la inteligencia artificial no solo como una cuestión tecnológica, sino como un ámbito que las personas con responsabilidades de dirección deben comprender para poder tomar decisiones informadas.

Conocer su potencial permite identificar oportunidades para mejorar procesos asistenciales y organizativos. Conocer sus limitaciones es igualmente importante para determinar cuándo utilizarla, con qué garantías y cuándo una solución basada en IA quizá no sea necesaria.

¿Qué ideas nos llevamos a casa? La Sonora lo resume en formato pódcast 

Para poder escuchar a los participantes de este programa formativo con qué ideas se han quedado, os dejamos los dos pódcast elaborados por los propios asistentes. La Sonora es una actividad pedagógica que pretende mantener la atención durante la sesión explicativa de la persona experta y que quiere incentivar la reflexión, el conocimiento compartido y el poder fijar los conocimientos a través de elaborar un pódcast. 

Puedes escucharlos todos en la página del Update Directivo 2026.