EXPLAINME: Un projecte per fer una intel·ligència artificial més explicable i centrada en les persones

Els investigadors de la Unitat de Gràfics i Visió i Intel·ligència Artificial de la Universitat de les Illes Balears lideren una projecte de recerca que aborda la transparència, la confiança i l’ètica en l’ús de les tecnologies d’intel·ligència artificial 

Un equip d’investigadors de la Unitat de Gràfics, Visió i Intel·ligència Artificial (UGiVIA) de la Universitat de les Illes Balears lidera el projecte EXPLAINME, que té com a objectiu desenvolupar mètodes i eines per a una intel·ligència artificial (IA) explicable i centrada en les persones. Aquest projecte aborda reptes clau relacionats amb la transparència, la confiança i l’ètica en l’ús d’aquesta tecnologia.

Cap a una IA comprensible

El projecte EXPLAINME (EXPLainable Artificial INtelligence Methods and Evaluation for trustworthy, human-centric, and ethical AI: PID2023-149079OB-I00), finançat per MICIU/AEI/10.13039/501100011033 i FEDER/UE, neix davant l’increment de l’ús de la IA en sectors crítics com la salut, el benestar i la indústria, on la seva aplicació sovint genera resultats mals d’interpretar.

Aquesta manca de comprensió pot generar desconfiança entre els usuaris i dificultar l’adopció de la IA en àmbits sensibles. Per abordar aquest repte, el projecte se centra en el desenvolupament d’una intel·ligència artificial que sigui més comprensible per als humans i alineada amb els valors ètics i socials.

L’objectiu principal d’EXPLAINME és crear sistemes d’IA que, a més de ser tècnicament robustos, siguin respectuosos amb els drets humans, la diversitat i la inclusió. Segons els investigadors, això es pot aconseguir integrant principis de disseny centrat en l’usuari i establint estàndards per avaluar l’explicabilitat dels sistemes d’IA.

Aplicacions en salut i atenció a la gent gran

El projecte desenvoluparà dos demostradors pràctics. Un serà una eina de suport al diagnòstic mèdic per a la malaltia de cèl·lules falciformes, una patologia que afecta milions de persones arreu del món. L'altre demostrador serà un sistema de monitoratge per a gent gran que viu tota sola, amb l’objectiu de millorar la seva seguretat i qualitat de vida. Aquestes aplicacions reflecteixen el compromís del projecte amb els Objectius de desenvolupament sostenible (ODS) de les Nacions Unides, ja que aborda reptes de salut i de benestar social.

Impacte científic i formació

EXPLAINME també té com a meta tenir un impacte significatiu en la generació de coneixement científic. Els investigadors preveuen publicar una sèrie d’articles en revistes d’alt impacte i participar en congressos internacionals per difondre’n els resultats.

A més, el projecte està compromès amb la formació de noves generacions d’investigadors mitjançant tesis doctorals i col·laboracions internacionals. 

Data de publicació: 28/01/2025