Els usos ètics de la intel·ligència artificial (IA) no són simplement una opció que cal considerar sinó una obligació tant des del punt de vista legal com en termes de responsabilitat per tal de generar una major confiança en aquesta tecnologia.
Aquest és un dels principals objectius de l’Observatori d’Ètic en Intel·ligència Artificial de Catalunya (OEIAC), ubicat a la Universitat de Girona, que aquest mes de gener ha dut a terme un cicle de formacions sobre Ètica i Intel·ligència Artificial (IA) en el marc de l’associació de Cases de Turisme Rural Girona – Costa Brava.
Aquestes formacions són indispensables no tan sols per afavorir el compliment de la normativa actual sobre riscos associats a la IA, també per identificar accions adequades o inadequades i sensibilitzar a la quàdruple hèlix sobre la importància d’adoptar principis ètics i estàndards d’alt nivell en el disseny, implementació i ús de dades i sistemes d’IA.
Aprofitant que, des de l’associació de Cases de Turisme Rural Girona – Costa Brava - Pirineu se’ns va traslladar l’encàrrec d’un cicle de formacions en matèria d’IA, hem pogut compartir informació així com donar algunes respostes i explicar millor tot aquest canvi que suposa la IA, i concretar com es tradueix per al sector turístic i quin ús pot tenir per a les cases de turisme rural.
Així doncs, el cicle va consistir en tres jornades que van permetre introduir i explicar el concepte d’intel·ligència artificial, els orígens i l’evolució per a poder ubicar i conèixer de què parlem exactament quan parlem d’IA. A la segona sessió es va dibuixar la normativa legal i les recomanacions ètiques i legals vigents. Sobretot, conèixer el Reglament Intel·ligència Artificial de la Unió Europea (AI Act) aprovat l’agost del 2024 amb l’objectiu de saber les obligacions i prohibicions per a poder integrar sistemes d’IA a les nostres cases de turisme rural d’acord amb la legalitat.
Finalment, en la darrera sessió es va aterrar tot aquest coneixement avaluant diferents sistemes hipotètics d’IA d’acord amb el Model PIO, que és un sistema d’autoavaluació que hem creat des de l’OEIAC amb l’objectiu que tota persona (usuària, desplegadora o desenvolupadora) pugui avaluar gratuïtament llur sistema d’IA per a determinar si és ètic i legal a partir de principis ètics i requeriments legals. Així doncs, les preguntes del Model PIO estan fonamentades en la AI Act, però no només, també hem inclòs la digestió de tota la normativa que interactua amb la IA a escala estatal, comunitària europea i internacional amb l’objectiu d’obtenir un resultat molt més fonamentat. Encara més, tota la normativa que constitueix el marc de les obligacions, van acompanyades de recomanacions ètiques i legals a escala també internacional per tal que el resultat sigui més ampli incloent els drets que donen forma a l’ètica. Per tant, després de sotmetre el sistema d’IA que voleu, que desplegueu o que heu adquirit, amb el model PIO obtindreu amb detall el grau d’adequació a la legalitat i l’ètica vigent.
A la pàgina web de l’OEIAC (oeiac.cat) trobareu recursos i informació, i també la possibilitat d’un acompanyament del procés d’avaluació per realitzar una verificació tan efectiva com sigui possible de la normativa legal i de les recomanacions ètiques a través dels estàndards internacionals. Això significa que podeu sol·licitar més informació detallada al personal tècnic de l’OEIAC per tal que us acompanyi en el procés d’autoavaluació tenint en compte les vostres necessitats.
Equip de l’OEIAC.