Intel·ligència Artificial a la Generalitat: Progrés o Perill?

La decisió de la Generalitat de Catalunya de crear un departament específic per a la Intel·ligència Artificial subratlla un compromís formal i elevat per integrar la IA en les seves operacions fonamentals. Aquesta no és una decisió merament tècnica, sinó que reflecteix una estratègia política orientada a modernitzar la governança i abordar els reptes socials contemporanis, alineant-se amb les tendències globals de transformació digital en el sector públic.

La creació del nou departament d'IA sorgeix d'un reconeixement de l'estancament de la productivitat i la imperativa necessitat d'impulsar la competitivitat econòmica. Esdeveniments globals han accentuat aquestes dificultats. La Generalitat veu la IA com una eina crucial per fomentar la prosperitat i generar noves oportunitats, així com un element fonamental per defensar la democràcia i assegurar un progrés basat en valors democràtics. La millora de la qualitat de les institucions públiques i l'enfortiment de l'autogovern també fonamenten aquesta aposta.

L'objectiu principal del nou departament és "fer més àgil" l'administració, buscant simplificar i fer més eficients els processos. Es preveu redissenyar fins a 120 procediments administratius en els pròxims quatre anys, incorporant automatització i IA, i prioritzant els més utilitzats. Es promourà l'ús ètic, responsable i segur dels sistemes d'IA per millorar la qualitat dels serveis públics, avançant cap a una administració proactiva i centrada en el ciutadà. El nou departament s'emmarca en la "Catalonia.AI Artificial Intelligence Strategy". El CIDAI (Centre of Innovation for Data tech and Artificial Intelligence), coordinat per Eurecat, implementa activitats d'innovació i transferència de coneixement. La creació de la Direcció General d'IA representa una evolució, passant de la planificació estratègica a una operacionalització executiva directa dins de l'administració.

Taula 1: Objectius Clau del Nou Departament d'IA

La "Direcció General d'Intel·ligència Artificial" estarà operativa abans de l'estiu de 2025 i dependrà de la Secretaria de Telecomunicacions i Transformació Digital. Aquesta ubicació és estratègica, ja que la Secretaria ja gestiona la majoria dels projectes d'innovació. La nova direcció se sumarà a les de Serveis Digitals i Experiència Ciutadana, i Infraestructures Digitals. La Generalitat preveu triplicar la seva inversió anual en IA a 6.6 milions d'euros per al 2025. Es redissenyaran fins a 120 procediments administratius en quatre anys, prioritzant els més utilitzats. Un enfocament clau és que les innovacions siguin escalables transversalment, estenent-se a altres àrees de l'Administració per maximitzar l'impacte i no només millorar processos aïllats, sinó repensar i automatitzar parts substancials de l'estructura administrativa.

Diagrama Estructura (Conceptual):

Una eina d'IA al Departament de Territori ha reduït el temps de resolució d'informes mediambientals de quatre a dues hores; s'aplicarà als 15.000 informes anuals i s'estendrà a altres àrees com la gestió del patrimoni. L'estratègia Catalonia.AI fomenta la IA en sectors com l'agroalimentari, salut, medi ambient, mobilitat, turisme, cultura i indústria. El "Projecte AINA" desenvolupa models d'IA per a la integració del català. També hi ha un "programa accelerador d'IA" i un programa específic per a la IA en salut. L'Agència de Ciberseguretat utilitza IA per combatre ciberestafes.

S'espera que la IA condueixi a una gestió més àgil i eficient, amb serveis públics millors i més personalitzats. Permetrà una administració proactiva, optimitzant l'oferta de serveis i l'atenció ciutadana. No obstant això, l'Institut de Drets Humans de Catalunya (IDHC) ha alertat que almenys 17 aplicacions d'IA utilitzades per la Generalitat "vulneren els drets i llibertats de la ciutadania", set d'elles amb un "risc molt alt". Un exemple és un sistema que arxiva automàticament procediments judicials, podent impedir l'accés a la justícia. L'IDHC subratlla que "algunes decisions són massa importants perquè les prengui una màquina i no una persona".

Visualització de Riscos (IDHC Data)

Taula 2: Aplicacions d'IA amb Impacte en Drets Humans (Exemples)

L'AI Act de la UE obliga les empreses a analitzar si les seves aplicacions vulneren drets i a adaptar-les abans de l'estiu de 2027. L'Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OEIAC) ha desenvolupat el "Modelo PIO" com a eina d'autoavaluació ètica, alineat amb estàndards internacionals i drets humans. L'AI Act classifica els sistemes d'IA en quatre categories de risc: inacceptable, alt, limitat i mínim. L'IDHC advoca per una perspectiva de "drets humans" en lloc d'una purament "ètica". La Generalitat es compromet a un ús ètic, amb principis com la privacitat, el dret a entendre decisions, la mitigació de biaixos i la supervisió humana. Tanmateix, existeix una tensió entre aquest compromís i les alertes de l'IDHC, subratllant la necessitat de mecanismes robustos d'auditoria.

Categories de Risc de l'AI Act:

• Risc Inacceptable (Prohibit)
• Alt Risc (Requisits estrictes)
• Risc Limitat (Obligacions de transparència)
• Risc Mínim (Sense restriccions addicionals)

Python és líder en IA gràcies a llibreries com TensorFlow, Scikit-learn, NLTK. Es proposa un model per classificar sol·licituds ciutadanes. Aquest procés inclouria:

1. Recollida i preprocessament de text de sol·licituds (tokenització, lematització amb NLTK/SpaCy).
2. Representació de text (TF-IDF o Word Embeddings).
3. Entrenament d'un model de classificació (Regressió Logística, SVM amb Scikit-learn).

Codi Python Conceptual:

# Importar llibreries
import pandas as pd
from sklearn.feature_extraction.text import TfidfVectorizer
# ... (més imports)

# Dades simulades (text_original, categoria)
# ...

# Funció preprocess_text(text)
# ...

# Vectorització i entrenament
# ...
# model.fit(X_train, y_train)

# Predicció
# ... print(f"Categoria predita: {categoria_predita}")

Les ONGs necessiten gestionar consultes i coordinar voluntaris. Un chatbot amb Gemini pot automatitzar FAQs, guiar usuaris a serveis, i ajudar en comunicacions. Integració amb WordPress via:

• Plataformes No-code/Low-code (n8n, Zapier).
• Plugins de WordPress (ChatPress.ai).
• API Personalitzada.
• Plataformes de Chatbot (Botpress, Dialogflow).

Taula 3: Comparativa Eines Integració Gemini-WordPress

Objectius: desmitificar IA, identificar oportunitats, conèixer eines accessibles, debatre reptes ètics. Públic: personal administració i entitats socials. Mòduls:

1. Fonaments de la IA en el Sector Públic i Social.
2. Ètica i Regulació de la IA.
3. IA Pràctica amb Python (Hands-on).
4. Agents Intel·ligents amb Gemini (Hands-on).

Taula 4: Estructura Proposada del Taller

Síntesi: La Generalitat té un compromís ferm amb la IA (nova DG, Catalonia.AI, CIDAI), amb inversió i redisseny de procediments. No obstant això, hi ha una dualitat: gran potencial vs. reptes ètics crítics (vulneració de drets per apps existents, segons IDHC). L'AI Act i el Modelo PIO són crucials. Exemples pràctics amb Python i Gemini mostren el potencial democratitzador.

Recomanacions:

• Prioritzar implementació ètica i compliment normatiu (AI Act, Modelo PIO).
• Fomentar disseny centrat en l'ésser humà amb supervisió inherent.
• Invertir en talent i capacitació contínua.
• Promoure escalabilitat transversal i col·laboració.
• Donar suport a entitats socials en l'adopció d'IA.