En l’era digital, la lluita contra la corrupció ha trobat un poderós aliat en la intel·ligència artificial (IA). Aquesta tecnologia, amb la seua capacitat per analitzar grans volums de dades i detectar patrons ocults, ofereix eines sense precedents per identificar i prevenir actes fraudulents.
No obstant això, la seua implementació pràctica encara és molt limitada i a més no està exempta de desafiaments. En aquest article, explorem com la IA pot transformar la lluita contra la corrupció i reflexionarem sobre els dilemes de governança, organitzatius, humans i ètics que aquesta revolució tecnològica comporta.
En quins àmbits o àrees de la lluita contra la corrupció podríem aplicar la intel·ligència artificial?
Aquestes són algunes de les aplicacions que podria tenir la intel·ligència artificial:
Contractació pública:
- Control de la licitació pública monitoritzant les licitacions per detectar patrons anòmals, com licitacions a mida o licitacions sempre guanyades per la mateixa empresa.
- Revisió de contractes públics detectant clàusules inusuals o condicions potencialment corruptes.
Auditories públiques:
- Auditories de pressupostos per analitzar despeses d’ ajuntaments i altres administracions públiques, identificant assignacions irregulars o despeses injustificades.
- Control de subvencions i ajuts públics per detectar duplicitats o beneficiaris que no corresponen.
Detecció de patrons:
- Detecció de patrons anòmals a través de l’ aprenentatge automàtic ja que es poden analitzar grans volums de dades a la recerca de patrons anòmals que podrien indicar activitats fraudulentes. Per exemple, en transaccions financeres, licitacions, contractacions o subvencions.
- Anàlisi de text en revisar documents i correus electrònics a la recerca de termes o patrons sospitosos com en el cas de denúncies falses.
Recursos humans:
- Gestió de recursos humans per detectar irregularitats en processos selectius, promocions internes, permutes, etc.
- Control del conflicte d’ interès en identificar possibles relacions entre el personal de les administracions públiques i empreses privades.
Serveis públics:
- Detecció d’ irregularitats en la gestió de serveis públics en identificar possibles sobrecostos, deficiències o males pràctiques.
- Validació de documents oficials verificant l’ autenticitat i coherència de documents presentats en tràmits administratius evitant falsificacions.
Anàlisi de dades:
- Integració de bases de dades ja que en connectar bases de dades públiques (locals, nacionals o internacionals) es pot creuar informació i detectar possibles fraus de manera més eficient.
Protecció de dades:
- Protecció de dades sensibles en alertar sobre accessos no autoritzats o manipulacions en bases de dades governamentals.
- Optimització d’ investigacions ja que, en detectar un possible cas de frau, la IA podria recomanar una sèrie de passos o accions basant-se en casos anteriors optimitzant així els recursos i temps d’ investigació.
Sistemes d’ informació
- Sistemes de denúncia: Plataformes de denúncies anònimes potenciades per IA per garantir la protecció del denunciant i la validesa de la informació rebuda.
- Sistemes predictius: la IA podria ajudar a predir àrees o sectors amb major risc de frau en el futur basant-se en dades històriques i tendències actuals.
- Formació en ètica i integritat pública al personal de les administracions públiques i a la ciutadania adaptant els continguts a les necessitats reals de cada persona detectades per la pròpia IA.
Legislació i transparència
- Transparència en la presa de decisions: Eines d’IA que expliquen com es prenen certes decisions governamentals o corporatives, reduint la possibilitat d’ afavoriments indeguts.
- Revisió de legislació i normatives: La IA pot analitzar i comparar legislacions de diferents regions o països per proposar modificacions que redueixen buits legals que permeten la corrupció.
A continuació, vam veure exemples d’eines i aplicacions basades en la intel·ligència artificial que ja estan funcionant en l’àmbit de la lluita contra el frau i la corrupció basades. Les hem agrupat segons l’objectiu que persegueixen.
Eines per detectar la corrupció en la contractació pública
Comencem amb el cas de VigIA, una eina d’intel·ligència artificial concebuda pel Tic Tank de la Universitat del Rosari (Argentina) i recolzada per CAF -Banc de Desenvolupament d’Amèrica Llatina i Carib-, per a la Veeduria Distrital de Bogotà. L’objectiu de VigIA és identificar contractes de l’Alcaldia de Bogotà amb alt risc de corrupció i ineficiències, aprofitant les dades proporcionades pel Sistema Electrònic per a la Contractació Pública.
En l’àmbit de la iniciativa privada hem trobat el cas de Percephtor dissenyada per una empresa mexicana per ajudar la ciutadania a supervisar obres públiques, avaluar l’acompliment dels càrrecs polítics i combatre la corrupció. Aquesta eina realitza un reconeixement d’ objectes mitjançant imatges i vídeos. El 2022, es va identificar que el Govern de Mèxic gastava una mitjana de 2.7 milions de pesos per minut en obres públiques, una dada revelada per “Mexicans Contra la Corrupció i la Impunitat” que es refereix a despeses no declarades a CompraNet, el portal destinat a mostrar contractes públics.
El projecte Digiwhist de la Unió Europea és una eina de big data creada per detectar fraus a nivell europeu en la contractació pública. El projecte processa indicadors i dades públiques i manté una col·laboració estreta amb organitzacions centrades en la denúncia de corrupció com Xnet[i]
Apuntem que Xnet té una forta vinculació amb l’Agència Valenciana Antifrau ja que la bústies de denúncies de l’Agència està basat en la plataforma Globaleaks el qual va ser adaptat a la tecnologia i la legislació vigent per Xnet .
Aquest projecte Digiwhist és una col·laboració de sis organitzacions europees, liderada per la Universitat de Cambridge. Per a la seua creació han estudiat dades de contractació pública de 35 jurisdiccions amb les quals crear una base de dades pública. Amb la informació recopilada, Digiwhist ha dissenyat eines per promoure una contractació pública més transparent i justa. Aquestes eines són de lliure accés per al públic i ofereixen recursos valuosos per a ONGs, periodistes, administracions i empreses.
Les principals eines inclouen:
- www.opentender.eu: Plataforma per buscar licitacions públiques en 35 jurisdiccions.
- Mecanismes Europeus de Responsabilitat Pública (EuroPAM) que permet comparar normes legals i regulatòries en diferents jurisdiccions.
- Seguiment de les licitacions europees (MET): programari per avaluar riscos en procediments de contractació pública.
Eines d’intel·ligència artificial aplicades a la investigació del frau i la corrupció
Un exemple d’eina ja desenvolupada i que ha demostrat la seua eficàcia és Ravn, un programari amb intel·ligència artificial que pot filtrar, indexar i resumir documents de manera ràpida i sense errors, superant en eficiència els humans. Va guanyar notorietat pel paper que va jugar a l’hora de desvetllar un cas de corrupció a Rolls-Royce l’any 2008 ja que va ajudar la Serious Fraud Office (SFO) del Regne Unit a analitzar 30 milions de documents, processant 600.000 documents diàriament.
Aquests programes, coneguts com a ‘Lawtech’, utilitzen algoritmes intel·ligents per aprendre de la seua experiència, optimitzant temps i recursos. Poden realitzar tasques com indexar repositoris multinacionals o extreure números de passaport d’ imatges automàticament. Malgrat la seua eficàcia, no es veuen com una amenaça a l’ocupació en el sector jurídic, sinó com una eina per millorar l’eficiència.
Així mateix, a Espanya l’ administració tributària i la seguretat social disposen de plataformes digitals que faciliten i automatitzen processos i, en creuar informació, poden identificar fraus. Des de l’any 2015 la Direcció General de la Inspecció de Treball i Seguretat Social utilitza un programari basat en intel·ligència artificial (anàlisi de dades) per identificar el frau de manera més àgil amb el nom de Eina de lluita contra el frau.
L’ Agència Tributària també disposa d’ una eina per la qual es comproven de forma automatitzada les autoliquidacions presentades pels contribuents per detectar discrepàncies entre les dades incloses en l’ autoliquidació amb altres dades amb què disposa Hisenda.
Eines d’intel·ligència artificial per a la detecció de denúncies falses
La Policia Nacional ja treballa amb un sistema d’intel·ligència artificial anomenat VeriPol el qual és utilitzat per detectar denúncies falses. Aquest sistema va ser dissenyat juntament amb la Universitat Autònoma de Madrid a partir de l’augment de denúncies falses relacionades amb robatoris violents. El que fa és analitzar el llenguatge de les denúncies interposades utilitzant tècniques de processament del llenguatge natural i aprenentatge automàtic i ha demostrat una eficàcia del 91%.
Malgrat la seua eficàcia aquest sistema ha estat qüestionat recentment ja que es basa en l’anàlisi de 1.122 denúncies de l’any 2015, cosa que alguns experts consideren que no reflecteix adequadament la diversitat lingüística i social d’Espanya, ja que la majoria de les dades provenen d’Andalusia.
A més, l’algoritme no processa directament el llenguatge dels denunciants, sinó que interpreta el que els policies registren, cosa que pot introduir biaixos.
Eines d’intel·ligència artificial per detectar casos de conflicte d’interès
La intel·ligència artificial pot ajudar a combatre la corrupció en detectar irregularitats i conflictes d’interès mitjançant l’anàlisi massiva de dades. Perquè la IA sigui eficaç, és crucial comptar amb algoritmes precisos i dades de qualitat com és el cas d’ Arachne.
Arachne és un sistema digital creat per la Comissió Europea per millorar els controls de projectes finançats pels Fons Estructurals de la UE, com el Fons Social Europeu i el Fons Europeu de Desenvolupament Regional. Emmagatzemant dades d’aquests projectes i enriquint-se amb informació pública, Arachne identifica possibles riscos de frau, conflicte d’interessos i irregularitats. Tanmateix, la seua finalitat no és avaluar individualment els beneficiaris ni excloure’ls automàticament.
Per entendre com funciona les dades dels projectes provenen de les autoritats de gestió del FSE i FEDER que els Estats membres envien a la Comissió Europea. Arachne també utilitza dades de fonts externes, com Orbis i World Compliance, per millorar la seua anàlisi. L’ eina calcula indicadors de risc específics.
Amb Arachne es recopilen dades sobre beneficiaris, socis del projecte, contractistes, proveïdors de serveis i altres, incloent noms i adreces. També s’ inclou informació de fonts externes com dades sobre empreses, accionistes, i llistes de sancions.
Arachne, amb els seus mètodes d’anàlisi, és una eina essencial per a les autoritats de gestió en la lluita contra el frau i en la millora de la gestió de projectes finançats per la UE.
Eines d’intel·ligència artificial per a la prevenció de la corrupció
El Sistema d’Alertes Ràpides (SALER)[ii] de la Inspecció General de Serveis de la Generalitat Valenciana s’encarrega d’identificar indicis d’irregularitat en expedients administratius. Aquest sistema s’ utilitza en contractacions públiques, subvencions i caixa fixa. Les alertes detectades es comuniquen al cos d’ inspectors per a la seua anàlisi i actuació conforme a la llei.
Tot i que ha presentat algunes limitacions, ha demostrat ser eficaç a detectar anomalies. A més, compta amb un règim sancionador que penalitza accions com l’alteració intencionada d’informació dirigida al sistema.
Un altre projecte que destaquem és el Xarxa Flags[iii] finançat per la Comissió Europea i creat per diverses organitzacions a Hongria per monitorar la contractació pública en aquest país. Aquesta eina analitza procediments de contractació i, a través d’un algoritme, determina aquells amb més risc de corrupció basant-se en alertes predefinides segons la seua gravetat o probabilitat d’indicar corrupció real. A més, permet que tant ciutadans com empleats públics accedeixen a aquesta informació.
La Seguretat Social a Espanya està emprant un algoritme d’intel·ligència artificial per monitoritzar empleats en baixa laboral i detectar possibles fraus incorporats dins del projecte LINCE. Aquesta eina predictiva, en ús des de fa 5 anys, avalua l’ estat de salut de les persones i prediu la probabilitat de la seua aptitud per retornar a la feina.
L’algoritme determina quins expedients haurien de revisar primer els metges inspectors de l’Institut Nacional de la Seguretat Social (INSS). Si no s’ ha tramitat la reincorporació, el sistema marca l’ expedient com un potencial cas de frau.
Els professors Iturriaga i Sanz[iv] de la Universitat de Valladolid han desenvolupat un estudi que utilitza la intel·ligència artificial per predir en quines províncies espanyoles podria incrementar-se la corrupció en els pròxims anys.
Utilitzant un model de xarxes neuronals l’estudi va processar dades econòmiques i polítiques entre els anys 2000 a 2012 per identificar àrees propenses a la corrupció i les condicions que l’afavoreixen. Una de les conclusions és que la probabilitat de corrupció augmenta si un partit polític roman molt de temps en el poder. A més, factors com l’alça en l’impost de béns immobles, un increment en els preus de l’habitatge, l’obertura de moltes oficines bancàries i la creació de noves empreses poden ser indicatius de corrupció. Aquesta investigació és innovadora perquè utilitza dades reals en comptes d’ índexs de percepció subjectiva, com es feia anteriorment.
Quins problemes podria plantejar la implantació de la intel·ligència artificial?
La implantació d’eines d’intel·ligència artificial en la lluita contra el frau i la corrupció podria plantejar, però, els següents problemes:
- Resistència al canvi i falta de formació.
Una de les principals barreres per a la implantació de la intel·ligència artificial és la resistència al canvi per part del personal de les administracions públiques. Molts professionals poden sentir-se amenaçats per la irrupció de tecnologies que consideren poden suplantar els seus llocs o que dificulten el seu treball habitual a causa de la falta de formació específica en el maneig d’ aquestes eines.
Per superar aquest obstacle, és essencial promoure programes de formació i capacitació que permetin al personal comprendre millor la intel·ligència artificial, el seu funcionament, i com pot ser una eina complementària que facilita i millora la seua tasca, en lloc de reemplaçar-la. També és cabdal gestionar adequadament les expectatives i comunicar clarament els objectius i beneficis d’ aquestes iniciatives.
- Problemes de privacitat i protecció de dades.
La intel·ligència artificial requereix l’accés a grans volums de dades per al seu adequat funcionament. Tanmateix, la gestió d’ aquestes dades en l’ àmbit públic planteja serioses preocupacions quant a la privacitat i la protecció de la informació personal de la ciutadania. L’ús indegut o l’exposició involuntària d’aquestes dades poden tenir greus conseqüències sobretot en el cas de les persones denunciants de corrupció.
Per tant, és fonamental establir protocols de seguretat que garanteixen que les solucions d’intel·ligència artificial s’ajustin a les normatives de protecció de dades vigents.
- Manca d’infraestructura tecnològica.
La implementació de sistemes basats en intel·ligència artificial requereix d’una infraestructura tecnològica avançada i actualitzada.
És essencial, per tant, crear xarxes de col·laboració, així com la implicació d’organismes nacionals i europeus que promoguin aquest tipus de tecnologies.
La pròxima posada en funcionament de l’Agència Espanyola d’Intel·ligència Artificial podria contribuir al desenvolupament d’aquests projectes.
- Biaixos.
Tot i que la intel·ligència artificial pot ser una eina poderosa en la detecció de patrons i anomalies, no està exempta d’errors. Els algoritmes s’alimenten de dades, i si aquestes dades contenen biaixos o aquestes dades no són representatives, les conclusions derivades podrien ser errònies o injustes. Això és especialment preocupant en l’àmbit públic, on decisions basades en dades errònies poden tenir greus repercussions per a la ciutadania.
Per mitigar aquest risc, és fonamental adoptar un enfocament crític i continu de revisió i validació dels models d’intel·ligència artificial. A més, s’han d’establir protocols que permetin la correcció ràpida d’errors i garantir que els sistemes no perpetuïn ni amplifiquen els biaixos existents en les dades o en la societat a més de garantir la protecció dels drets fonamentals i la privacitat dels ciutadans en l’ús de big data i sistemes automatitzats per part de l’administració pública (Os, 2021)[v].
Al llarg d’aquestes pàgines hem anat desgranant algunes de les principals utilitats que la intel·ligència artificial pot tenir en la lluita contra el frau i la corrupció.
Hem analitzat eines que ja estan implantades i en funcionament, i hem aventurat altres aplicacions que es podrien desenvolupar. La fase incipient en què es troba aquesta tecnologia no ens permet més que visibilitzar una petita part de les aplicacions que en un futur segurament tindrà.
A tall de conclusió destaquem aquests 3 aspectes:
- L’enorme potencial de la intel·ligència artificial.
Gràcies a la seua capacitat per analitzar grans volums de dades en temps rècord, la intel·ligència artificial pot detectar patrons i anomalies que serien pràcticament invisibles per a l’ull humà o que requeririen enormes esforços i temps per ser identificats. Això no només agilitza les investigacions i la millora quant a la precisió en la detecció d’ activitats corruptes, sinó que també pot actuar de forma preventiva, en identificar àrees de risc abans que aquests es materialitzin.
- Necessitat d’una implementació acurada i ètica.
La implementació de la intel·ligència artificial en l’àmbit de la lluita contra la corrupció no està exempta de reptes i desafiaments. Qüestions com la privacitat de les dades, els biaixos en els algoritmes i la dependència de proveïdors externs requereixen d’ una especial cura.
És important que les administracions dedicades a la lluita contra el frau i la corrupció adoptin un enfocament ètic i transparent, garantint que els sistemes d’intel·ligència artificial siguin justos, imparcials i respectin els drets fonamentals de la ciutadania. La formació i la conscienciació del personal que treballa en les administracions públiques sobre aquestes qüestions serà cabdal per garantir una implementació exitosa i ètica.
- La intel·ligència artificial com a complement, no com a substitut.
Tot i que la intel·ligència artificial pot ser una aliada en la lluita contra la corrupció, no es pot considerar com un substitut dels sistemes i mecanismes actuals de control i vigilància. Més aviat al contrari, s’ ha de veure com una eina complementària que potencia i reforça les accions de les administracions en aquesta àrea.
La combinació de les habilitats humanes amb les capacitats analítiques de la intel·ligència artificial ofereix la fórmula perfecta per combatre la corrupció garantint la integritat i la transparència en les nostres administracions públiques.
Amalia López Acera
Cap d’unitat de relacions institucionals, comunicació i participació de l’AVAF
[i] Almonacid, V., & Alamà, J. 2012. Bústies de denúncies: Què, Qui, Quan, On i Per què. Antifrau CV.
https://www.antifraucv.es/buzones-de-denuncias-que-quien-cuando-donde-y-por-que/
[ii] https://participacio.gva.es/documents/162282364/164407117/Documento+explicativo-+Presentaci%25C3%25B3n+del+Sistema+de+Alertas/b1228cc0-d5bc-4121-bb63-87eb7180d262
[iii] https://www.redflags.eu/
[iv] López-Iturriaga, F. J., & Sanz, I. P. (2018). Predicting public corruption with neural networks: An analysis of spanish provinces. Social Indicators Research, 140, 975-998.
[v] Os, L. C. (2021). Cap a la transparència 4.0, l’ús de la intel·ligència artificial i big data per a la lluita contra el frau i la corrupció i les (moltes) exigències constitucionals. In Repensando la Administración digital y la innovación pública (pp. 169-196). Institut Nacional d’Administració Pública (INAP).
