En la era digital, la lucha contra la corrupción ha encontrado un poderoso aliado en la inteligencia artificial (IA). Esta tecnología, con su capacidad para analizar grandes volúmenes de datos y detectar patrones ocultos, ofrece herramientas sin precedentes para identificar y prevenir actos fraudulentos.
Sin embargo, su implementación práctica todavía es muy limitada y además no está exenta de desafíos. En este artículo, exploramos cómo la IA puede transformar la lucha contra la corrupción y reflexionaremos sobre los dilemas de gobernanza, organizativos, humanos y éticos que esta revolución tecnológica conlleva.
¿En qué ámbitos o áreas de la lucha contra la corrupción podríamos aplicar la inteligencia artificial?
Estas son algunas de las aplicaciones que podría tener la inteligencia artificial:
Contratación pública:
- Control de la licitación pública monitorizando las licitaciones para detectar patrones anómalos, como licitaciones a medida o licitaciones siempre ganadas por la misma empresa.
- Revisión de contratos públicos detectando cláusulas inusuales o condiciones potencialmente corruptas.
Auditorías públicas:
- Auditorías de presupuestos para analizar gastos de ayuntamientos y otras administraciones públicas, identificando asignaciones irregulares o gastos injustificados.
- Control de subvenciones y ayudas públicas para detectar duplicidades o beneficiarios que no corresponden.
Detección de patrones:
- Detección de patrones anómalos a través del aprendizaje automático ya que se pueden analizar grandes volúmenes de datos en busca de patrones anómalos que podrían indicar actividades fraudulentas. Por ejemplo, en transacciones financieras, licitaciones, contrataciones o subvenciones.
- Análisis de texto al revisar documentos y correos electrónicos en busca de términos o patrones sospechosos como en el caso de denuncias falsas.
Recursos humanos:
- Gestión de recursos humanos para detectar irregularidades en procesos selectivos, promociones internas, permutas, etc.
- Control del conflicto de interés al identificar posibles relaciones entre el personal de las administraciones públicas y empresas privadas.
Servicios públicos:
- Detección de irregularidades en la gestión de servicios públicos al identificar posibles sobrecostes, deficiencias o malas prácticas.
- Validación de documentos oficiales verificando la autenticidad y coherencia de documentos presentados en trámites administrativos evitando falsificaciones.
Análisis de datos:
- Integración de bases de datos ya que al conectar bases de datos públicas (locales, nacionales o internacionales) se puede cruzar información y detectar posibles fraudes de manera más eficiente.
Protección de datos:
- Protección de datos sensibles al alertar sobre accesos no autorizados o manipulaciones en bases de datos gubernamentales.
- Optimización de investigaciones ya que, al detectar un posible caso de fraude, la IA podría recomendar una serie de pasos o acciones basándose en casos anteriores optimizando así los recursos y tiempos de investigación.
Sistemas de información
- Sistemas de denuncia: Plataformas de denuncias anónimas potenciadas por IA para garantizar la protección del denunciante y la validez de la información recibida.
- Sistemas predictivos: la IA podría ayudar a predecir áreas o sectores con mayor riesgo de fraude en el futuro basándose en datos históricos y tendencias actuales.
- Formación en ética e integridad pública al personal de las administraciones públicas y a la ciudadanía adaptando los contenidos a las necesidades reales de cada persona detectadas por la propia IA.
Legislación y transparencia
- Transparencia en la toma de decisiones: Herramientas de IA que expliquen cómo se toman ciertas decisiones gubernamentales o corporativas, reduciendo la posibilidad de favorecimientos indebidos.
- Revisión de legislación y normativas: La IA puede analizar y comparar legislaciones de diferentes regiones o países para proponer modificaciones que reduzcan vacíos legales que permiten la corrupción.
A continuación, vamos a ver ejemplos de herramientas y aplicaciones basadas en la inteligencia artificial que ya están funcionando en el ámbito de la lucha contra el fraude y la corrupción basadas. Las hemos agrupado según el objetivo que persiguen.
Herramientas para detectar la corrupción en la contratación pública
Comenzamos con el caso de VigIA, una herramienta de inteligencia artificial concebida por el Tic Tank de la Universidad del Rosario (Argentina) y respaldada por CAF -Banco de Desarrollo de América Latina y Caribe-, para la Veeduría Distrital de Bogotá. El objetivo de VigIA es identificar contratos de la Alcaldía de Bogotá con alto riesgo de corrupción e ineficiencias, aprovechando los datos proporcionados por el Sistema Electrónico para la Contratación Pública.
En el ámbito de la iniciativa privada hemos encontrado el caso de Percephtor diseñada por una empresa mexicana para ayudar a la ciudadanía a supervisar obras públicas, evaluar el desempeño de los cargos políticos y combatir la corrupción. Esta herramienta realiza un reconocimiento de objetos mediante imágenes y videos. En 2022, se identificó que el Gobierno de México gastaba un promedio de 2.7 millones de pesos por minuto en obras públicas, un dato revelado por “Mexicanos Contra la Corrupción y la Impunidad” que se refiere a gastos no declarados en CompraNet, el portal destinado a mostrar contratos públicos.
El proyecto Digiwhist de la Unión Europea es una herramienta de big data creada para detectar fraudes a nivel europeo en la contratación pública. El proyecto procesa indicadores y datos públicos y mantiene una colaboración estrecha con organizaciones centradas en la denuncia de corrupción como Xnet[i]
Apuntamos que Xnet tiene una fuerte vinculación con la Agencia Valenciana Antifraude ya que el buzón de denuncias de la Agencia está basado en la plataforma Globaleaks el cual fue adaptado a la tecnología y la legislación vigente por Xnet .
Este proyecto Digiwhist es una colaboración de seis organizaciones europeas, liderada por la Universidad de Cambridge. Para su creación han estudiado datos de contratación pública de 35 jurisdicciones con las que crear una base de datos pública. Con la información recopilada, Digiwhist ha diseñado herramientas para promover una contratación pública más transparente y justa. Estas herramientas son de libre acceso para el público y ofrecen recursos valiosos para ONGs, periodistas, administraciones y empresas.
Las principales herramientas incluyen:
- www.opentender.eu: Plataforma para buscar licitaciones públicas en 35 jurisdicciones.
- Mecanismos Europeos de Responsabilidad Pública (EuroPAM) que permite comparar normas legales y regulatorias en distintas jurisdicciones.
- Seguimiento de las licitaciones europeas (MET): software para evaluar riesgos en procedimientos de contratación pública.
Herramientas de inteligencia artificial aplicadas a la investigación del fraude y la corrupción
Un ejemplo de herramienta ya desarrollada y que ha demostrado su eficacia es Ravn, un software con inteligencia artificial que puede filtrar, indexar y resumir documentos de manera rápida y sin errores, superando en eficiencia a los humanos. Ganó notoriedad por el papel que jugó a la hora de desvelar un caso de corrupción en Rolls-Royce en el año 2008 ya que ayudó a la Serious Fraud Office (SFO) del Reino Unido a analizar 30 millones de documentos, procesando 600.000 documentos diariamente.
Estos programas, conocidos como ‘Lawtech’, utilizan algoritmos inteligentes para aprender de su experiencia, optimizando tiempo y recursos. Pueden realizar tareas como indexar repositorios multinacionales o extraer números de pasaporte de imágenes automáticamente. A pesar de su eficacia, no se ven como una amenaza al empleo en el sector jurídico, sino como una herramienta para mejorar la eficiencia.
Así mismo, en España la administración tributaria y la seguridad social disponen de plataformas digitales que facilitan y automatizan procesos y, al cruzar información, pueden identificar fraudes. Desde el año 2015 la Dirección General de la Inspección de Trabajo y Seguridad Social utiliza un software basado en inteligencia artificial (análisis de datos) para identificar el fraude de manera más ágil con el nombre de Herramienta de lucha contra el fraude.
La Agencia Tributaria también dispone de una herramienta por la cual se comprueban de forma automatizada las autoliquidaciones presentadas por los contribuyentes para detectar discrepancias entre los datos incluidos en la autoliquidación con otros datos con los que dispone Hacienda.
Herramientas de inteligencia artificial para la detección de denuncias falsas
La Policía Nacional ya trabaja con un sistema de inteligencia artificial llamado VeriPol el cual es utilizado para detectar denuncias falsas. Ese sistema fue diseñado junto con la Universidad Autónoma de Madrid a partir del aumento de denuncias falsas relacionadas con robos violentos. Lo que hace es analizar el lenguaje de las denuncias interpuestas utilizando técnicas de procesamiento del lenguaje natural y aprendizaje automático y ha demostrado una eficacia del 91%.
A pesar de su eficacia este sistema ha sido cuestionado recientemente ya que se basa en el análisis de 1.122 denuncias del año 2015, lo que algunos expertos consideran que no refleja adecuadamente la diversidad lingüística y social de España, ya que la mayoría de los datos provienen de Andalucía.
Además, el algoritmo no procesa directamente el lenguaje de los denunciantes, sino que interpreta lo que los policías registran, lo que puede introducir sesgos.
Herramientas de inteligencia artificial para detectar casos de conflicto de interés
La inteligencia artificial puede ayudar a combatir la corrupción al detectar irregularidades y conflictos de interés mediante el análisis masivo de datos. Para que la IA sea eficaz, es crucial contar con algoritmos precisos y datos de calidad como es el caso de Arachne.
Arachne es un sistema digital creado por la Comisión Europea para mejorar los controles de proyectos financiados por los Fondos Estructurales de la UE, como el Fondo Social Europeo y el Fondo Europeo de Desarrollo Regional. Almacenando datos de estos proyectos y enriqueciéndose con información pública, Arachne identifica posibles riesgos de fraude, conflicto de intereses e irregularidades. Sin embargo, su finalidad no es evaluar individualmente a los beneficiarios ni excluirlos automáticamente.
Para entender cómo funciona los datos de los proyectos provienen de las autoridades de gestión del FSE y FEDER que los Estados miembros envían a la Comisión Europea. Arachne también utiliza datos de fuentes externas, como Orbis y World Compliance, para mejorar su análisis. La herramienta calcula indicadores de riesgo específicos.
Con Arachne se recopilan datos sobre beneficiarios, socios del proyecto, contratistas, proveedores de servicios y otros, incluyendo nombres y direcciones. También se incluye información de fuentes externas como datos sobre empresas, accionistas, y listas de sanciones.
Arachne, con sus métodos de análisis, es una herramienta esencial para las autoridades de gestión en la lucha contra el fraude y en la mejora de la gestión de proyectos financiados por la UE.
Herramientas de inteligencia artificial para la prevención de la corrupción
El Sistema de Alertas Rápidas (SALER)[ii] de la Inspección General de Servicios de la Generalitat Valenciana se encarga de identificar indicios de irregularidad en expedientes administrativos. Este sistema se utiliza en contrataciones públicas, subvenciones y caja fija. Las alertas detectadas se comunican al cuerpo de inspectores para su análisis y actuación conforme a la ley.
Aunque ha presentado algunas limitaciones, ha demostrado ser eficaz en detectar anomalías. Además, cuenta con un régimen sancionador que penaliza acciones como la alteración intencionada de información dirigida al sistema.
Otro proyecto que destacamos es el Red Flags[iii] financiado por la Comisión Europea y creado por diversas organizaciones en Hungría para monitorear la contratación pública en ese país. Esta herramienta analiza procedimientos de contratación y, a través de un algoritmo, determina aquellos con mayor riesgo de corrupción basándose en alertas predefinidas según su gravedad o probabilidad de indicar corrupción real. Además, permite que tanto ciudadanos como empleados públicos accedan a esta información.
La Seguridad Social en España está empleando un algoritmo de inteligencia artificial para monitorizar a empleados en baja laboral y detectar posibles fraudes incorporados dentro del proyecto LINCE. Esta herramienta predictiva, en uso desde hace 5 años, evalúa el estado de salud de las personas y predice la probabilidad de su aptitud para regresar al trabajo.
El algoritmo determina qué expedientes deberían revisar primero los médicos inspectores del Instituto Nacional de la Seguridad Social (INSS). Si no se ha tramitado la reincorporación, el sistema marca el expediente como un potencial caso de fraude.
Los profesores Iturriaga y Sanz[iv] de la Universidad de Valladolid han desarrollado un estudio que utiliza la inteligencia artificial para predecir en qué provincias españolas podría incrementarse la corrupción en los próximos años.
Utilizando un modelo de redes neuronales el estudio procesó datos económicos y políticos entre los años 2000 a 2012 para identificar áreas propensas a la corrupción y las condiciones que la favorecen. Una de las conclusiones es que la probabilidad de corrupción aumenta si un partido político permanece mucho tiempo en el poder. Además, factores como el alza en el impuesto de bienes inmuebles, un incremento en los precios de la vivienda, la apertura de muchas oficinas bancarias y la creación de nuevas empresas pueden ser indicativos de corrupción. Esta investigación es innovadora porque utiliza datos reales en vez de índices de percepción subjetiva, como se hacía anteriormente.
¿Qué problemas podría plantear la implantación de la inteligencia artificial?
La implantación de herramientas de inteligencia artificial en la lucha contra el fraude y la corrupción podría plantear, sin embargo, los siguientes problemas:
- Resistencia al cambio y falta de formación.
Una de las principales barreras para la implantación de la inteligencia artificial es la resistencia al cambio por parte del personal de las administraciones públicas. Muchos profesionales pueden sentirse amenazados por la irrupción de tecnologías que consideran pueden suplantar sus puestos o que dificultan su trabajo habitual debido a la falta de formación específica en el manejo de estas herramientas.
Para superar este obstáculo, es esencial promover programas de formación y capacitación que permitan al personal comprender mejor la inteligencia artificial, su funcionamiento, y cómo puede ser una herramienta complementaria que facilita y mejora su labor, en lugar de reemplazarla. También es crucial gestionar adecuadamente las expectativas y comunicar claramente los objetivos y beneficios de estas iniciativas.
- Problemas de privacidad y protección de datos.
La inteligencia artificial requiere el acceso a grandes volúmenes de datos para su adecuado funcionamiento. Sin embargo, la gestión de estos datos en el ámbito público plantea serias preocupaciones en cuanto a la privacidad y la protección de la información personal de la ciudadanía. El uso indebido o la exposición involuntaria de estos datos pueden tener graves consecuencias sobre todo en el caso de las personas denunciantes de corrupción.
Por lo tanto, es fundamental establecer protocolos de seguridad que garanticen que las soluciones de inteligencia artificial se ajusten a las normativas de protección de datos vigentes.
- Falta de infraestructura tecnológica.
La implementación de sistemas basados en inteligencia artificial requiere de una infraestructura tecnológica avanzada y actualizada.
Es esencial, por lo tanto, crear redes de colaboración, así como la implicación de organismos nacionales y europeos que promuevan este tipo de tecnologías.
La próxima puesta en funcionamiento de la Agencia Española de Inteligencia Artificial podría contribuir al desarrollo de estos proyectos.
- Sesgos.
Aunque la inteligencia artificial puede ser una herramienta poderosa en la detección de patrones y anomalías, no está exenta de errores. Los algoritmos se alimentan de datos, y si estos datos contienen sesgos o estos datos no son representativos, las conclusiones derivadas podrían ser erróneas o injustas. Esto es especialmente preocupante en el ámbito público, donde decisiones basadas en datos erróneos pueden tener graves repercusiones para la ciudadanía.
Para mitigar este riesgo, es fundamental adoptar un enfoque crítico y continuo de revisión y validación de los modelos de inteligencia artificial. Además, se deben establecer protocolos que permitan la corrección rápida de errores y garantizar que los sistemas no perpetúen ni amplifiquen los sesgos existentes en los datos o en la sociedad además de garantizar la protección de los derechos fundamentales y la privacidad de los ciudadanos en el uso de big data y sistemas automatizados por parte de la administración pública (Hueso, 2021)[v].
A lo largo de estas páginas hemos ido desgranando algunas de las principales utilidades que la inteligencia artificial puede tener en la lucha contra el fraude y la corrupción.
Hemos analizado herramientas que ya están implantadas y en funcionamiento, y hemos aventurado otras aplicaciones que podrían desarrollarse. La fase incipiente en que se encuentra esta tecnología no nos permite más que vislumbrar una pequeña parte de las aplicaciones que en un futuro seguramente tendrá.
A modo de conclusión destacamos estos 3 aspectos:
- El enorme potencial de la inteligencia artificial.
Gracias a su capacidad para analizar grandes volúmenes de datos en tiempo récord, la inteligencia artificial puede detectar patrones y anomalías que serían prácticamente invisibles para el ojo humano o que requerirían enormes esfuerzos y tiempo para ser identificados. Esto no solo agiliza las investigaciones y la mejora en cuanto a la precisión en la detección de actividades corruptas, sino que también puede actuar de forma preventiva, al identificar áreas de riesgo antes de que estos se materialicen.
- Necesidad de una implementación cuidadosa y ética.
La implementación de la inteligencia artificial en el ámbito de la lucha contra la corrupción no está exenta de retos y desafíos. Cuestiones como la privacidad de los datos, los sesgos en los algoritmos y la dependencia de proveedores externos requieren de un especial cuidado.
Es importante que las administraciones dedicadas a la lucha contra el fraude y la corrupción adopten un enfoque ético y transparente, garantizando que los sistemas de inteligencia artificial sean justos, imparciales y respeten los derechos fundamentales de la ciudadanía. La formación y la concienciación del personal que trabaja en las administraciones públicas sobre estas cuestiones será crucial para garantizar una implementación exitosa y ética.
- La inteligencia artificial como complemento, no como sustituto.
Aunque la inteligencia artificial puede ser una aliada en la lucha contra la corrupción, no puede considerarse como un sustituto de los sistemas y mecanismos actuales de control y vigilancia. Más bien al contrario, debe verse como una herramienta complementaria que potencia y refuerza las acciones de las administraciones en esta área.
La combinación de las habilidades humanas con las capacidades analíticas de la inteligencia artificial ofrece la fórmula perfecta para combatir la corrupción garantizando la integridad y la transparencia en nuestras administraciones públicas.
Amalia López Acera
Jefa de unidad de relaciones institucionales, comunicación y participación de la AVAF
[i] Almonacid, V., & Alamá, J. 2012. Buzones de denuncias: Qué, Quién, Cuándo, Dónde y Por qué. Antifrau CV.
https://www.antifraucv.es/buzones-de-denuncias-que-quien-cuando-donde-y-por-que/
[ii] https://participacio.gva.es/documents/162282364/164407117/Documento+explicativo-+Presentaci%25C3%25B3n+del+Sistema+de+Alertas/b1228cc0-d5bc-4121-bb63-87eb7180d262
[iii] https://www.redflags.eu/
[iv] López-Iturriaga, F. J., & Sanz, I. P. (2018). Predicting public corruption with neural networks: An analysis of spanish provinces. Social Indicators Research, 140, 975-998.
[v] Hueso, L. C. (2021). Hacia la transparencia 4.0, el uso de la inteligencia artificial y big data para la lucha contra el fraude y la corrupción y las (muchas) exigencias constitucionales. In Repensando la Administración digital y la innovación pública (pp. 169-196). Instituto Nacional de Administración Pública (INAP).
