En 2018, el sistema de seguridad social español implementó un algoritmo de inteligencia artificial (IA) para analizar las solicitudes de baja por enfermedad e identificar posibles fraudes. Sin embargo, se descubrió que el algoritmo tenía fallas y generaba numerosos falsos positivos. Esta información recién se hizo pública este año cuando fue reportada por El Confidencial. Como resultado, España aprobó una nueva ley para brindar transparencia en el uso de algoritmos de IA.

Según la nueva ley, se creará una agencia de vigilancia de la IA para investigar los peligros potenciales y reducir los riesgos para la salud y la seguridad. El objetivo es auditar las plataformas de IA y los sistemas algorítmicos de manera objetiva e imparcial. El decreto también especificará cómo se debe informar a los empleados sobre el uso de algoritmos que tienen un impacto en las condiciones de trabajo.

Es importante tener en cuenta que las decisiones finales no pueden ser tomadas solo por el algoritmo. La intervención humana es necesaria para garantizar juicios justos y precisos. Sin embargo, el uso de algoritmos puede ser beneficioso para determinar la mala asignación de fondos en el sistema de seguridad social, lo que se traduce en beneficios para los contribuyentes.

Los algoritmos de IA también tienen el potencial de detectar abusos y acceso desigual a los beneficios. Por ejemplo, los algoritmos pueden ayudar a identificar la duración promedio de la enfermedad, que en última instancia se financia con recursos públicos. Por lo tanto, el uso de algoritmos puede beneficiar a todos los involucrados.

A pesar de las ventajas, es fundamental reconocer las limitaciones de los algoritmos. Dependen en gran medida de la calidad de los datos y la programación. Además, no pueden reemplazar completamente la toma de decisiones humana. La falla en el algoritmo de 2018 fue la mala calidad de los datos en los que se basó. Por lo tanto, se debe tener cuidado para evitar la discriminación y el sesgo en los sistemas algorítmicos. Se recomiendan auditorías periódicas para garantizar resultados justos e imparciales.

En conclusión, España está tomando medidas para regular los algoritmos de IA para aportar transparencia y equidad a su uso. Aunque los algoritmos tienen sus ventajas para detectar fraudes y abusos, es crucial recordar que el juicio humano es clave. Las auditorías regulares y las evaluaciones de la calidad de los datos son necesarias para evitar sesgos y discriminaciones.