| 8 min | David Martín
Seguro que recuerdan este filme de 1986, en el que “Número 5”, un prototipo de robot destinado a uso militar ―a pesar de que su creador estaba más interesado en los usos pacíficos de su inteligencia artificial que en su potencial bélico―sufre una alteración en su programa por la caída de un rayo, escapando del ejército de los Estados Unidos para recaer en el seno de una familia. Con ella llega a comprender el valor de la vida, asumiendo que él mismo es un ser vivo y desarrollando miedo al desguace que le espera al volver al programa militar donde se le había concebido, creyendo que para él será lo mismo que la muerte.
Esta trama se me vino a la cabeza el pasado 12 de julio, al publicarse en el ámbito del Derecho de la Unión Europea el Reglamento 2024/1689 de Inteligencia Artificial (IA), el cual recoge en su artículo 5 ―dentro de las prácticas prohibidas que serán aplicables a partir del próximo 2 de febrero de 2025― el uso de sistemas de IA que puedan influir en las emociones de una persona física en los lugares de trabajo y los sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas para deducir o inferir su afiliación sindical u orientación sexual. Da miedo, ¿verdad?
Como no podría ser de otra manera, esta norma afecta directamente a nuestras empresas, prestando una especial atención a las necesidades de pymes y empresas emergentes, así como estableciendo procedimientos simplificados para microempresas. Entre otras perlas que nos deja este reglamento en el ámbito de las relaciones laborales, está la consideración, como sistemas de IA de alto riesgo, de los sistemas de obtención de datos biométricos, como los utilizados para el registro de jornada; de los sistemas para la contratación o selección de personas físicas, como los “chatbot” de reclutamiento; o de los sistemas que permitan la toma de decisiones que afecten a las condiciones laborales, promoción profesional y extinción del contrato, como los algoritmos que manejan las aplicaciones de las plataformas de “riders”. Cuestión, esta última, sobre los que ya tenemos regulación laboral al respecto en el artículo 64 del Estatuto de los Trabajadores, donde se recoge el derecho del comité de empresa a ser informado por la empresa de los parámetros, reglas e instrucciones de estos sistemas de IA.
Y esto es así, porque estarán de acuerdo conmigo en que la IA tiene sus luces y sus sombras…y si bien es cierto que es una excelente aliada para interpretar datos con mayor rapidez y eficacia, evitar sesgos y prejuicios, obtener predicciones sobre motivación profesional y absentismo, y en definitiva, ser una herramienta para mejorar la experiencia de los empleados, un mal uso de estos sistemas por parte de las empresas puede producir situaciones de discriminación y de vulneración de derechos fundamentales, que podrían ser sancionadas conforme a esta norma, con cuantías de hasta 225.000 euros, sin hablar del consecuente impacto reputacional o de la prohibición de contratar con el Sector Público.
Por tanto, no conviene olvidar que estos sistemas en ningún caso servirán para eludir las responsabilidades de las empresas que puedan cometer infracciones laborales, por lo que no está de más contar con el acompañamiento de profesionales como Addit para la articulación de protocolos de integración de estos sistemas de IA y algoritmos en la cultura de cumplimiento normativo de las empresas.
```