Entelgy aborda las implicaciones que tendrá este nueva normativa a nivel social y en organizaciones públicas y privadas en España
Madrid, 13 de marzo de 2025 – El pasado martes, el Gobierno aprobó el anteproyecto de ley de gobernanza de la Inteligencia Artificial, que busca garantizar un uso ético, inclusivo y beneficioso de esta tecnología para la sociedad. Esta futura ley adaptará el marco legal español al Reglamento Europeo de IA (AI Act), ya en vigor, combinando la regulación con el impulso a la innovación.
Entelgy, The Business Tech Consultancy, aborda las principales implicaciones de esta nueva legislación y su impacto directo en empresas, administraciones públicas y la ciudadanía.
¿Qué regula el nuevo anteproyecto de ley de IA?
El objetivo del nuevo marco normativo es dotar a la Unión Europea de un sistema legal común para el desarrollo, comercialización y uso de sistemas de IA, evitando los riesgos para los derechos y la seguridad de las personas. Entre sus principales novedades destaca: la prohibición de malos usos de la IA, como la manipulación subliminal sin consentimiento o el uso de sistemas biométricos para discriminar a personas por su raza, religión u orientación sexual. Obligaciones más estrictas para los sistemas de alto riesgo, que deberán cumplir con medidas de transparencia, supervisión humana, trazabilidad de los datos y gestión de riesgos. Además de un nuevo derecho digital que permite retirar del mercado de manera provisional los sistemas de IA que hayan provocado incidentes graves, como el fallecimiento de una persona.
Las sanciones por incumplimiento de estas normas pueden alcanzar entre 7,5 y 35 millones de euros, o entre el 2% y el 7% del volumen de negocio mundial, dependiendo de la gravedad y del tipo de organización.
Sistemas de IA de alto riesgo: ¿qué exige la ley?
La normativa considera de alto riesgo aquellos sistemas de IA que se utilizan en ámbitos críticos como la biometría y el control de accesos, la educación, el empleo, el acceso a servicios privados o la administración de justicia y procedimientos democráticos, entre otros. Estos sistemas deberán disponer de un sistema de gestión de riesgos; supervisión humana continua; gobernanza de datos y documentación técnica; transparencia y comunicación clara hacia quienes utilizan o son afectados por el sistema; y un sistema de calidad robusto que garantice su seguridad y legalidad.
Obligación de alfabetización en IA ¿Qué implica?
Además, el reglamento europeo, ya en vigor desde el pasado 2 de febrero de 2025, ha establecido nuevas obligaciones para todas las organizaciones que implementen cualquier tipo de iniciativa con IA. Concretamente el artículo 4 del AI Act exige específicamente que las organizaciones garanticen un “nivel suficiente de alfabetización en IA” entre sus empleados y todas las personas que operen o utilicen sistemas de IA.
Esta alfabetización no se limita únicamente a aspectos técnicos, sino que debe abarcar: conocimientos fundamentales sobre IA. Es decir, la comprensión básica de cómo funcionan los sistemas de IA, los datos que procesan y los diversos tipos de IA; aspectos éticos como la capacidad para evaluar ventajas, desventajas e implicaciones éticas de las aplicaciones de IA; así como un marco normativo, para dejar claro los límites legales que rodean el desarrollo y uso de la IA.
¿Cómo adaptarse a la normativa?
A través de herramientas y soluciones integrales que faciliten la implementación de programas de alfabetización en IA adaptados a las necesidades específicas de las organizaciones. Estas soluciones deben disponer de formación modular para diferentes perfiles profesionales; contenidos que cubren tanto aspectos técnicos como éticos y normativos; herramientas de evaluación para medir el progreso en la alfabetización en IA; y soporte continuo para garantizar el cumplimiento del AI Act.
“Desde Entelgy hemos diseñado IAbility, una solución para yudar tanto a las administraciones públicas como a las empresas a navegar el complejo entorno regulatorio de la IA, garantizando no solo el cumplimiento normativo, sino también el impulso a una IA ética, responsable y segura. ”, señala Alfredo Zurdo, Head of Digital Change en Entelgy.
Sobre Entelgy
Entelgy,The BusinessTech Consultancy, se define como el nuevo Human driven technology, que tiene como propósito construir una realidad mejorada impulsada por la armonía entre personas y tecnología. Sus soluciones tienen como objetivo la mejora integral de la gestión del negocio basado en la Inteligencia Artificial y en la Gestión del Cambio y Adopción Digital, poniendo a las personas en el centro de todo.
Con el 100% de capital propio, la consultora tecnológica lleva más de 20 años ofreciendo soluciones a multinacionales en España, Latinoamérica y Estados Unidos. Todo ello con un equipo formado por 2.000 profesionales y con una de las tasas de fidelización más altas del sector.
