La reciente aprobación por parte del Parlamento Europeo del AI Act ha marcado un hito en la regulación de la inteligencia artificial a nivel global. Esta es la primera ley en el mundo que tiene como objetivo proteger los derechos fundamentales, el estado de derecho, la democracia y la sostenibilidad ambiental de los sistemas de IA de alto riesgo.
El AI Act establece obligaciones relacionadas con los posibles riesgos y el nivel de impacto de la IA, y busca promover la innovación garantizando a Europa un papel destacado en el sector al ser la primera en regular de manera integral la inteligencia artificial. Con una amplia mayoría de votos a favor (523 votos a favor, 46 en contra y 49 abstenciones), este texto normativo consolida a Europa como un regulador mundial de los estándares en el campo de la inteligencia artificial.
La legislación prohíbe las aplicaciones de IA que puedan constituir una amenaza para los derechos de los ciudadanos, como los sistemas de categorización biométrica basados en características sensibles o la extracción indiscriminada de imágenes faciales de internet o de las grabaciones de los sistemas de videovigilancia para crear bases de datos de reconocimiento facial. También se prohíben los sistemas de reconocimiento de emociones en escuelas y lugares de trabajo, así como las actividades de policía predictiva basadas exclusivamente en la perfilación del sujeto, y los sistemas que influyen en el comportamiento de las personas.
Sin embargo, se prevén excepciones a la prohibición del uso de sistemas de identificación biométrica para las fuerzas del orden, por ejemplo, para la búsqueda de personas desaparecidas o para la prevención de ataques terroristas, siempre y cuando se respeten garantías rigurosas. El uso de estos sistemas, considerados de alto riesgo a posteriori, requerirá una autorización judicial relacionada con un delito.
Además, se establecen obligaciones específicas para otros sistemas de IA considerados de alto riesgo debido a su potencial para dañar la salud, los derechos fundamentales, la seguridad, el medio ambiente, la democracia y el estado de derecho. Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, garantizar supervisión humana y transparencia. Los ciudadanos también podrán presentar quejas sobre sistemas de inteligencia artificial y obtener información sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten sus derechos.
Los modelos de inteligencia artificial deberán cumplir ciertos requisitos de transparencia y cumplir con la legislación europea sobre derechos de autor durante las etapas de entrenamiento. También se establecen obligaciones adicionales para los modelos cuyo uso pueda conllevar mayores riesgos, como es el caso de los contenidos multimedia artificiales o manipulados, que deberán ser claramente identificados como tales.
Además, los países miembros de la UE deberán establecer y hacer accesibles áreas de experimentación y pruebas normativas en condiciones reales, para que las pymes y las startups puedan desarrollar y entrenar nuevos sistemas de IA antes de comercializarlos. Con esto se busca fomentar la innovación y el desarrollo de tecnología avanzada en Europa.
En resumen, el AI Act representa un avance significativo en la regulación de la inteligencia artificial, estableciendo límites claros para proteger los derechos de los ciudadanos y garantizar una IA confiable y segura. Europa se posiciona como líder en la regulación de la IA a nivel mundial, sentando las bases para un desarrollo responsable e innovador de esta tecnología.