STARTUPS

Puntos clave de la AI Act:

1. Clasificación de riesgos: La AI Act establece una clasificación de sistemas de inteligencia artificial en función de su riesgo. Estos se dividen en cuatro categorías:

• Riesgo inaceptable: Sistemas de IA prohibidos, como aquellos que manipulan el comportamiento humano o se utilizan para vigilancia masiva sin control.
• Riesgo alto: Sistemas que pueden afectar significativamente los derechos fundamentales de las personas, como la IA utilizada en infraestructuras críticas, en la educación, para la contratación de empleados o para la justicia.
• Riesgo limitado: Sistemas de IA que requieren transparencia, como los chatbots que deben informar a los usuarios que están interactuando con una IA.
• Riesgo mínimo o nulo: La mayoría de las aplicaciones de IA, como los videojuegos o filtros de imágenes, que no requieren ninguna regulación específica.

2. Obligaciones para los desarrolladores: Los desarrolladores de sistemas de IA de alto riesgo deberán cumplir con una serie de requisitos, como realizar evaluaciones de impacto, asegurar la calidad de los datos utilizados, y garantizar la transparencia y trazabilidad del sistema.

3. Supervisión y sanciones: La ley también establece mecanismos de supervisión y sanciones para aquellos que incumplan con la regulación. Las sanciones pueden ser significativas, con multas que pueden llegar hasta el 6% de la facturación global de la empresa.

4. Innovación y competencia: La AI Act también busca equilibrar la regulación con el fomento de la innovación, proporcionando exenciones para investigación y desarrollo, y apoyando a las pequeñas y medianas empresas (PYMES) para que puedan competir en el ámbito de la IA.

La AI Act y el Reglamento General de Protección de Datos (GDPR) están estrechamente relacionados, ya que ambos forman parte del marco regulatorio de la Unión Europea para proteger los derechos fundamentales de las personas en el entorno digital, pero se centran en diferentes aspectos.

Relación entre la AI Act y el GDPR:

1. Complementariedad:
• GDPR: El GDPR, en vigor desde 2018, regula la recopilación, almacenamiento, y tratamiento de datos personales dentro de la UE. Su objetivo principal es proteger la privacidad de los ciudadanos europeos y garantizar que sus datos sean manejados de manera segura y transparente.
• AI Act: La AI Act se centra en la regulación del uso de sistemas de inteligencia artificial, especialmente aquellos que pueden tener un impacto significativo en los derechos fundamentales, como la privacidad, la seguridad, la no discriminación, y otros.
Ambos reglamentos son complementarios en el sentido de que la AI Act regula el uso de la inteligencia artificial, mientras que el GDPR regula cómo se manejan los datos personales dentro de esos sistemas de IA.
2. Protección de Datos:
• La AI Act impone obligaciones adicionales a los sistemas de IA de alto riesgo en cuanto al tratamiento de datos, que deben alinearse con los principios del GDPR. Por ejemplo, un sistema de IA que procesa datos personales debe asegurar la minimización de datos, el anonimato, y el consentimiento informado, tal como lo exige el GDPR.
• Además, la AI Act refuerza los principios de transparencia y responsabilidad del GDPR, exigiendo que los sistemas de IA sean explicables y trazables, especialmente en contextos donde los datos personales son utilizados.
3. Impacto en la privacidad:
• Los sistemas de IA que analizan grandes cantidades de datos personales pueden aumentar los riesgos de invasión de la privacidad y discriminación. La AI Act busca mitigar estos riesgos imponiendo requisitos estrictos sobre cómo estos sistemas pueden operar y cómo se deben gestionar los datos, lo que está directamente relacionado con las protecciones del GDPR.
• Por ejemplo, el uso de IA para decisiones automatizadas, como en el caso de contratación de personal, debe cumplir no solo con la AI Act sino también con las disposiciones del GDPR sobre decisiones automatizadas y el derecho a la explicación.
4. Sanciones y cumplimiento:
• Tanto la AI Act como el GDPR prevén sanciones significativas por incumplimiento. Las empresas que operan dentro de la UE deben asegurarse de que sus sistemas de IA cumplan con ambas regulaciones para evitar multas, que pueden ser muy elevadas.
• La AI Act, al igual que el GDPR, refuerza la importancia del cumplimiento normativo a nivel organizacional, incluyendo la necesidad de realizar evaluaciones de impacto sobre la protección de datos y la ética de la IA.

Conclusión:

En resumen, la AI Act y el GDPR están diseñados para trabajar en conjunto. Mientras que el GDPR asegura que los datos personales sean tratados de manera justa y segura, la AI Act regula cómo los sistemas de inteligencia artificial pueden utilizar esos datos y en qué contextos. Ambas leyes son esenciales para crear un marco digital seguro y ético en la UE, protegiendo los derechos de los ciudadanos en la era de la inteligencia artificial.