Las 8 Practicas de IA Prohibidas por el EU AI Act (con ejemplos)
Las 8 Practicas de IA Prohibidas por el EU AI Act
El Articulo 5 del Reglamento Europeo de IA (2024/1689) es la linea roja mas dura de toda la regulacion. Define 8 practicas de IA que estan completamente prohibidas en la Union Europea desde febrero de 2025.
Las multas por incumplimiento: hasta EUR 35 millones o el 7% de la facturacion global. Como destaca Kennedys Law, la aplicacion de estas practicas prohibidas ya esta activa y las empresas deben estar en cumplimiento.
¿Tu practica de IA esta prohibida? Arbol de decision
flowchart TD
A[Tu Sistema de IA] --> B{¿Puntúa personas\npor comportamiento social?}
B -->|Sí| C[PROHIBIDO\nPuntuación Social]
B -->|No| D{¿Usa vigilancia biométrica\nen tiempo real?}
D -->|Sí| E[PROHIBIDO\nVigilancia Masiva]
D -->|No| F{¿Explota a\ngrupos vulnerables?}
F -->|Sí| G[PROHIBIDO\nIA Manipuladora]
F -->|No| H{¿Predice comportamiento\ncriminal?}
H -->|Sí| I[PROHIBIDO\nPolicía Predictiva]
H -->|No| J[PROBABLEMENTE PERMITIDO\nVerifica Lista Alto Riesgo]
style C fill:#FECACA,stroke:#B91C1C
style E fill:#FECACA,stroke:#B91C1C
style G fill:#FECACA,stroke:#B91C1C
style I fill:#FECACA,stroke:#B91C1C
style J fill:#D1FAE5,stroke:#0596691. Manipulacion subliminal (Art. 5.1.a)
Prohibido: Sistemas de IA que usen tecnicas subliminales mas alla de la conciencia de una persona para distorsionar materialmente su comportamiento, causandole dano.
Ejemplo real: Una app de compras que use patrones de IA indetectables para hacer que el usuario compre mas de lo que quiere o necesita.
Tu empresa: Si usas IA para marketing, asegurate de que las recomendaciones son transparentes y que el usuario entiende por que se le sugiere algo.
2. Explotacion de vulnerabilidades (Art. 5.1.b)
Prohibido: IA que explote vulnerabilidades de personas por su edad, discapacidad, o situacion social o economica para distorsionar su comportamiento.
Ejemplo real: Un chatbot de prestamos que detecte que el usuario tiene ansiedad financiera y use esa informacion para presionarle a aceptar condiciones desfavorables.
Tu empresa: Si tus sistemas IA interactuan con grupos vulnerables (ancianos, personas con discapacidad, menores), revisa que no haya optimizacion hacia comportamientos daninos.
3. Puntuacion social (Art. 5.1.c)
Prohibido: Evaluacion o clasificacion de personas basada en su comportamiento social o caracteristicas personales, cuando resulte en un tratamiento perjudicial injustificado.
Ejemplo real: Un sistema que puntue a empleados basandose en sus interacciones sociales fuera del trabajo para decidir promociones.
Tu empresa: Si tienes un sistema de puntuacion de empleados o clientes, asegurate de que los criterios son relevantes, proporcionales, y no discriminatorios.
4. Evaluacion predictiva de riesgo criminal (Art. 5.1.d)
Prohibido: IA que evalue el riesgo de que una persona cometa un delito basandose unicamente en su perfil o rasgos de personalidad (sin hechos objetivos verificables).
Tu empresa: Esto aplica principalmente a fuerzas de seguridad, pero si usas IA para evaluacion de riesgo de fraude, asegurate de que se basa en comportamientos reales, no en perfiles demograficos.
5. Scraping facial no dirigido (Art. 5.1.e)
Prohibido: Creacion de bases de datos de reconocimiento facial mediante scraping no dirigido de imagenes de internet o CCTV.
Tu empresa: Si usas IA de vision por computador, no entrenes modelos con caras recopiladas sin consentimiento.
6. Reconocimiento de emociones en trabajo/educacion (Art. 5.1.f)
Prohibido: Sistemas de reconocimiento de emociones en el lugar de trabajo o en instituciones educativas, excepto por razones medicas o de seguridad.
Ejemplo real: Un software de videoconferencia que analice las expresiones faciales de los empleados durante reuniones para medir su “engagement”.
Excepcion: Un sistema que detecte fatiga en operadores de maquinaria pesada por seguridad SI esta permitido.
7. Categorizacion biometrica (Art. 5.1.g)
Prohibido: Sistemas que categoricen a personas basandose en datos biometricos para inferir raza, opiniones politicas, afiliacion sindical, religion, orientacion sexual, u otras categorias protegidas.
Tu empresa: Si usas IA de vision, asegurate de que no clasifica personas por atributos protegidos.
8. Identificacion biometrica en tiempo real (Art. 5.1.h)
Prohibido: Uso de identificacion biometrica remota en tiempo real en espacios publicos por fuerzas de seguridad, excepto en casos estrictamente necesarios: busqueda de victimas, amenazas terroristas, o sospechosos de delitos graves con autorizacion judicial.
Tu empresa: Si no eres fuerza de seguridad, esto no te aplica directamente. Pero si instalas camaras con IA, asegurate de que no hacen reconocimiento facial en tiempo real.
Que hacer si detectas una practica prohibida
- Detener el sistema inmediatamente
- Documentar que sistema era, que hacia, y desde cuando
- Notificar a tu responsable de cumplimiento IA
- Evaluar si hubo dano a personas
- Remediar y prevenir recurrencia
- Consultar con asesoria legal si hay obligacion de notificar a la autoridad
Checklist rapido
- He revisado todos mis sistemas IA contra las 8 practicas prohibidas
- Ningun sistema usa manipulacion subliminal
- No explotamos vulnerabilidades de ningun grupo
- No tenemos puntuacion social de empleados o clientes
- No hacemos evaluacion predictiva de riesgo criminal sin hechos
- No hemos creado bases de datos faciales por scraping
- No hacemos reconocimiento de emociones en el trabajo (sin excepcion medica/seguridad)
- No categorizamos biometricamente por atributos protegidos
- No hacemos identificacion biometrica en tiempo real en espacios publicos
La ventaja de la IA local
Como explica LegalNodes, las empresas que no auditan sus sistemas de IA se enfrentan tanto a riesgo regulatorio como reputacional. Cuando tu IA ejecuta en tu propio hardware, el cumplimiento del Articulo 5 es mucho mas simple:
- Control total sobre que hace el modelo
- Sin riesgo de actualizaciones de proveedor que introduzcan practicas prohibidas
- Auditoria completa de cada interaccion
- Sin dependencia de terceros que puedan cambiar el comportamiento del modelo
Evalua tu cumplimiento con el EU AI Act →
VORLUX AI | vorluxai.com | Desplegamos IA que cumple con el EU AI Act por diseno.
Lecturas relacionadas
- GDPR e IA: Por Qué el Despliegue Local Es Tu Mejor Estrategia de Cumplimiento
- Como Clasificar el Riesgo de tu IA segun el EU AI Act (Art. 6)
- Quedan 4 Meses para el Plazo del EU AI Act de Agosto 2026 — Tu Plan de Accion
Fuentes
- Reglamento (UE) 2024/1689, Articulo 5
- EU AI Act — Recurso Oficial
- Calendario de Implementacion del EU AI Act — Kennedys Law
- EU AI Act 2026: Requisitos de Cumplimiento — LegalNodes
¿No estás seguro de si tu sistema de IA entra en estas prohibiciones? Agenda una evaluación de cumplimiento gratuita — ayudamos a empresas europeas a navegar la Ley de IA de la UE con confianza.