Reconocimiento facial y vigilancia con IA: errores, sanciones y lo que prohíbe la ley europea

En 2020, la policía de Detroit detuvo a Robert Williams delante de su familia por un robo que no había cometido. Un sistema de reconocimiento facial había relacionado una imagen borrosa de una cámara de seguridad con la foto de su permiso de conducir, y nadie verificó la coincidencia con suficiente cuidado. Fue el primer caso documentado públicamente en Estados Unidos de una detención errónea por reconocimiento facial, y no el último. Ilustra el problema central de esta tecnología: un error de un sistema que funciona bien en promedio recae entero sobre una persona concreta.

Hechos, sanciones y normas recogidos hasta la fecha del artículo. La aplicación del Reglamento de IA europeo es reciente y su interpretación seguirá concretándose.

Verificar no es identificar

Desbloquear el teléfono con la cara es verificación uno a uno: el sistema compara tu cara con una única plantilla guardada. Es un uso con tasas de error muy bajas y con tu consentimiento. Buscar a una persona entre millones de caras captadas por cámaras en la calle es identificación uno a muchos, y ahí cambian las cuentas: incluso con una tasa de falsos positivos muy pequeña por comparación, al comparar contra bases enormes los falsos positivos se acumulan, y cada uno es una persona inocente señalada.

Errores desiguales

En 2019, el NIST, el instituto de normalización de Estados Unidos, evaluó cerca de doscientos algoritmos comerciales y encontró que muchos tenían tasas de falsos positivos bastante más altas para algunos grupos demográficos, en particular personas de ascendencia africana y asiática, mujeres, personas mayores y niños, según el algoritmo. Los mejores algoritmos redujeron mucho esas diferencias, pero no todos los sistemas desplegados son los mejores, y las condiciones reales (cámaras de baja calidad, ángulos, iluminación) son peores que las de laboratorio.

Sanciones en Europa y España

Clearview AI construyó una base de datos con miles de millones de imágenes descargadas de internet y redes sociales sin consentimiento, y vendió acceso a fuerzas de seguridad. Las autoridades de protección de datos de varios países europeos, entre ellas las de Italia, Francia, Grecia y Países Bajos, le impusieron multas de decenas de millones de euros por violar el Reglamento General de Protección de Datos.

En España, la Agencia Española de Protección de Datos sancionó en 2021 a la cadena de supermercados Mercadona con 2,5 millones de euros por un sistema de reconocimiento facial instalado en algunas tiendas para detectar a personas con órdenes judiciales de alejamiento. La agencia consideró que el tratamiento de datos biométricos de todos los clientes era desproporcionado para esa finalidad.

En América Latina, la justicia de la Ciudad de Buenos Aires suspendió en 2022 el sistema de reconocimiento facial de prófugos de la ciudad, tras detectar irregularidades en su uso y en el control de las bases de datos consultadas.

Lo que prohíbe el Reglamento de IA europeo

Desde febrero de 2025 se aplican en la Unión Europea varias prohibiciones relacionadas:

• Crear o ampliar bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes de internet o de cámaras de vigilancia, el modelo de negocio de Clearview.
• Los sistemas de reconocimiento de emociones en el lugar de trabajo y en centros educativos, salvo por motivos médicos o de seguridad.
• La categorización biométrica para deducir características sensibles como la raza, las opiniones políticas o la orientación sexual.
• La identificación biométrica remota en tiempo real en espacios públicos con fines policiales, salvo excepciones tasadas (búsqueda de víctimas de secuestro o trata, prevención de amenazas inminentes como un atentado, localización de sospechosos de delitos graves), con autorización previa y garantías.

Las organizaciones de derechos digitales critican que las excepciones son amplias; las fuerzas de seguridad, que las restricciones limitan herramientas útiles. Los usos de identificación biométrica que no están prohibidos se consideran de alto riesgo y están sujetos a requisitos estrictos.

Errores frecuentes al hablar del tema

Debatir solo la precisión. Aunque el sistema fuera perfecto, la vigilancia masiva con identificación automática cambia la relación entre ciudadanos y Estado: saber que cualquier presencia en la calle puede quedar registrada afecta a la libertad de reunión y de expresión. Es un debate de derechos, no solo técnico.

Tratar la coincidencia como prueba. Un resultado del sistema es una pista que exige verificación independiente. Los casos de detenciones erróneas tienen en común que alguien lo trató como una identificación.

Lo esencial

La verificación facial con consentimiento es un uso de bajo riesgo; la identificación masiva en espacios públicos acumula errores sobre personas inocentes y plantea problemas de derechos que la precisión no resuelve. Europa ha optado por prohibir sus formas más invasivas y regular el resto; la aplicación práctica de esas normas es lo que hay que seguir.