Vigilancia masiva, IA y datos biométricos: Parlamento Europeo vota su prohibición

El Parlamento Europeo votó una resolución que establece la prohibición de las tecnologías de vigilancia masiva biométricas impulsadas por la IA, como los sistemas de reconocimiento facial, en todos los países miembros.

El Parlamento Europeo votó a favor de una resolución que refiere de forma directa a la prohibición de la utilización de tecnología de vigilancia biométrica masiva potenciada por inteligencia artificial, como los sistemas de reconocimiento facial en la vía pública. La resolución tiene impacto en todos los países miembros del parlamento continental.

Los eurodiputados expusieron su preocupación en la sesión del 6 de octubre último en el hemiciclo de la ciudad de Bruselas, por el peligro que éstas tecnologías representan para las libertades y derechos civiles en la comunidad europea. La vigilancia predictiva basada en IA puede traer resultados negativos, discriminatorios, perjudiciales e injustos a la hora de implementarla para la vigilancia en el espacio público. Los argumentos de los diputados se centraron en casos reales, en que ésta tecnología se utilizó para detener a ciudadanos inocentes.

Con el fin último de respetar y preservar «la privacidad y dignidad humanas», los miembros del parlamento europeo acordaron recomendar a los degisladores de los distintos países miembros deberían aprobar legislación que prohiba el reconocimiento y monitoreo de ciudadanos en espacios públicos a través de éstas tecnologías.

El llamado a poner un freno a poner un freno a la vigilancia masiva se hizo extensivo también las tecnologías que vende la empresa estadounidense Clearview —que ya es proveedora de tecnologías de vigilancia a muchas policías europeas—, desarrolladora de sistemas policiales predictivos basados en datos sobre comportamiento.

Según el portal Techcrunch, las empresas proveedoras de tecnología basada en reconocimiento facial e IA han admitido que la tendencia a implementar éste tipo de algoritmos predictivos durante años, y las distintas polémicas que se han desatado en torno a «fallas» y «errores» de sistema (que derivaron en detenciones arbitrarias de inocentes en todo el mundo), los han forzado a invertir en mejoras de procesos de datos y machine learnig.

Sin embargo, las cifras de casos discrimintorios siguen siendo demasiado altas como para aceptar la implementación de éstos sistemas a gran escala. Los representantes relevaron las cifras y estudiaron los datos de detenciones ordenadas a través de éstos sitemas. «Los sistemas de identificación basados en IA llevan identificando de forma errada especialmente personas de distintos grupos étnicos, LGBT y ancianos en mayor cuantía que cualquier otro. Para asegurar los derechos fundamentales que deben ser sostenidos frente al uso de éstas tecnologías, los algoritmos deben ser transparentes y suficientemente documentados como para ser auditados. Dentro de lo posible, las autoridades públicas debieran usar software de código abierto para asegurar la transparencia del proceso», según la comunicación emitida por el propio Europarlamento..

Si bien ésta votación significa un avance importante que sienta un precedente en toda Europa, el caso de la IA en la vigilancia de espacios públicos está lejos de cerrarse. Según el portal británico The Register todavía sigue en negociaciones y bocetos una «Ley de la Inteligencia Artificial» que regule formalmente el uso e implementación de éstas tecnologías en la administración y espacios públicos. Con lo que, según el mismo portal especializado en tecnología y empresas, la resolución votada por los eurodiputados es más una declaración o recomendación que una legislación que se traduzca en políticas efectivas en la materia.

La discusión fue llevada al recinto por el bloque de la socialdemocracia europea S&D. Desde el bloque de S&D hicieron hincapié en cambiar el eje de discusión a la hora de debatir sobre IA. La IA no es un producto, es una herramienta, y el progreso técnico nunca debe producirse a expensas de los derechos fundamentales de las personas.

Según publicó en sus redes sociales el eurodiputado socialista búlgaro Petar Vitanov » … una mayoría progresista que está de acuerdo con líneas rojas claras para la inteligencia artificial. Por primera vez en la historia, pedimos una moratoria en el despliegue de los sistemas de reconocimiento facial con fines de ejecución de la ley cuando la tecnología resulte ineficaz o lleve a resultados discriminatorios. Somos claros al oponernos a la vigilancia policial predictiva que se base en el uso de la inteligencia artificial, así como a cualquier procesamiento de datos biométricos que lleve a una vigilancia masiva”.

El bloque socialdemócrata llamó a poner un freno a la implementación de la vigilancia masiva de ciudadanos en el espacio público, prohibir las bases de datos almacenadas por empresas privadas y los sistemas de predicción del crimen a través de los datos de ciudadanos. No obstante, tal y como meciona el portal The Register, se trata más de una declaración de intenciones que una prhibición efectiva: Clearview IA que ya opera en Europa desde hace años ya cuenta con extensas bases de datos de ciudadanos identificados y ya trabaja con predicción de crímenes a través de datos y algorítmos.

Una campaña contra el uso de tecnología de reconocimiento facial

La ONG Amnistía Internacional lanzó la campaña mundial Ban The Scan contra las cámaras de vigilancia con reconocimiento facial. En la línea de los llamados de atención de organizaciones sociales y de profesionales sobre los riesgos que suponen éstas tecnologías para los derechos sociales y civiles.

LEER MÁS

Fuentes:

  • European Parliament calls for mass surveillance with AI to be banned, en Ciberseguridad Latam
  • Euro Parliament backs ban on cops using blanket facial-recognition surveillance, en The Register
  • European Parliament backs ban on remote biometric surveillance, en Techcrunch
  • S&Ds on artificial intelligence: End flawed and discriminatory practices in the name of fighting crime!, en S&D

Tags:

Abrir chat
¡Hola! ¿Como estás? Hacenos tu consulta para afiliarte, salarios, y beneficios por Whatsapp de lunes a viernes de 9 a 18!