Ropa contra el reconocimiento facial de IA

Muchas cámaras de CCTV de transmisión en vivo en los principales centros urbanos de los países desarrollados están equipadas con software de reconocimiento facial que puede detectar e identificar rostros humanos individuales. Esta tecnología incluso se puede actualizar con la mejora de la inteligencia artificial (IA).

Los gobiernos afirman que esta tecnología solo se usa contra una lista de vigilancia predeterminada, pero los defensores de la privacidad siempre acusan a la tecnología de ser ilegal y poco ética. (Relacionado: La tecnología de vigilancia de IA puede descubrir quiénes son tus amigos).

En el mundo de la moda, la marca de ropa italiana Cap_able está tratando de luchar contra la invasión de la tecnología de reconocimiento facial de IA. La compañía comenzó a ofrecer su primera colección de prendas de punto que protege al usuario de ser identificado por el software de reconocimiento facial en cámaras de IA sin la necesidad de cubrir la cara del usuario.

"La necesidad de proteger al individuo del abuso de las nuevas tecnologías de inteligencia artificial se siente cada vez más y las dudas sobre su sostenibilidad ética a largo plazo siguen siendo muchas", escribió la compañía en su sitio web.

"Hay muchas razones por las que las personas podrían no querer ser rastreadas por la tecnología de reconocimiento facial generalizada: para la mayoría de la gente, es un pensamiento bastante distópico que los gobiernos de todo el mundo ahora tengan acceso a sistemas que pueden identificarlo y perfilarlo simplemente usando imágenes de cámaras de vigilancia", escribió Loz Blain para el New Atlas. . "E incluso en países donde los gobiernos han jurado que no la usarán, la tecnología está igual de disponible para las corporaciones, que pueden y la usarán para atacarlo".

La ropa incluye patrones que pueden engañar a las cámaras de IA

Cap_able diseñado su ropa con patrones conocidos como parches adversarios, que pueden engañar al software de reconocimiento facial en tiempo real. Diseñada por las cofundadoras Federica Busani y Rachele Didero, quienes hicieron los patrones para su doctorado en la Universidad de Milán, la colección utiliza una variedad de patrones que pueden parecer extraños o extravagantes para el ojo humano.

Didero y Busani crearon la colección después de nueve meses de investigación y pruebas de varias imágenes, algoritmos, máquinas de tejer y materiales.

Pero el truco es que estos patrones incorporan detalles y señales que pueden desencadenar que los sistemas de IA descarten a toda la persona, ya sea como indetectable o como algo que no es humano. La IA podría ser engañada para que crea que la persona que usa la ropa es una cebra, un perro o una jirafa, evitando que se molesten en analizar y encontrar una coincidencia para la cara de la persona.

Didero probó los diseños utilizando el algoritmo You Only Look Once (YOLO), un sistema de detección de objetos basado en redes neuronales capaz de clasificar rápidamente objetos en video en tiempo real y reconocer rostros cuando se entrena utilizando una base de datos de fotos.

"La tecnología de Cap_able ayuda a salvaguardar la privacidad y la protección de los datos personales, defendiendo a los ciudadanos que eligen usar sus prendas de la intrusión en su vida individual", escribió la compañía.

Cap_able convierte los parches digitales adversarios en textiles tejidos en 3D utilizando un solo hilo, que Didero dijo que son necesarios porque permite a la compañía "controlar el material del hilo único y trabajar en la textura final" mientras mantiene las propiedades "adversarias" de los parches.

"En un mundo donde los datos son el nuevo petróleo, Cap_able aborda el tema de la privacidad, abriendo la discusión sobre la importancia de proteger contra el uso indebido de cámaras de reconocimiento biométrico, un problema, si se descuida, podría congelar los derechos del individuo, incluida la libertad de expresión, asociación y libre circulación en espacios públicos", dijo Didero.

"Elegir qué ponernos es el primer acto de comunicación que realizamos todos los días. Una elección que puede ser el vehículo de nuestros valores".

Una gran desventaja de la ropa es el costo. Las prendas de Cap_able oscilan entre 370 y 640 euros por pieza ($ 400 a $ 693), antes de cualquier descuento.

Fuente: Surveillance News