Reconocimiento facial utilizado para crear listas de exclusión
Durante el fin de semana de Acción de Gracias del año pasado, hace apenas unos dos meses y algo, Kelly Conlon, de 44 años, abogada del condado de Bergen, N.J., acompañaba a la tropa de Girl Scouts de su hija de 9 años en un viaje a Manhattan para ver un espectáculo navideño de las Rockettes en el Radio City Music Hall. Sin embargo, antes al acceder, los guardias de seguridad apartaron a la Sra. Conlon y su excursión a Nueva York se convirtió en una especie de pesadilla sacada de una novela de George Orwell.
Le dijeron que sabían que era Kelly Conlon y que era abogada, incluso conocían el bufete de abogados en el que trabajaba. Cuando atravesó el detector de metales ubicado en las puertas del teatro escuchó por los interfonos que alguien la identificaba por su pelo negro y su bufanda gris. Conlon creyó oír "que el sistema de reconocimiento la había detectado. Sabían su nombre antes de que se lo dijera a nadie. Conocían la empresa en la que trabajaba antes de que se lo dijera y le dijeron que no tenía permitido estar allí.
Resulta que el bufete de abogados para el que trabaja, Davis, Saperstein and Solomon, lleva años envuelto en una denuncia contra un restaurante que ahora pertenece a MSG, compañía que ha decidido vetar a todos los trabajadores de dicha firma mientras dure el litigio. Los guardias la habían identificado mediante un sistema de reconocimiento facial. Le mostraron una hoja que decía que estaba en una “lista de exclusión de abogados” creada este año por Madison Square Garden Entertainment.
Desde hace unas semanas se sabe que la empresa Madison Square Garden Entertainment utiliza el reconocimiento facial para prohibir la entrada a los enemigos de su propietario. El Radio City Music Hall de Nueva York lo usó para vetar el acceso, como te he dicho, a una abogada que trabaja en un bufete de abogados que mantiene un litigio en su contra.
MSG Entertainment, el propietario del estadio y del Radio City Music Hall, ha puesto a los abogados que representan a las personas que lo demandan en una “lista de exclusión” para mantenerlos fuera de conciertos y eventos deportivos. Los empleados de Madison Square Garden Entertainment califican la tecnología de reconocimiento facial como una herramienta de seguridad útil y ampliamente utilizada.
Esta compañía es propietaria de Radio City Hall y algunos de los principales espacios de actuación más relevantes en Nueva York, incluido el Teatro Beacon y el Madison Square Garden, donde juegan los Knicks de baloncesto y los Rangers de hockey. Su director ejecutivo, James L. Dolan, instituyó esta prohibición en verano. Prohibe el paso a sus recintos de cualquier abogado que representen a las personas que demanden a la compañía o a cualquier persona que tenga relación con los bufetes a los que pertenezcan.
La compañía dice que "los litigios crean un entorno intrínsecamente contradictorio", por lo que está haciendo cumplir la lista con la ayuda de un software que puede identificar a cientos de abogados a través de fotos de perfil en los sitios web de sus propias firmas, utilizando un algoritmo para examinar instantáneamente las imágenes y sugerir patrones. La tecnología de reconocimiento facial es legal en Nueva York, aunque el debate es si se pueden utilizar para crear listas de exclusión.
Al CEO de esta compañía se le ha preguntado si aplican este modelo con alguna profesión más. Periodista por ejemplo. Respondió que de momento no tienen pensado ampliar el espectro. La tecnología, que se ha vuelto más poderosa y precisa en los últimos años, ha sido utilizada con moderación por las corporaciones debido a preocupaciones de privacidad. Los minoristas lo han implementado para identificar a los ladrones; los aeropuertos lo utilizan para registrar a los viajeros y pasarlos por seguridad; y los casinos confían en él para mantener alejados a los jugadores que creen que pueden hacer trampa.
Pero usarlo para prohibir a los críticos de una empresa no tiene precedentes. Es la evidencia que con la excusa de la seguridad entregaremos nuestra privacidad y con ella nuestra libertada. Es lo mismo que va a pasar con las CBDC. Es la penalización por delante de la hipotética protección. Plantea la pregunta de qué vendrá después. ¿Usarán las empresas el reconocimiento facial para mantener alejadas a todas las personas que protestaron contra el negocio o las criticaron en línea con una reseña negativa?” ¿Limitaran el acceso a personas que no piensen como establece el world economic forum? Y eso que EEUU era ‘un pais libre’.
Los funcionarios de MSG Entertainment calificaron la tecnología como una herramienta de seguridad útil y ampliamente utilizada en muchos lugares deportivos y de entretenimiento, y señalaron que sus ubicaciones en la ciudad de Nueva York están cerca de los principales centros de tránsito. El Garden ya es conocido por su estricto sistema de seguridad. Siempre hay una fuerte presencia policial, en parte porque está en el corazón de Midtown Manhattan y está construida sobre la estación Pennsylvania, la terminal ferroviaria más concurrida del país.
Digamos que lo de la seguridad ya lo hemos naturalizado. De hecho, como pasa con las CBDC, nos dirán que si no tienes nada que ocultar donde está el problema. Como con el euro digital o el dolar digital, que digan que no lo van a utilizar para el control, no es garantía de nada. Sólo con el hecho de que será posible es suficiente. La estación está patrullada por agentes del orden y, a veces, soldados en alerta por terrorismo. Los fanáticos que asisten a los eventos en el Garden pasan por controles que pueden incluir detectores de metales, registros de bolsos y perros detectores de explosivos.
La vigilancia de alta tecnología por parte del gobierno ya es común en la ciudad de Nueva York. El Departamento de Policía se basa en una caja de herramientas que incluye no solo reconocimiento facial, sino también drones y camionetas móviles de rayos X, y este mesh el departamento dijo que se uniría a Neighbors, una plataforma pública de vigilancia vecinal propiedad de Amazon. Neighbors permite a los propietarios de videoporteros publicar videos en línea, y los oficiales de policía pueden solicitar la ayuda de los residentes en las investigaciones. Tremendo.
Una ley de la ciudad presentada el año pasado requiere que los establecimientos comerciales notifiquen a los clientes cuando se utilizan tecnologías biométricas como el reconocimiento facial. De hecho, los letreros en el Radio City Music Hall informan a los clientes que la tecnología está instalada "para garantizar la seguridad de todos”. El uso de la tecnología por parte de la compañía contra la Sra. Conlon es la muestra de hacia donde vamos.
Pero esto no es de ahora. El Madison Square Garden comenzó a escanear los rostros de los clientes cuando recibió los Premios Grammy en enero de 2018. Los funcionarios de MSG Entertainment dijeron que la vigilancia sigue en uso principalmente para identificar a las personas que podrían ser amenazas a la seguridad y que la lista de vigilancia incluía a los clientes que habían infringido las reglas en la empresa. lugares, ya sea siendo violentos, arrojando cosas o participando en otro mal comportamiento. Pero la prohibición de abogados se aplica a todos los espacios de la compañía.
Las noches de citas arruinadas se están acumulando. En noviembre, Alexis Majano, abogado de Sahn Ward Braff Koblenz, fue escoltado fuera de un juego de los Knicks. Nicolette Landi, también abogada no pudo usar las entradas de $376,83 para un concierto de Mariah Carey en el Garden que su novio había comprado para su cumpleaños. El mismo caso que el anterior.
El reconocimiento facial es una tecnología que puede ser utilizada para diversos fines, muchos de los cuales violan los límites de la privacidad de las personas. Lo sorprendente es ver como la gente ha naturalizado que millones de cámaras nos sigan constantemente, nos analicen y, ahora, como hemos visto, nos definan entre buenos y malos atendiendo a situaciones muy subjetivas.
En 2020, la empresa Clearview AI fue demandada en Estados Unidos por recolectar información biométrica de millones de personas sin su consentimiento y venderla a agencias gubernamentales y fuerzas de seguridad. La demanda alegó que el uso del reconocimiento facial de la empresa violaba la Ley de Privacidad Biométrica de Illinois. En 2021, Google fue demandado en Estados Unidos por supuestamente violar la ley de privacidad del estado de Illinois al utilizar el reconocimiento facial en Google Fotos sin el consentimiento de los usuarios. En 2019, la organización de derechos humanos Privacy International presentó una demanda contra el gobierno de Moscú por el uso de cámaras de reconocimiento facial en lugares públicos.
En 2020, Facebook llegó a un acuerdo por valor de $650 millones para resolver una demanda colectiva presentada en Illinois por el uso del reconocimiento facial en la función "etiquetado de fotos" sin el consentimiento de los usuarios. En 2019, San Francisco se convirtió en la primera ciudad en Estados Unidos en prohibir el uso del reconocimiento facial por parte de la policía y otras agencias gubernamentales. La prohibición se basó en preocupaciones de privacidad y de que la tecnología podría ser utilizada de manera discriminatoria.
Pero, como te decía, esto es un tremendo decorado. Vivimos en un puto decorado. Nadie está dispuesto a perder un gramo de seguridad aunque sea a cambio del control. Prefieren tener cubierta su dependencia a perder su privacidad. La tranquilidad genera sociedades cloroformizadas. Si no piensa en las CBDC. Las CBDC (Central Bank Digital Currencies, o Monedas Digitales de Banco Central en español) y el reconocimiento facial se utilizarán a la vez en sistemas de pago digitales y en procesos de verificación de identidad.
Algunos sistemas de CBDC requerirán la verificación de la identidad de los usuarios para garantizar la seguridad y evitar, nos dirán, fraudes. El uso del reconocimiento facial en sistemas de CBDC puede requerir la recopilación y almacenamiento de información biométrica, como la imagen facial de las personas, lo que puede comprometer la privacidad de los usuarios si esta información se maneja de manera inadecuada. Si los datos de reconocimiento facial y otros datos personales se almacenan en línea, pueden ser vulnerables a ciberataques y piratería, lo que puede poner en riesgo la privacidad de los usuarios.
La información recopilada por los sistemas de CBDC que utilizan reconocimiento facial puede ser utilizada indebidamente por las empresas o instituciones que las implementan, o incluso por terceros que accedan a los datos. No seré yo quien diga que la tecnología no es algo que haya que abrazar con entusiasmo, pero no tengo claro como la sociedad está realmente asumiendo el cambio más trascendental que ha vivido la humanidad en siglos.
A veces parecemos una especie de jinete que lleva una venda en los ojos. El poder y el ritmo del caballo es estimulante, pero tenemos poca o ninguna idea de hacia dónde nos lleva. Las nuevas tecnologías cambiarán significativamente nuestro mundo, es obvio. Queda por ver si sabremos convertirlo en algo beneficioso o tóxico. Las nuevas tecnologías y las que se encuentran en las primeras etapas del desarrollo tienen el potencial de aumentar los innumerables problemas del mundo o de mitigarlos. En gran medida, el efecto que produzcan dependerá de decisiones políticas. Dependerá finalmente de que a quienes votemos tengan claro el momento histórico que vivimos y acierten en las decisiones que deberán adoptar al respecto.
Las decisiones que no se tomen ahora, las estrategias que no se determinen ahora o los programas de gestión de esta mutación socioeconómica que no se diseñen serán las semillas de un desastre colectivo sin precedentes. Además, si no hay política debatiendo estos cambios, tampoco hay debate ético que pueda hacerlo con base en esas decisiones oficiales. Básicamente porque, como ciudadanos digitales, las opciones disponibles para nosotros en relación con estas nuevas tecnologías son elecciones éticas que ponen en juego nuestra libertad.
En principio, el individuo autónomo analiza, reflexiona sobre sus opciones y toma decisiones individuales sin una influencia externa indeseada. Pero, a medida que las nuevas tecnologías eliminan la privacidad, nuestra autonomía está amenazada. El aumento de los datos sobre la forma en que los individuos se comportan, sobre sus preferencias, sus aversiones y sus respuestas emocionales a diversos estímulos los hace más fáciles de manipular y controlar. Y adivina que se recorta siempre cuando hay en juego cualquier debate sobre la seguridad o el control, nuestra libertad, siempre se recorta un centímetro de libertad. Es a lo que nos enfrentamos.
