Columnistas

El reconocimiento facial debe postergarse

En China, las cámaras inteligentes son la base de un totalitarismo de vigilancia que lo abarca todo. Me preocupa que estemos cayendo a tropezones y a ciegas en un Estado que nos vigila en todo momento.

La Razón (Edición Impresa) / Farhad Manjoo

00:13 / 08 de junio de 2019

Qué vamos a hacer con todas las cámaras? La pregunta me quita el sueño por las noches, con un sentimiento que se asemeja al terror. Las cámaras están definiendo el avance tecnológico de nuestra era; son la clave de nuestros teléfonos celulares, los ojos de los drones autónomos del mañana y los motores del miedo a perderse un evento o alguna oferta (FOMO, en sus siglas en inglés) que impulsan Facebook, Instagram, TikTok, Snapchat y Pornhub. La fotografía viral, barata y omnipresente ha dado lugar a movimientos sociales como Black Lives Matter, pero las cámaras también están dando lugar a más problemas de los que podemos manejar: el porno de venganza, el terrorismo transmitido en tiempo real, los reaccionarios de YouTube y otros males fotográficos.

Además, las cámaras no se quedan ahí. Siguen abaratándose y volviéndose más inteligentes, de maneras que resultan sorprendentes y alarmantes a la vez. Los avances en la visión computarizada les están dando a las máquinas la capacidad de distinguir y rastrear rostros, adivinar el comportamiento y las intenciones de la gente, así como aprehender y sortear amenazas en el entorno físico. En China, las cámaras inteligentes son la base de un totalitarismo de vigilancia que lo abarca todo y que no tiene precedentes en la historia de la humanidad. En Occidente, las cámaras inteligentes ahora se venden como soluciones baratas para casi cada infortunio público y privado, desde atrapar a cónyuges infieles y ladrones de paquetes, hasta evitar tiroteos en las escuelas y violaciones a la ley migratoria.

Sospecho que estos usos y otros más tomarán vuelo, porque en los años que llevo cubriendo el tema de la tecnología he observado un axioma invulnerable de la sociedad: si le pones una cámara, se vende. Por ello me preocupa que estemos cayendo a tropezones y a ciegas en un Estado que nos vigila; razón por la cual me parece que lo único razonable que podemos hacer al respecto de las cámaras inteligentes ahora es ponerles un alto.

La semana pasada, el Consejo de Supervisores de San Francisco prohibió el uso de tecnología de reconocimiento facial en la Policía y otras agencias de la ciudad. California y Berkeley también están considerando prohibiciones, al igual que Somerville (Massachusetts). Espero que estas medidas se dispersen por doquier. Estados, ciudades y el Gobierno federal deberían imponer una moratoria inmediata al reconocimiento facial, en especial en lo que respecta a su uso por parte de las autoridades que hacen cumplir la ley. Todavía podríamos decidir, más adelante, entregarnos a las cámaras en todo lo demás. Pero no nos apresuremos a adentrarnos a un futuro en el que todo se ve sin entender los riesgos que ésto conlleva.

¿Cuáles son los riesgos? Dos nuevos informes de Clare Garvie, una investigadora que estudia el reconocimiento facial en Georgetown Law, llevó hasta mí los peligros de esta tecnología. En un informe, Garvie sacó a la luz los contratos municipales que indican que las agencias de procuración de justicia en Chicago, Detroit y otras ciudades más se están movilizando rápidamente y con poca información al público en general, para instalar sistemas de reconocimiento facial “en tiempo real” a estilo de China.

La ciudad de Detroit firmó un contrato de $us 1 millón con DataWorks Plus, un proveedor de reconocimiento facial, para adquirir software que permite un monitoreo continuo de cientos de cámaras públicas y privadas instaladas en toda la ciudad, en gasolineras, restaurantes, iglesias, hoteles, clínicas, centros de tratamiento a las adicciones y escuelas. Los rostros captados por las cámaras pueden buscarse en la base de datos de las fotografías de las licencias para conducir de Michigan. Los investigadores también obtuvieron las normas del Departamento de Policía de Detroit que regulan el uso del sistema. Las normas son laxas, ya que permiten a los policías escanear rostros “en video en vivo o grabado” por una gran variedad de razones, incluyendo “investigar y/o corroborar información y pistas de informantes”. En una carta para Garvie, James E. Craig, jefe de Policía de Detroit, negó que se estuvieran llevando a cabo “actividades orwellianas”, y agregó que se “ofendió enormemente” ante la sugerencia de que la Policía “violaría los derechos de los ciudadanos que cumplen la ley”.

Soy menos optimista, al igual que Garvie: “El reconocimiento facial les da a las autoridades una capacidad única que nunca habían tenido antes. Me refiero a la capacidad de llevar a cabo vigilancia biométrica: la capacidad de ver no solo qué está ocurriendo en el terreno, sino quién lo está llevando a cabo. Esto nunca había sido posible antes. Nunca habíamos podido hacer secretamente un escaneo masivo de las huellas digitales de un grupo de personas. Nunca hemos podido hacer eso con el ADN. Ahora podemos hacerlo con el escaneo de los rostros”.

Esta capacidad altera nuestra precepción de la privacidad en los espacios públicos. Tiene implicaciones escalofriantes para las libertades de expresión y de asociación. Significa que la Policía puede observar quién participa en protestas y seguirles los pasos a esas personas después. De hecho, esto ya está sucediendo. En 2015, cuando, en Baltimore, surgieron las protestas por la muerte de Freddie Gray mientras estaba bajo custodia policiaca, el Departamento de Policía usó software de reconocimiento facial para encontrar a la gente entre la multitud que tenía órdenes de aprehensión pendientes y los detuvo de inmediato, en nombre de la seguridad pública.

Pero hay otra cuestión en el debate sobre el reconocimiento facial. En un segundo informe, Garvie descubrió que la Policía está usando los sistemas de escaneo de rostros de manera apresurada y descuidada, por lo que se deberían cuestionar sus resultados. Devora Kaye, vocera del Departamento de Policía de Nueva York, me dijo que utilizan el reconocimiento facial únicamente para ayudarse en las investigaciones y que “siempre es necesario investigar más para determinar que haya una causa probable para un arresto”. Añadió que “la Policía de Nueva York evalúa continuamente sus procedimientos existentes y en línea con eso, está en un proceso de revisión de nuestros protocolos de reconocimiento facial existentes”. Este tipo de búsqueda superficial es cosa de rutina en el negocio del rostro.

En un giro inesperado, algunos departamentos de Policía incluso están utilizando el reconocimiento facial en los dibujos forenses: buscan rostros de gente de carne y hueso con base en representaciones de artistas a partir de la declaración de un testigo ocular, un proceso plagado del tipo de subjetividad humana que el reconocimiento facial se proponía evitar.

Lo más preocupante de todo esto es que casi no hay normas que regulen su uso. “Si descubriéramos que un analista de huellas digitales estuviera dibujando las líneas faltantes como pensara que continúan, habría fundamentos para un juicio nulo”, afirmó Garvie. No obstante, se está arrestando, acusando y sentenciando a personas con base en prácticas similares en las búsquedas faciales. Y debido a que no hay mandatos sobre que a los acusados y sus abogados se les deba informar sobre estas búsquedas, se le permite a la Policía actuar con impunidad.

Nada de esto es para decir que el reconocimiento facial debería prohibirse para siempre. La tecnología puede tener algunos usos legítimos, pero también supone profundas disyuntivas jurídicas y éticas. ¿Qué tipo de reglas deberían imponerse al uso de las autoridades del reconocimiento facial? ¿Qué hay sobre el uso de cámaras inteligentes por parte de nuestros amigos y vecinos, en sus autos y puertas? En resumen, ¿quién tiene el derecho de vigilar a los demás y en qué circunstancias puedes rechazarlo? Tomará tiempo y un cuidadoso estudio responder estas preguntas. Pero tenemos tiempo. No hay necesidad de apresurarse a entrar en terreno desconocido. Vamos a dejar de usar el reconocimiento facial de inmediato, al menos hasta que podamos vislumbrar qué está pasando.

* Periodista y escritor estadounidense, columnista de tecnología del The New York Times. © The New York Times, 2019.

Ediciones anteriores

Lun Mar Mie Jue Vie Sab Dom
1
2 3 4 5 6 7 8
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31

Suplementos

Colinas de Santa Rita, Alto Auquisamaña (Zona Sur) - La Paz, Bolivia