Cuando la reportera del New York Times, Kashmir Hill, recibió una pista en 2019 sobre una startup de reconocimiento facial, le resultó difícil creerlo.

"No pensé que pudiera ser verdad", dijo Hill. "Era esta empresa, Clearview AI, que afirmaba haber recopilado miles de millones de fotos de Internet público, sin el consentimiento de las personas, para construir una base de datos de aproximadamente mil millones de fotos. Y estaba vendiendo una aplicación de reconocimiento facial a la policía que decía que podía identificar a alguien con un porcentaje de precisión cercano al 99%".

Sin embargo, la pista resultó ser cierta, al menos en cuanto a la cantidad de rostros que habían recopilado. Hoy en día, la empresa tiene una base de datos de 30 mil millones de rostros. Y aunque ha violado regulaciones de privacidad fuera de los Estados Unidos, Clearview AI no ha enfrentado tanta supervisión regulatoria a nivel nacional. En 2022, la startup llegó a un acuerdo en una demanda con la Unión Americana de Libertades Civiles después de que esta última alegara que había violado una ley de privacidad de Illinois, y como parte del acuerdo, la base de datos de Clearview AI no puede ser accedida por entidades privadas como empresas e individuos, aunque sigue siendo ampliamente utilizada por las fuerzas del orden.

En su libro, "Tu rostro nos pertenece: La búsqueda encubierta de una startup para acabar con la privacidad tal como la conocemos", Hill describe su viaje como reportera, incluyendo su incursión en Clearview AI y sus conversaciones con sus líderes. A continuación se presenta un extracto que analiza el comienzo de la investigación de Hill sobre la empresa de reconocimiento facial.

En noviembre de 2019, recién había comenzado como reportera en The New York Times cuando recibí una pista que parecía demasiado escandalosa para ser verdad: Una empresa misteriosa llamada Clearview AI afirmaba que podía identificar a casi cualquier persona solo con una fotografía de su rostro.

Estaba en una habitación de hotel en Suiza, embarazada de seis meses, cuando recibí el correo electrónico. Era el final de un largo día y estaba cansada, pero el correo electrónico me sobresaltó. Mi fuente había descubierto un memorando legal marcado como "Privado y Confidencial" en el que un abogado de Clearview declaró que la empresa había recopilado miles de millones de fotos de la web pública, incluyendo sitios de redes sociales como Facebook, Instagram y LinkedIn, para crear una aplicación revolucionaria. Entregabas a Clearview una foto de una persona al azar en la calle, y te devolvía todos los lugares en Internet donde había detectado su rostro, revelando potencialmente no solo su nombre, sino otros detalles personales de su vida.

La compañía estaba vendiendo este superpoder a los departamentos de policía de todo el país, pero intentando mantener su existencia en secreto.

Hace no tanto tiempo, el reconocimiento facial automatizado era una tecnología distópica que la mayoría de la gente asociaba únicamente con las novelas de ciencia ficción o películas como Minority Report. Los ingenieros buscaron por primera vez hacerlo realidad en la década de 1960, intentando programar una computadora temprana para que coincidiera el retrato de alguien con una base de datos más grande de rostros de personas. A principios de la década de 2000, la policía comenzó a experimentar con él para buscar en las bases de datos de fotos de detenidos los rostros de sospechosos criminales desconocidos. Pero la tecnología en gran medida resultó decepcionante. Su rendimiento variaba según la raza, el género y la edad, e incluso los algoritmos de última generación tenían dificultades para hacer algo tan simple como emparejar una foto de una rueda de reconocimiento con una imagen granulada de un cajero automático. Clearview afirmaba ser diferente, alardeando de una "tasa de precisión del 98,6 por ciento" y una enorme colección de fotos diferente a cualquier cosa que la policía hubiera usado antes.

"Esto es enorme si es cierto", pensé mientras leía y releía el memo de Clearview que nunca había sido destinado a ser público. Había estado cubriendo la privacidad, y su erosión constante, durante más de una década. A menudo describo mi campo como "la distopía tecnológica inminente y cómo podemos tratar de evitarla", pero nunca había visto un ataque tan audaz a la anonimidad.

La privacidad, una palabra infamemente difícil de definir, fue descrita más famosamente en un artículo de la Harvard Law Review en 1890 como "el derecho a que lo dejen en paz". Los dos abogados que escribieron el artículo, Samuel D. Warren, Jr. y Louis D. Brandeis, pidieron que el derecho a la privacidad fuera protegido por ley, junto con esos otros derechos: a la vida, a la libertad y a la propiedad privada, que ya habían sido consagrados. Fueron inspirados por una tecnología entonces novedosa: la cámara fotográfica portátil Eastman Kodak, inventada en 1888, que permitía llevar una cámara fuera de un estudio para tomar fotos "instantáneas" de la vida cotidiana, así como por personas como yo, un entrometido miembro de la prensa.

"Fotografías instantáneas y la empresa periodística han invadido los sagrados recintos de la vida privada y doméstica", escribieron Warren y Brandeis, "y numerosos dispositivos mecánicos amenazan con hacer realidad la predicción de que 'lo que se susurra en el armario será proclamado desde los tejados'".

Este artículo es uno de los ensayos legales más famosos jamás escritos, y Louis Brandeis luego se unió a la Corte Suprema. Sin embargo, la privacidad nunca recibió el tipo de protección que Warren y Brandeis dijeron que merecía. Más de un siglo después, aún no existe una ley integral que garantice a los estadounidenses el control sobre las fotos que se toman de ellos, lo que se escribe sobre ellos o qué se hace con sus datos personales. Mientras tanto, las empresas con sede en Estados Unidos y otros países con leyes de privacidad débiles están creando tecnologías cada vez más poderosas e invasivas.

El reconocimiento facial llevaba un tiempo en mi radar. A lo largo de mi carrera, en lugares como Forbes y Gizmodo, he cubierto importantes nuevas ofertas de empresas multimillonarias: Facebook etiquetando automáticamente a tus amigos en fotos; Apple y Google permitiendo a las personas desbloquear sus teléfonos mirándolos; vallas publicitarias digitales de Microsoft e Intel con cámaras que detectan la edad y el género para mostrar anuncios apropiados a los transeúntes.

Había escrito sobre cómo esta tecnología a veces torpe y propensa a errores emocionaba a las fuerzas del orden y la industria, pero aterrorizaba a los ciudadanos preocupados por la privacidad. Mientras asimilaba lo que Clearview afirmaba que podía hacer, pensé en un taller federal al que había asistido años antes en Washington, D.C., donde representantes de la industria, funcionarios del gobierno y defensores de la privacidad se sentaron a establecer las reglas del juego. Lo único en lo que todos estuvieron de acuerdo fue en que nadie debería lanzar una aplicación para identificar a desconocidos. Era demasiado peligroso, dijeron. Un extraño en un bar podía tomar tu foto y en cuestión de segundos saber quiénes eran tus amigos y dónde vivías.

Podría ser utilizado para identificar manifestantes antigubernamentales o mujeres que ingresaron a las clínicas de Planned Par­enthood. Sería un arma para hostigamiento e intimidación. El reconocimiento facial preciso, a escala de cientos de millones o miles de millones de personas, era un tema prohibido dentro de la tecnología. Y ahora, Clearview, un jugador desconocido en el campo, afirmaba haberlo construido.

Era escéptico. Las startups son conocidas por hacer afirmaciones grandiosas que resultan ser un engaño. Incluso Steve Jobs falsificó famosamente las capacidades del iPhone original cuando lo presentó por primera vez en el escenario en 2007. Tendemos a creer que las computadoras tienen poderes casi mágicos, que pueden resolver cualquier problema y, con suficientes datos, eventualmente resolverlo mejor que los humanos. Por lo tanto, los inversores, los clientes y el público pueden ser engañados por afirmaciones extravagantes y trucos digitales de compañías que aspiran a hacer algo grandioso pero que aún no lo han logrado del todo.

Pero en este memo legal confidencial, el prominente abogado de Clearview, Paul Clement, quien había sido el fiscal general de los Estados Unidos bajo el presidente George W. Bush, afirmó haber probado el producto con abogados de su firma y "descubrió que devuelve resultados de búsqueda rápidos y precisos". Clement escribió que más de doscientas agencias de aplicación de la ley ya estaban utilizando la herramienta y que había determinado que "no violaba la Constitución federal ni las leyes estatales relevantes de biometría y privacidad cuando se utiliza Clearview para su propósito previsto". No solo cientos de departamentos de policía estaban utilizando esta tecnología en secreto, sino que la compañía había contratado a un abogado de renombre para tranquilizar a los oficiales de que no estaban cometiendo un delito al hacerlo.

Regresé a Nueva York con un nacimiento inminente como fecha límite. Tenía tres meses para llegar al fondo de esta historia, y cuanto más profundizaba, más extraña se volvía.

Extracto de "Tu Rostro Nos Pertenece" de Kashmir Hill. Copyright © 2023 por Kashmir Hill. Extracto utilizado con permiso de Random House. Todos los derechos reservados. No se puede reproducir ni reimprimir ninguna parte de este extracto sin permiso por escrito del editor.

Hay mucho sucediendo en el mundo. En medio de todo eso, Marketplace está aquí para ti.

Confías en Marketplace para analizar los eventos del mundo y decirte cómo te afectan de manera factual y comprensible. Nosotros confiamos en tu apoyo financiero para poder seguir haciendo eso posible.

Tu donación hoy alimenta el periodismo independiente del que dependes. Por tan solo $5 al mes, puedes ayudar a sostener a Marketplace para que podamos seguir informando sobre las cosas que te importan.