El periodista Kashmir Hill recibió la noticia en noviembre de 2019 de que una startup llamada Clearview AI había decidido poder identificar a cualquier persona a partir de una imagen. Su fuente es que la compañía ha reconocido millones de fotografías de redes sociales como Facebook, Instagram o LinkedIn —sin avisar ni a las plataformas ni a los interesados—, y si has introducido la foto de alguien en la app, se mostrará a todo el mundo. los sitios web donde aparece esta persona, así como su nombre completo e información personal.
Nadie tuvo miedo de lanzar algunos hasta el final. Una aplicación que pudiera identificar a extraños era demasiado. Podría usarlo, por ejemplo, para fotografiar a alguien en un bar y esquiar en segundos hasta donde vive y aquí están sus amigos. Hill, periodista italiano Los New York Times, publiqué la historia de esta pequeña empresa, que en pocos meses había sido una total desconocida y hablé con la ayuda de Peter Thiel, uno de los padrinos de Silicon Valley, y se convirtió en el objeto de deseo de los corazones de políticos de EE UU y del extranjero. Recurrió a Hoan Ton-That, el impenetrable ingeniero responsable de la empresa que montó junto a Richard Schwartz, un político de amplia trayectoria entre las bambalinas del Partido Republicano. Su investigación continuó hasta darle forma a su libro. Tu cara nos pertenece (Tu querida nos perteneceseditado por Random House en 2023 y traducido al español hasta el momento).
“Me pareció que los fundadores de la arrancar Eran personajes solitarios y fascinantes, y la historia captaba algo esencial en este sector: ese deseo de crear nuevas tecnologías que sean verdaderamente transgresoras sin tener en cuenta sus implicaciones sociales”, explica en una videoconferencia desde Nueva York. Nacida tiene 43 años y nació en Florida, en Kashmir Hill, y se ha hecho un nombre en uno de los temas más míticos de Led Zeppelin, trabajando en publicaciones como ésta. Gizmodo, Forbes o El neoyorquino antes de la universidad en Veces en 2019. También llamó su atención sobre el hecho de que una empresa joven puede dominar en poco tiempo una tecnología tan completa como el reconocimiento facial.
PEDIDO. ¿Qué tienen de especial los sistemas de reconocimiento facial automático? ¿Por qué estás interesado en esta tecnología?
RESPUESTA. Es una clave para lograr que la gente del mundo real los conozca en Internet. El uso inadecuado del reconocimiento facial erradicaría el anonimato y no sería posible navegar por el mundo sin que la gente lo asumiera sobre todos nosotros. Los gobiernos saben dónde estamos y qué hacemos todo el tiempo. Y por eso tienes éxito en China. Rusia lo utiliza para identificar a quienes se manifestaron contra la invasión de Ucrania. La tribuna es, ante todo, el último bastión de la privacidad. Volando a China, desarrolló una lista roja para aquellos en el poder que no quiere que se acerquen a ella. Estar en esta lista significa ser invisible para el sistema de vigilancia, eliminando registros de cámaras. Es muy revelador que no fuera visto como un privilegio exclusivo de los poderosos.
PAG. ¿Crees que la historia de Clearview AI es representativa del reconocimiento facial?
r. Sí. La tecnología de reconocimiento facial es un arma de doble filo. Puedes utilizarlo para resolver crímenes, encontrar asesinos y violadores, pero también para arrestar a residentes o para obtener información sobre actrices porno y contactar con ellas. Los fundadores de Clearview AI tienen ideas muy preocupantes sobre qué hacer con esta herramienta. Creemos que el análisis del rol de una persona puede debilitar su inteligencia o su propensión al consumo de drogas. Trató con Hungría, le gustaría que su producto procesara a los activistas y se identificara con los liberales. Entonces, en cualquier caso, es un verdadero tranquilizante que finalmente trabaja solo con la policía.
En China, el anonimato es un privilegio exclusivo de los poderosos
PAG. Clearview AI tiene muchas cosas que están prohibidas en varios países. ¿Cuál es tu situación actual?
r. Continúa operando en Estados Unidos. Trabajó con muchas agencias policiales locales, así como con el Departamento de Seguridad Nacional y el FBI. Están un poco asediados legalmente, pero han tenido algunos éxitos, ya que un tribunal del Reino Unido anuló una multa que les había impuesto el regulador. En el último caso, el hecho de que decidiéramos centrarnos exclusivamente en la aplicación de la ley nos permitió evitar muchos resultados negativos. Veamos qué pasa en la mayoría de países europeos.
PAG. ¿Crees que el auge de la inteligencia artificial (IA) generativa ha servido de telón para la expansión de empresas como Clearview AI?
r. La gente está muy centrada en la IA generativa y ha desviado su atención, a veces porque esa tecnología compromete nuestra privacidad. Pero en cierto modo las preocupaciones son las mismas. el New York Times, donde quiera que trabajo, he solicitado que OpenAI use todos nuestros artículos sin pedir permiso. De manera similar, la base de datos de Clearview AI se compone de decenas de miles de millones de imágenes de nuestros amados rincones de Internet sin el consentimiento de nadie. Me importa mucho el reconocimiento facial combinado con la IA generativa. Puedes generar la lista de alguien en una imagen pornográfica o algún tipo de situación embarazosa y simplemente publicarla, sabiendo que algún día alguien buscará a esa persona con una herramienta de reconocimiento facial y la conocerás. Escribo el libro porque quiero que la gente entienda lo poderosa que se ha vuelto la tecnología de reconocimiento facial. Ahora es realmente trivial identificar a alguien y encontrar todas sus fotos en Internet. Y creo que esto tiene implicaciones muy preocupantes para el futuro.
PAG. ¿Cuál es la percepción social del reconocimiento facial en EE UU?
r. Existe una resistencia real al uso de la tecnología de reconocimiento facial in vivo. Los legisladores dicen haber revivido la idea de buscar personas en tiempo real en las calles, algo que está sucediendo, por ejemplo, en el Reino Unido. Al mismo tiempo, creo que el alcalde acepta utilizar esta tecnología después de cometer un delito para procesar la identificación del culpable.
PAG. ¿Cómo es posible que una empresa que basa su negocio en un producto construido a partir del vertido no autorizado de millones de fotografías de personajes humanos pueda operar como si nada?
r. Cuando me registré por primera vez en Clearview AI, tenía 3000 millones de fotos. Cuando terminó el libro, creo que tenía 20.000 millones. Ahora tienes 40.000. Hay países que han dicho que lo que estás haciendo es ilegal. No es necesario que recopile fotografías de personas sin su consentimiento, simplemente hágalo y luego deje de hacerlo. En EE UU tenemos algo antes, porque esta ilegalidad no está tan clara. Estamos viendo lo mismo con la IA generativa: ¿debería permitir que estas empresas recopilen lo que quieran y lo utilicen como quieran para ganar dinero? Creo que ésta es una de las cuestiones más importantes de nuestro tiempo.
Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial era la única tecnología que su empresa desarrolló y no lanzó.
PAG. En el libro señala que Google y Facebook tenían su propia tecnología de reconocimiento facial desarrollada antes de Clearview AI, pero decidieron no lanzarla.
r. Me pareció realmente sorprendente. Se trata de empresas que han sido muy analizadas por posibles abusos de privacidad, y éstas han tenido más cuidado. También creo que me preocupaba la tecnología en sí. Sus ingenieros se alarmaron y vieron las obvias desventajas de revelar algo como esto. Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial fue, en última instancia, la única tecnología que su empresa desarrolló y no lanzó. De hecho, me pareció interesante que de todos modos haya tenido éxito con la IA generativa: Google tenía su propio ChatGPT, pero pensé que el mundo no estaba preparado para eso hoy.
PAG. ¿Crees que tenemos una sociedad hipervigilante?
r. Vivimos en un mundo donde hay cámaras por todas partes, pero no tenemos sistemas de reconocimiento facial. Creo que en Europa existe ahora este debate: si secuestras a tu hijo o tienes un fugitivo en tu vida, ¿deberíamos poder reunirnos con ellos en tiempo real? Una vez que esta infraestructura esté configurada, podrá utilizar muchas otras formas. Creo que nosotros también podemos decidir si nos permitimos o no que este sea un mundo en el que nos animemos todo el tiempo, cada vez que salimos de casa. Sí, es una decisión que debo tomar ahora también.
Poder identificar a alguien y encontrar todas sus fotos en Internet tiene implicaciones de futuro muy preocupantes
PAG. ¿Cómo hemos recorrido la línea entre lo que es un uso apropiado e inapropiado del reconocimiento facial?
r. Creo que un elemento importante ahora es lo retroactivo frente a lo proactivo. ¿Lo utilizas para resolver un delito que ya has elegido o para ocuparte de la prevención del delito o conocer gente en tiempo real? Esta es una gran brecha, es la que estamos cruzando ahora mismo. Otro punto clave es la seguridad. En Estados Unidos, si eres policía, puedes utilizar el reconocimiento facial para resolver crímenes. Si tienes una empresa, puedes utilizarlo para identificar a los ladrones de contenedores y expulsarlos. Lo que molesta a la gente son las aplicaciones relacionadas con la seguridad.
PAG. ¿Crees que la ciudad se acostumbrará y tolerará esta tecnología?
r. Probaremos diferentes casos de uso y veremos qué tan cómodos son. Fue muy efectivo cuando en el Madison Square Garden empezó a rondar en la puerta a los suscriptores de la marca que lo habían solicitado. La gente se dio cuenta de que el reconocimiento facial podía utilizarse de forma alarmante. Hubo un momento en el que se captan llamadas telefónicas desde la Casa Blanca. Vivimos con todos esos cinturones de Richard Nixon lanzando sus aviones para Watergate. Esto provocó alarma social y se aprobaron leyes que ilegalizaban las pantallas telefónicas, excepto aquellas que estuvieran sujetas a orden judicial. Por eso las cámaras de vigilancia sólo grababan vídeo y nada de sonido: decidimos que no queríamos vivir en un mundo donde todo dice lo grabado. Creo que será lo mismo con nuestros seres queridos.
Puedes seguir en EL PAÍS Tecnología es Facebook Sí X o escribe aquí para recibirnos boletín periódico.
Regístrate para seguir leyendo
lee sin limites
_
