En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugería que era un criminal. La correspondencia era incorrecta y el señor Williams emprendió acciones legales.
El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo el compromiso de la policía de Detroit de hacerlo mejor. La ciudad adoptó nuevas reglas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense de Libertades Civiles, que representó a Williams, debería ser el nuevo estándar nacional.
«Esperamos que esto impulse las cosas en la dirección correcta», dijo Williams.
Williams es la primera persona arrestada injustamente por reconocimiento facial defectuoso. Pero él no fue el último. La policía de Detroit arrestó al menos a otras dos personas luego de que las búsquedas de reconocimiento facial salieran mal, incluida una mujer acusada de robo de auto mientras estaba embarazada de ocho meses.
Los organismos encargados de hacer cumplir la ley en todo el país están utilizando tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyas fechorías son captadas por la cámara. En Michigan, el software compara una cara desconocida con aquellas que figuran en una base de datos de fotografías policiales o de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que buscan fotografías recuperadas de sitios de redes sociales e Internet.
Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo durante una sesión fotográfica, a menos que exista otra evidencia que las vincule con el crimen.
“El sistema de ‘tomar una fotografía y ponerla en una alineación’ va a terminar”, dijo Phil Mayor, abogado de la ACLU de Michigan. “Con este acuerdo, el Departamento de Policía de Detroit pasa de ser el usuario indebido mejor documentado de la tecnología de reconocimiento facial a convertirse en un líder nacional en la protección de su uso. »
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluido San Francisco; Austin, Texas; y Portland, Oregon, prohibieron temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, gerente de TI de la unidad de inteligencia criminal de Detroit, dijo que el departamento de policía está «muy ansioso por utilizar la tecnología de manera significativa para la seguridad pública». Detroit, dijo, tiene “la política más fuerte del país en este momento”.
¿Cómo va mal?
Williams fue arrestado después de un delito en 2018. Un hombre robó cinco relojes de una tienda en el centro de Detroit mientras era grabado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre con fotografías de la licencia de conducir y fotografías policiales produjo 243 fotografías, clasificadas en orden de confianza del sistema de que era la misma persona en el video de vigilancia, según los documentos revelados como parte de la denuncia del Sr. Williams. Una antigua fotografía del Sr. Williams tomada de una licencia de conducir ocupaba el noveno lugar en la lista. La persona que realizó la búsqueda consideró que era la mejor coincidencia y envió un informe a un detective de la policía de Detroit.
El detective incluyó la foto del Sr. Williams en una «matriz de fotografías de seis personas» (fotos de seis personas en una cuadrícula) que mostró a la compañía de seguridad que proporcionó el video de vigilancia de la tienda. Ella estuvo de acuerdo en que el Sr. Williams era la persona más cercana al hombre en la tienda, lo que dio lugar a la orden de arresto. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.
En 2021, presentó una demanda contra Detroit con la esperanza de imponer una prohibición a la tecnología para que otros no sufrieran su suerte. Dijo que se molestó el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y hurto después de una mala coincidencia de reconocimiento facial. La policía arrestó a la Sra. Woodruff mientras preparaba a sus hijos para la escuela. También presentó una demanda contra la ciudad; el juicio está en curso.
«Es muy peligroso», dijo Williams, refiriéndose a la tecnología de reconocimiento facial. «No veo ningún beneficio positivo».
las nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial condujo a un arresto injusto. (Los otros estaban en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían más abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
James White, jefe de policía de Detroit, atribuyó los arrestos injustificados a un «error humano». Según él, sus agentes dependían demasiado de la información proporcionada por la tecnología. Fue su juicio el que estaba equivocado, no el de la máquina.
La nueva política, que entrará en vigor este mes, está destinada a ayudar con eso. Según las nuevas reglas, la policía ya no puede mostrar el rostro de una persona a un testigo basándose únicamente en una coincidencia de reconocimiento facial.
«Tiene que haber algún tipo de evidencia secundaria que lo corrobore antes de que haya suficiente justificación para ir a la cola», dijo Sr. Lamoreaux, de la unidad de inteligencia criminal de Detroit. La policía necesitaría información sobre la ubicación de una persona desde el teléfono, por ejemplo, o pruebas de ADN, algo más que un simple parecido físico.
El departamento también está cambiando la forma en que organiza las líneas para las fotografías. Se trata de adoptar lo que se llama un método secuencial doble ciego, considerado una forma más justa de identificar a alguien. En lugar de presentar un “six-pack” a un testigo, un oficial de policía –que no sabe quién es el principal sospechoso– presenta las fotos una por una. Y la programación incluye una foto de la persona diferente a la que revela el sistema de reconocimiento facial.
La policía también tendrá que revelar que se realizó un registro facial, así como la calidad de la imagen del rostro registrado. ¿Qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es la cara del sospechoso? — porque es menos probable que una imagen de mala calidad produzca resultados confiables. También tendrán que revelar la edad de la foto revelada por el sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidieran.
Franklin Hayes, subjefe de policía de Detroit, dijo que confiaba en que las nuevas prácticas evitarían futuras identificaciones erróneas.
«Todavía hay algunas cosas que podrían salir mal, por ejemplo, los gemelos idénticos», dijo Hayes. “Nunca podremos decir nunca, pero creemos que esta es nuestra mejor política hasta ahora. »
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit es un excelente punto de partida y que otras agencias deberían adoptarla.
«No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que la delincuencia sea rampante», afirmó Ross.
¿Cuánto ayuda esto?
La identificación de testigos presenciales es una tarea difícil y la policía ha adoptado cámaras y reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
El año pasado, el Jefe White dijo a los legisladores locales que la tecnología de reconocimiento facial había ayudado a «sacar de la calle a 16 asesinos». Cuando se les pidió más información, los funcionarios del departamento de policía no proporcionaron detalles sobre estos casos.
Para demostrar el éxito de la tecnología, la policía publicó un video de vigilancia que muestra a un hombre derramando combustible en una gasolinera y prendiéndole fuego. Dijeron que fue identificado mediante tecnología de reconocimiento facial y arrestado esa noche. Posteriormente se declaró culpable.
El Departamento de Policía de Detroit es uno de los pocos que controla su investigación de reconocimiento facial y presenta informes semanales sobre su uso a un comité de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas por año, de las cuales aproximadamente la mitad arrojaron coincidencias potenciales.
El departamento sólo considera la frecuencia con la que recibe un cliente potencial, no el éxito de ese cliente potencial. Pero como parte de su acuerdo con Williams, quien también recibió 300.000 dólares, según un portavoz de la policía, debe realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan al momento en que comenzó a usar esta tecnología en 2017. Si identifica otros casos en los que las personas fueron arrestadas con poca o ninguna otra evidencia de respaldo más allá de una coincidencia facial, se supone que el departamento debe alertar al fiscal en cuestión.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones parecían prometedoras, pero seguía siendo escéptica.
“Detroit es una ciudad extremadamente vigilada. Hay cámaras por todas partes”, dijo. “Si todas estas tecnologías de vigilancia realmente hicieran lo que dicen hacer, Detroit sería una de las ciudades más seguras del país. »
Willie Burton, miembro de la Junta de Comisionados de Policía, un grupo de vigilancia que aprobó las nuevas políticas, las describió como «un paso en la dirección correcta», aunque todavía se opone al uso de tecnología de vigilancia facial por parte de la policía. .
«La tecnología aún no está disponible», afirmó Burton. “Un arresto falso es demasiado, y el hecho de que haya tres en Detroit debería hacer saltar las alarmas y poner fin a esta práctica”. »
