En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugería que era un delincuente. La combinación salió mal y el señor Williams presentó una demanda.
Como parte de esto, el viernes Acuerdo legal Por su arresto injusto, el Sr. Williams recibió la promesa de hacerlo mejor por parte del Departamento de Policía de Detroit. La ciudad ha adoptado nuevas reglas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense de Libertades Civiles, que representa a Williams, debería ser el nuevo estándar nacional.
“Esperamos que esto mueva la aguja en la dirección correcta”, afirmó el señor Williams.
Williams fue la primera persona arrestada injustamente por reconocimiento facial. Pero él no fue el último. La policía de Detroit arrestó al menos a dos personas más como resultado de búsquedas de reconocimiento facial, incluida una mujer acusada de robo de auto mientras estaba embarazada de ocho meses.
Los organismos encargados de hacer cumplir la ley en todo el país están utilizando tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyos delitos son captados por la cámara. En Michigan, el software compara una cara desconocida con una base de datos de fotografías policiales o de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas como ClearView AI, que busca en fotografías extraídas de sitios de redes sociales y de la Internet pública.
Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo en una serie de fotografías a menos que exista otra evidencia que las vincule con un delito.
“El proceso de ‘obtener una foto, dar una bofetada’ terminará”, dijo Phil Meyer, abogado de la ACLU de Michigan. “El acuerdo convierte al Departamento de Policía de Detroit de ser el abusador mejor documentado de la tecnología de reconocimiento facial a un líder nacional. en custodiar su uso”.
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluido San Francisco; Austin, Texas; y Portland, Oregon, prohibieron temporalmente su uso debido a preocupaciones de privacidad y prejuicios raciales. El departamento de policía está “muy interesado en utilizar la tecnología de manera significativa para la seguridad pública”, dijo Stephen Lamoureux, jefe de informática de la unidad de inteligencia criminal de Detroit. Detroit, afirmó, “tiene la política más fuerte del país en este momento”.
¿Cómo sale mal?
Williams fue arrestado tras un delito cometido en 2018 Un hombre robó cinco relojes de una boutique del centro de Detroit mientras era grabado por una cámara de vigilancia. Una agencia de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre en comparación con fotografías de la licencia de conducir y fotografías policiales produjo 243 fotografías que el sistema estaba seguro de que eran la misma persona en el video de vigilancia, según documentos publicados como parte de la demanda del Sr. Williams. Una antigua fotografía del Sr. Williams tomada de una licencia de conducir ocupaba el noveno lugar en la lista. El buscador pensó que era la mejor opción y envió un informe a un detective de la policía de Detroit.
El detective incluyó la fotografía del Sr. Williams en una “serie de fotografías de seis paquetes” (imágenes de seis personas en una cuadrícula) que mostró al contratista de seguridad que proporcionó el video de vigilancia de la tienda. Estuvo de acuerdo en que el Sr. Williams era la persona más parecida al hombre de la boutique y eso resultó en una orden de arresto. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando le robaron el reloj, pasó la noche en la cárcel y le recogieron sus huellas dactilares y su ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.
Demandó a Detroit en 2021 con la esperanza de imponer una prohibición de la tecnología para que otros no sufrieran su suerte. Dijo que se molestó el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y robo después de una mala coincidencia de reconocimiento facial. La policía arrestó a la señora Woodruff mientras preparaba a sus hijos para la escuela. También demandó a la ciudad; El caso está en curso.
“Es muy peligroso”, dijo Williams, refiriéndose a la tecnología de reconocimiento facial. “No veo ningún beneficio positivo en ello”.
nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial ha dado lugar a un arresto falso. (Los otros estaban en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dicen que la nueva regulación evitará más abusos. Y son optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
El jefe de policía de Detroit, James White, atribuyó el arresto injusto a un “error humano”. Sus funcionarios, afirmó, dependen demasiado de la tecnología manufacturada. Fue su criterio el que falló, no el de la máquina.
Se espera que la nueva política, que entrará en vigor a partir de este mes, ayude a ello. Según las nuevas reglas, la policía ya no puede mostrar el rostro de un testigo basándose únicamente en una coincidencia de reconocimiento facial.
“Tiene que haber algún tipo de evidencia de respaldo secundaria que no esté correlacionada antes de que haya una justificación suficiente para incluirlo en la lista”, dice La unidad de inteligencia criminal de Detroit, el Sr. La policía necesitará información de ubicación del teléfono, las pelotas o la evidencia de ADN de una persona, más que una coincidencia física.
El departamento también está cambiando la forma en que maneja la selección de fotografías. A esto se le llama toma de secuencia doble ciego, que se considera una forma justa de identificar a alguien. En lugar de presentarle un “six-pack” a un testigo, un oficial, que no sabe quién es el principal sospechoso, presenta una imagen a la vez. Y la alineación incluye una foto diferente de una persona procedente de un sistema de reconocimiento facial.
La policía también debe revelar que se realizó un registro facial, así como la calidad de la imagen del rostro registrado: ¿qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es la cara del sospechoso? — porque es poco probable que una imagen de mala calidad produzca resultados fiables. Tuvieron que revelar la edad de la foto mostrada por el sistema automatizado y si había otras fotos de la persona en la base de datos que no mostraran una coincidencia.
El subjefe de policía de Detroit, Franklin Hayes, dijo que confía en que las nuevas prácticas evitarán futuras identificaciones erróneas.
“Todavía hay cosas que pueden pasar desapercibidas, por ejemplo, los gemelos idénticos”, afirmó Hayes. “Nunca podremos saberlo, pero creemos que ésta sigue siendo nuestra mejor política”.
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit es un excelente punto de partida y debería ser adoptada por otras organizaciones.
“No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que la delincuencia aumente masivamente”, afirmó Ross.
¿Cuánto ayuda?
Identificación de testigos presenciales lleno de esfuerzos, y la policía ha adoptado cámaras y reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
Jefe blanco decir Los legisladores locales dijeron el año pasado que la tecnología de reconocimiento facial “ayudó a sacar de la calle a 16 asesinos”. Cuando se les pidió detalles sobre este asunto, los funcionarios del departamento de policía no dieron detalles de estos casos.
En cambio, para demostrar el éxito del departamento con la tecnología, los funcionarios de policía de Vídeo de vigilancia Un hombre que provocó un incendio al derramar combustible dentro de una gasolinera. Fue identificado mediante tecnología de reconocimiento facial y arrestado esa noche, dijeron. el mas tarde Auto culpable.
El departamento de policía de Detroit es uno de los pocos que monitorea sus búsquedas de reconocimiento facial, según la presentación. Reporte semanal Sobre el uso de un consejo de supervisión. En los últimos años, realizó un promedio de más de 100 búsquedas al año, y aproximadamente la mitad de esas búsquedas apuntaban a posibles coincidencias.
El departamento sólo realiza un seguimiento de la frecuencia con la que obtiene clientes potenciales, no de si se liberan. Pero como parte del acuerdo con Williams, que también recibió 300.000 dólares, según un portavoz de la policía, debe realizar una auditoría de sus búsquedas de reconocimiento facial desde que comenzó a utilizar la tecnología en 2017. Si detecta otros casos en los que las personas fueron arrestadas más allá de las coincidencias faciales y con poca o ninguna otra evidencia de respaldo, el departamento debe alertar al fiscal en cuestión.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones parecían prometedoras, pero se mostraba escéptica.
“Detroit es una ciudad tremendamente monitoreada. Hay cámaras por todas partes”, dijo. “Si toda esta tecnología de vigilancia realmente hace lo que dice, Detroit será una de las ciudades más seguras del país”.
Willie Barton, miembro de la Junta de Comisionados de Policía, un grupo de supervisión que aprobó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se oponía al uso de tecnología de reconocimiento facial por parte de la policía.
“La tecnología aún no está lista”, afirmó Burton. “Un arresto falso es demasiado, y tener tres en Detroit debería hacer sonar la alarma para detenerlo”.
