Rekognition Facial: Empleados de Amazon discrepan de su venta a los cuerpos Policiales

La tecnología de reconocimiento facial de Amazon ha generado controversia durante su desarrollo, con crecientes preocupaciones hacia un sesgo conocido en el aprendizaje automático y la privacidad.

Con Amazon en la cúspide de la concesión de licencias de su tecnología de Rekognition, llamada apropiadamente a las fuerzas del orden de los EE.UU., los empleados ahora se expresan en contra del esfuerzo y lo llaman “poco ético” y “peligroso”.

Usando Medium, un presunto empleado anónimo verificado por la editorial de ese importante medio; reprendió la tecnología de ‘Big Brother’, afirmando que 450 colegas ya han escrito al CEO Jeff Bezos en protesta. Si bien su intención es permitir que la policía busque automáticamente a las personas de interés, agilizando el proceso de arresto, el reconocimiento facial en tiempo real a través de millones de rostros también fortalece los esfuerzos autoritarios.

“Nuestra preocupación no es sobre algún daño futuro causado por alguna otra compañía: Amazon está diseñando, comercializando y vendiendo un sistema para vigilancia masiva peligros en este momento” afirma el empleado anónimo

“El sitio Web Amazon se jacta de la capacidad del sistema para almacenar y buscar decenas de millones de caras a la vez. La policía ya ha comenzado a usar el reconocimiento facial prácticamente sin supervisión pública, debate o restricciones de uso de Amazon”.

Más allá de las preocupaciones de privacidad viene el sesgo racial y de género identificado en la tecnología Gran parte de lo que el empleado describe se hace eco de lo que la Unión Americana de Libertades Civiles (ACLU, por sus siglas en inglés) dijo originalmente en mayo, como se muestra a través de múltiples “personas de interés” falsamente marcadas.

“El producto que estamos vendiendo es una tecnología defectuosa que refuerza el sesgo existente. Los estudios han demostrado que es más probable que el reconocimiento facial identifique erróneamente a las personas con piel más oscura”, continúan.

“Incluso si estas inexactitudes fueran corregidas, aún sería irresponsable, peligroso y poco ético permitir que el gobierno use este software. Los sesgos existentes que produjeron este sesgo existen dentro de una sociedad más amplia y nuestro sistema de justicia. El uso de reconocimiento facial solo reproducirá y amplificará los sistemas existentes de opresión”.

La compañía aún tiene que entregarse públicamente a la conversación en curso, a pesar de la publicación que afirma que “Bezos es consciente” de las preocupaciones. En cambio, Amazon acaba de ingresar su segunda fase de prueba de reconocimiento después de que las quejas iniciales detuvieron el juicio en Orlando.

Queda por verse cómo Amazon evitará el uso indebido de su tecnología, en el que “el daño será extremadamente difícil de deshacer” una vez que se implemente la vigilancia. En cambio, Bezos supuestamente sugiere “esperar la ‘respuesta inmune’ de la sociedad”.

Es importante la mención iniciada por el autor en el inicio del articulo y la cual vale la pena resaltar: “Cuando una empresa pone las nuevas tecnologías en el mundo, tienen la responsabilidad de pensar en las consecuencias”.

Sin duda alguna, a pesar del éxito en ventas de este programa y de la utilidad quizás pensada en el gigante americano sobre el “bien” de la justicia, la realidad es que ante las fallas demostradas por IBM por ejemplo, en los algoritmos de IA, así como la cuestionable ética de éstos al momento del sesgo del género y color, sería un reto aún importante por mejorar para todos los desarrolladores de este tipo de tecnología con el fin de hacerlo mas preciso y evitar complicaciones futuras, por que al fin y al cabo la tecnología está ahí para mejorar nuestras vidas, no para degradarlas.