Tecno

¿Un problema ético en el desarrollo de las IA?

single-image
 

Es común que las personas se enfoquen en los resultados finales de los proyectos sin ver el proceso, resaltando solo el producto sin considerar los pasos previos para el mismo. Esto tiende a pasar particularmente en el desarrollo de tecnologías, como en el caso del artículo de hoy, la tecnología de Inteligencia Artificial.

El presente artículo cumple con la función de informar sobre un posible problema que ocurre en las líneas de trabajo para las IA, según la investigación de expertos.

Según los investigadores del Instituto AI Now de la Universidad de Nueva York, encontraron que la industria se enfrenta a una escasez de mujeres y emplea a menos personas de color. Esta afirmación la respaldan con el ejemplo de Facebook, donde solo el 15 por ciento del personal de investigación de AI son mujeres, en comparación con el 10 por ciento del personal de Google. Y solo el 2.5 por ciento de la fuerza laboral de Google es negro, comparado con el 4 por ciento en Facebook y Microsoft.

«Hasta la fecha, los problemas de diversidad de la industria de la IA y los problemas de sesgo en los sistemas que construye tienden a considerarse por separado», escribieron los investigadores. «Pero sugerimos que estas son dos versiones del mismo problema: los problemas de discriminación en la fuerza laboral y en la construcción del sistema están profundamente entrelazados».

El estudio publicado el martes fue el resultado de un año de investigaciones de Sarah Myers West, Meredith Whittaker y Kate Crawford de AI Now Institute.

Su investigación surge a medida que la industria tecnológica se enfrenta cada vez más con el tema de los efectos potencialmente discriminatorios de AI. En los últimos años, las investigaciones han demostrado que todo, desde algoritmos en Facebook hasta tecnología de reconocimiento facial producida por Amazon puede discriminar a las minorías, las mujeres y otros grupos considerados como reprimidos.

Los investigadores de AI Now están argumentando que el campo debe canalizar los recursos para atraer una fuerza laboral más diversa, o de lo contrario podrían perpetuar los prejuicios de los investigadores en su mayoría blancos, en su mayoría hombres, detrás de las tecnologías sensibles que se producen en Google, Microsoft, Facebook y universidades en todo el mundo. el mundo.

«A pesar de muchas décadas de»estudios»que evalúan el flujo de diversos candidatos laborales desde la escuela a la industria, no ha habido un progreso sustancial en la diversidad en la industria de la IA», escribieron.

Al enumerar algunos de los ejemplos de IA potencialmente sesgada, los investigadores identificaron instancias en las que los algoritmos de sentencia recomendaron oraciones más duras para los acusados ​​negros, los robots en línea comenzaron a usar «lenguaje racista y misógino» y la tecnología de reconocimiento facial de Uber no funcionó para los conductores trans. Señalaron que actualmente no hay datos sobre la identidad de género de los investigadores de AI.

Los investigadores emitieron una serie de recomendaciones para lidiar con la «crisis» de la diversidad del campo de la IA, que incluye la publicación de más información sobre los sistemas de la IA, que actualmente son notoriamente opacos; probar rigurosamente toda la tecnología de la inteligencia artificial para detectar sesgos; e incluso evaluar si algunas tecnologías deberían producirse.

«Vemos sistemas de AI que replican patrones de sesgo de raza y género que corren el riesgo de profundizar y justificar la desigualdad histórica», dijo Whitaker, cofundador del Instituto AI Now, en un comunicado. «El problema de la falta de diversidad en la tecnología obviamente no es nuevo, pero está llegando a un punto de inflexión nuevo y urgente».

A opinión del autor de la noticia se reconoce que se han realizado avances históricos en el tema de igualdad sin discriminación, considerando los eventos históricos de la humanidad. Sin embargo, como refleja los números e investigaciones de los profesionales, aún existen sesgos que deben romperse.

Se debe resaltar que no se está de acuerdo con todas las medidas aplicadas en la actualidad para disminuir dichas brechas, pero se está mejorando la situación.

¿Tu qué opinas de este tema polémico?


The following two tabs change content below.
Avatar

Jean Pierre Oliveros

Soy estudiante de economía, interesado en la innovación y desarrollo tecnológico, siempre fiel a que mañana será un mejor día.
Avatar

Latest posts by Jean Pierre Oliveros (see all)

Deja un comentario