Noticias

Instagram utilizará IA para evita el acoso en la red social

single-image

El año pasado, Instagram introdujo un filtro de comentarios mejorado que utiliza el aprendizaje automático para detectar palabras y frases ofensivas en contextos difíciles. Ahora, la compañía está expandiendo una cobertura similar a las fotos y los subtítulos.

La gigante de las redes sociales anunció que utilizará la inteligencia artificial para “detectar de forma proactiva la intimidación” antes de que sean enviados los contenidos para una segunda revisión por parte moderadores humanos para una revisión final.

La nueva función se lanzará a los usuarios en las próximas semanas, y se lanzará a tiempo para el Mes Nacional de Prevención del Acoso Escolar de octubre en los Estados Unidos y justo antes de la Semana contra el acoso escolar en el Reino Unido. La misma tecnología también se está agregando a los vídeos en vivo para filtrar los comentarios allí también.

Este es el primer anuncio de producto bajo el nuevo CEO de Instagram, Adam Mosseri, quien asumió el control tras la apresurada partida de los cofundadores Kevin Systrom y Mike Krieger el mes pasado.

Dado que la confianza pública en Facebook sigue cayendo, Instagram sigue siendo el punto brillante en la línea de productos de la compañía. Es popular, rentable y aún no se ha visto afectada por los escándalos que han socavado a Facebook. En este contexto, es extremadamente importante utilizar la inteligencia artificial para ayudar a eliminar el contenido ofensivo y mantener a Instagram como un hogar con buenas vibras.

La IA es económica de implementar a gran escala, sí, pero todavía tiene problemas para lidiar con el contexto y los matices humanos. Por eso es bueno que estos nuevos filtros de acoso también envíen contenido a los moderadores humanos para realizar la comprobación final. La automatización sin supervisión podría ser una receta para el desastre.

Un dato curioso es que Instagram dice que no solo se analizan las leyendas de las fotos para identificar el acoso escolar, sino también la foto en sí.

Por otro lado, junto con los nuevos filtros, Instagram también está lanzando un “efecto de cámara de bondad”, que parece ser una manera de difundir un mensaje positivo como un método para aumentar la participación de los usuarios.

Mientras usa la cámara trasera, los efectos llenan la pantalla con una superposición de “comentarios amables en muchos idiomas”. Cambie a su cámara frontal, y obtendrá un brillo de corazones y un educado aliento para “etiquetar a un amigo que desea apoyo”.

 
The following two tabs change content below.
Andreina Iglesias

Andreina Iglesias

Soy estudiante de economía UCV y me encuentro en una constante búsqueda de nuevos conocimientos. Sapere Aude

Deja un comentario