La presencia de los trolls en las redes sociales se ha vuelto parte de la vida cotidiana en las plataformas. Este tipo de usuarios se dedican a escribir mensajes con la intención de agredir, acosar e intimidar a otras personas.
Ya sea en Facebook, Instagram o Twitter, el número de trolls ha crecido tanto como la relevancia de estas redes sociales. Sin embargo, estos usuarios han sido el motivo de que miles de personas, sin importar su número de seguidores, decidieran cerrar sus cuentas, algo que sin duda alguna afecta el negocio de las plataformas sociales.
Por ello, este martes, Instagram anunció que utilizará la Inteligencia Artificial (AI, por sus siglas en inglés) para detectar proactivamente el bullying en las fotografías y títulos publicados por los usuarios.
Esta es la primera acción que toma la empresa ahora dirigida por Adam Mosseri, quien se refirió al tema a través de una entrada en el blog de la compañía. “No hay lugar para la intimidación en Instagram. El filtro para fotos y títulos se desplegará en las próximas semanas”, expresó.
“Si las personas ven ese tipo de comportamiento perjudicial en nuestra plataforma, pueden reportarlo y lo eliminamos. Pero la intimidación en línea es compleja, y sabemos que tenemos más trabajo que hacer para limitar aún más la intimidación y difundir la bondad en Instagram. Ahora estamos utilizando tecnología de aprendizaje automático para detectar de forma proactiva el acoso escolar en las fotos y sus subtítulos y enviarlos a nuestro equipo de Operaciones de la Comunidad para que lo revisen”, agregó.
Esta nueva característica de Instagram será similar a lo que hace Facebook, la red social de Zuckerberg utiliza IA para detectar estas pacíficas antes de hacerlas llegar a moderadores humanos. Twitter es otra red social que reforzó su estrategia para identificar y clasificar a todas aquellas cuentas con comportamiento conocido como tipo Troll.
