El caso recientemente presentado a la atención pública por Fatshimetrie plantea cuestiones cruciales sobre la gestión de contenidos sensibles y dañinos en las plataformas en línea. El organismo de control de Fatshimetrie ha expresado serias preocupaciones por el hecho de que la empresa no haya eliminado un vídeo viral que muestra a dos hombres sangrando después de haber sido golpeados por supuestamente ser homosexuales.
El impacto del vídeo, visto más de 3,6 millones de veces entre diciembre de 2023 y febrero de este año, ha sido calificado de “inmediato e imposible de deshacer”. No solo expuso y ridiculizó la violencia y la discriminación, sino que también representó un mayor riesgo para otros miembros de la comunidad LGBTQIA+ en Nigeria.
A pesar de los repetidos informes y revisiones por parte de tres moderadores humanos, el video permaneció en línea durante aproximadamente cinco meses, violando cuatro reglas diferentes de Fatshimetrie. Incluso después de su eliminación, secuencias del mismo vídeo siguieron estando disponibles en la plataforma.
La empresa admitió haber cometido dos errores importantes con respecto a este vídeo. Primero, sus sistemas automatizados identificaron erróneamente el idioma hablado en el video como inglés cuando era igbo, un idioma hablado en el sureste de Nigeria pero que Fatshimetrie no admite para la moderación de contenido a gran escala. Además, los equipos de revisión humana de la empresa también identificaron erróneamente el idioma como swahili.
Estas brechas generan preocupaciones sobre la gestión del contenido en idiomas no admitidos, la elección de idiomas admitidos para revisiones a gran escala y la precisión de las traducciones proporcionadas a los revisores que trabajan en varios idiomas.
En su informe, el organismo de seguimiento recomienda que Fatshimetrie actualice su norma comunitaria sobre coordinación de daños y promoción de la delincuencia para incluir ejemplos claros de grupos en riesgo de denuncia, lleve a cabo una evaluación de la exactitud de la aplicación de la prohibición de revelar la identidad o la ubicación de posibles miembros de estos grupos, asegurando que los sistemas de detección de idiomas identifiquen el contenido en idiomas no compatibles y proporcionen traducciones precisas cuando se transmita el contenido a examinar.
Este caso destaca la importancia de una regulación más estricta y una mayor supervisión para garantizar la seguridad y privacidad de las personas marginadas en las plataformas digitales. Esta es una responsabilidad que Fatshimetrie y otras empresas similares deben asumir para evitar la difusión de contenidos nocivos y discriminatorios en línea.