Mod Assist

¿Por qué integrar Rocket.Chat con la aplicación Mod Assist?

La moderación de contenidos sirve de salvaguardia crucial contra los mensajes dañinos y ofensivos, garantizando el bienestar de los usuarios de la plataforma. Las empresas tienen la responsabilidad moral de proteger a sus usuarios de contenidos inapropiados, mantener la reputación de su marca como un entorno seguro y cumplir la normativa pertinente que obliga a retirar el material ofensivo e ilegal.

Sin embargo, la moderación de contenidos plantea retos, sobre todo debido al enorme volumen de mensajes que se intercambian continuamente en las plataformas de colaboración. Además, los riesgos potenciales de exponer a los moderadores humanos a contenidos dañinos hacen que la moderación manual sea cada vez menos deseable. He aquí algunas limitaciones asociadas a la moderación manual de contenidos:

• Volumen: La rápida proliferación de plataformas de colaboración y el número cada vez mayor de mensajes intercambiados dificultan a las empresas seguir el ritmo del enorme volumen de contenidos que requieren moderación.
• Coherencia: Garantizar la coherencia de las prácticas de moderación en toda una organización puede ser una tarea de enormes proporciones, especialmente cuando intervienen varios moderadores o culturas.
• Precisión: Los moderadores deben tener la capacidad de identificar con precisión los contenidos inapropiados o perjudiciales y tomar decisiones informadas sobre su aprobación o rechazo.
• Rapidez: La moderación de contenidos es una tarea compleja, sobre todo cuando se trata de abordar zonas grises y situaciones ambiguas. Un aspecto clave es la velocidad a la que hay que moderar los contenidos, ya que una actuación rápida puede ayudar a minimizar el impacto de los contenidos inapropiados o perjudiciales.

Normalmente, la moderación de contenidos implica un proceso de dos pasos. En primer lugar, los usuarios denuncian los contenidos que consideran ofensivos o que infringen las directrices del lugar de trabajo. Después, un equipo de moderación revisa y evalúa los mensajes denunciados. El inconveniente de depender únicamente de las denuncias de los usuarios es el riesgo de que los contenidos nocivos pasen desapercibidos, lo que puede dañar la reputación de la plataforma y mermar la confianza de los usuarios.

Aquí es donde entra en juego la moderación automática de contenidos. La aplicación Mod Assist detecta y notifica automáticamente los contenidos inapropiados basándose en reglas de moderación predefinidas dentro de un espacio de trabajo.

Nota: Por razones de privacidad, la aplicación está diseñada para no funcionar en salas privadas por defecto y, en consecuencia, no informará de los mensajes de dichas salas.

Sin embargo, si desea habilitar la moderación para estas salas privadas también, tendrá que admitir individualmente la App en estas salas, como usuario. Recuerde añadir estas salas privadas en la configuración de la aplicación, en la sección donde especifica las salas que la aplicación debe moderar. Esto servirá como autenticación de dos factores para acceder a las salas privadas.

Ventajas de utilizar la aplicación Mod Assist

Esta aplicación ofrece numerosas ventajas, como velocidad, protección y eficacia.

• Mayor eficacia: Al marcar automáticamente el contenido cuestionable, la aplicación agiliza el ciclo de moderación, lo que permite una revisión más rápida y eficiente. Esto reduce la carga de trabajo de los moderadores humanos. De este modo, pueden centrarse en tareas más complejas, como revisar los contenidos marcados o investigar las denuncias de abusos.
• Mayor rapidez: Teniendo en cuenta la rápida proliferación de mensajes intercambiados, depender únicamente de la moderación manual sería poco práctico, ya que requeriría un gran equipo de moderadores humanos y una apretada agenda de trabajo. La principal ventaja de esta aplicación es que ahorra un tiempo muy valioso a los moderadores, ya que les permite centrarse en revisar únicamente los mensajes notificados, en lugar de tener que revisar todos y cada uno de los mensajes y marcar los inapropiados.
• Mayor bienestar: La aplicación desempeña un papel fundamental a la hora de salvaguardar la seguridad y el bienestar mental de los usuarios y los moderadores humanos, ya que detecta rápidamente diversas formas de contenido dañino y ofensivo relacionado con la violencia, el material sexualmente explícito y las actividades potencialmente ilegales.

Los tipos concretos de contenidos que pueden moderarse automáticamente varían en función de las necesidades de cada plataforma y de los recursos disponibles. La aplicación permite detectar y denunciar las siguientes categorías de contenidos inapropiados:

• Toxicidad: cualquier mensaje duro, irrespetuoso, negativo, malicioso, dañino o que incite al odio es tóxico por naturaleza. La aplicación puede identificar y marcar contenidos que contengan intolerancia y mensajes que constituyan intimidación o acoso.
• Blasfemias: se considera blasfemia cualquier mensaje en el que el lenguaje sea malo, abusivo, soez, vulgar u obsceno. La aplicación está capacitada para identificar y marcar los contenidos que contengan blasfemias o lenguaje explícito.
• Riesgo financiero: la aplicación puede identificar y marcar mensajes fraudulentos enviados por estafadores e impostores para engañarte y que divulgues información personal sensible o detalles financieros que pueden conducir al robo de identidad, pérdidas financieras o acceso no autorizado.
• Coqueteo: los mensajes indecentes, íntimos, no deseados e inapropiados pueden considerarse tipos de contenido de coqueteo. 

La aplicación Mod Assist solo estará disponible para los espacios de trabajo que ejecuten la versión 6.3.0 o superior. La aplicación Mod Assist está disponible para todos los planes Premium. Consulta nuestra documentación técnica para empezar a utilizar la aplicación.