Cómo desarrollar políticas comunitarias para un entorno virtual seguro y sin acoso

Si el acoso en los mundos virtuales es similar a lo que la gente tiene que soportar ahora, nadie querrá pasar mucho tiempo en estos espacios. Tiffany Xingyu Wang, jefa de estrategia y marketing de Spectrum Labs, predice que el acoso y los ataques personales que el 41% de los usuarios de Internet en EE. UU. han experimentado en línea empeorarán en los mundos virtuales. Esto incluye desde insultos y humillaciones intencionadas hasta amenazas físicas y acoso.

"El metaverso es inmersivo y multisensorial, lo que hace que el impacto sea mucho mayor", dijo. "El tiempo necesario para que aparezca la toxicidad es mucho más corto".

Wang cree que podría ser demasiado tarde para que las plataformas de redes sociales existentes resuelvan el problema del acoso en línea. Ella ve el creciente número de mundos virtuales como una oportunidad para que la industria tecnológica lo haga bien esta vez. Las empresas que construyan comunidades seguras y responsables tendrán una ventaja competitiva en el metaverso.

"Las empresas pueden comenzar con la seguridad desde el diseño y utilizarla como un diferenciador para atraer a las personas de esa manera", dijo. "Las nuevas plataformas ganarán porque hacen esas cosas muy bien".

Además de proteger a los residentes del metaverso contra el robo y las estafas financieras, también deben existir protecciones básicas de seguridad personal.

Cómo el IIoT y la analítica predictiva pueden ahorrar millones a las empresas

Evitar repetir los problemas de la Web 2.0 significa desarrollar un código de conducta compartido que incluya consecuencias por infringir esas reglas. Spectrum ayuda a las empresas a construir infraestructuras de IA para establecer confianza y seguridad en sitios web de varios sectores, incluidas las redes sociales, las citas, los juegos, el comercio electrónico y la tecnología educativa. Los clientes utilizan las herramientas de moderación de contenido de la empresa para identificar discursos de odio, racismo, abuso sexual infantil y otro contenido que viola los acuerdos de servicio.

Wang dijo que las políticas de la comunidad son más que una póliza de seguro o un centro de costos inevitable.

"Puede ser la razón por la que las personas vienen a tu comunidad, lo que puede reducir el costo de adquisición de clientes y aumentar la retención", dijo. "Hay un caso comercial para la confianza y la seguridad".

Cómo desarrollar políticas de comunidad

Cualquier corporación, individuo u organización que administre una comunidad inmersiva en línea deberá priorizar la redacción de políticas sólidas y hacer cumplir esas reglas de comportamiento, según Wang. La clave está en hacer bien ambas tareas.

"A menudo, cuando vemos escándalos, el problema es que las empresas tienen políticas pero no las hacen cumplir", dijo.

Cómo superar la resistencia de los empleados a la transformación digital

La Trust & Safety Professional Association es una organización sin fines de lucro para profesionales que desarrollan e imponen principios y políticas de comportamiento y contenido en línea.

Wang dijo que las compañías de juegos y redes sociales son pioneras en este espacio, pero que la pandemia aceleró el interés en el trabajo que está haciendo la Fundación Trust and Safety.

Otro aspecto clave para el éxito es redactar un código de conducta diseñado para el grupo que utiliza la plataforma. Por ejemplo, las políticas para un sitio de citas LGBTQ serían muy diferentes a las de un sitio de juegos diseñado para niños de 9 a 13 años.

"Las empresas que hacen esto bien contratan a un equipo de políticas para trabajar con marketing y comunicaciones para redactar una política que refleje la identidad de la marca", dijo.

Las políticas de la comunidad también guían las consecuencias apropiadas para las personas que infringen esas políticas, dijo Wang.

"No se pueden establecer reglas de cumplimiento sin conocer el código de conducta fundamental", dijo.

El 98% de los líderes empresariales consideran crítico el éxito en la entrega de servicios digitales

Spectrum incorpora reglas en la moderación y las hace cumplir y automatiza mediante inteligencia artificial. Este enfoque significa que los moderadores tienen menos exposición a contenido violento y ofensivo.

El otro componente vital para crear una comunidad en línea segura es la transparencia, dijo Wang.

"Si tomas medidas, si suspendes a un usuario o sacas a una persona de la plataforma, debes relacionarlo con la política", dijo.

Wang recomendó un nuevo documento técnico de Grindr como un buen ejemplo de cómo desarrollar estrategias de moderación de contenido. Tres líderes de confianza y seguridad en Grindr escribieron el documento "Mejores prácticas para la moderación de contenido inclusivo de género", que examina diversas decisiones de moderación de contenido y los múltiples factores a considerar al establecer políticas.

Los expertos en confianza y seguridad Vanity Brown y Lily Galib, y Alice Hunsberger, directora senior de experiencia del cliente en Grindr, explican cómo diseñar políticas integrales, revisar las mejores prácticas para una moderación inclusiva y ofrecer recursos para moderadores y usuarios.

¿Quién establece las reglas en los mundos virtuales?

Los problemas de migración a SAP S/4HANA causan una caída del 25% en las ventas de Haribo en 2018

Esa necesidad de un código de conducta compartido está relacionada con el problema de seguridad: ¿Quién está a cargo aquí? Según lo describe Ahmer Inam, director de inteligencia artificial de Pactera Edge, parte del desafío es que no hay una entidad de aplicación clara para las reglas del metaverso.

"Los mundos virtuales son completamente sin fronteras, entonces, ¿qué leyes se aplican?", dijo.

Nadie quiere extender las tendencias autoritarias de muchos gobiernos a cualquier mundo multiverso. Sin embargo, si el robo, las estafas y la criminalidad general están presentes en todos estos lugares virtuales, eso también desalentará una mayor adopción.

Inam cree que una asociación entre entidades públicas y privadas debería desarrollar un conjunto compartido de reglas sobre cualquier mundo del metaverso.

Él ve potencial en aprender de las preocupaciones sobre la energía nuclear que llevaron a tratados internacionales para gobernar la tecnología con la confiabilidad como principio organizador central.

Inam predice que una vez que las industrias reguladas comiencen a construir experiencias del metaverso, las regulaciones llegarán más rápido. También cree que los códigos éticos de IA podrían expandirse para abarcar el metaverso, pero eso requerirá una asociación entre la industria y el gobierno.

6 tendencias tecnológicas emergentes que transformarán los negocios en 2019 y más allá

"El crecimiento del metaverso podría acelerar no solo la tecnología, sino también una declaración de derechos individuales y privacidad debido al potencial de daño que existe", dijo. "Como tecnólogo, estoy emocionado por lo que está por venir, pero como ciudadano de nuestra sociedad, estoy un poco preocupado".

La pandemia mostró que la conectividad a Internet es tan importante como la electricidad, y provocó inversiones gubernamentales para expandir el acceso a comunidades sin acceso de alta velocidad. James Arlen, CISO de la empresa de servicios de bases de datos Aiven, cree que algo similar sucederá con las identidades digitales.

"Las identidades deberían ser federadas fuera de una empresa digital con fines de lucro", dijo.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Transformación Digital, allí encontraras muchos artículos similares a Cómo desarrollar políticas comunitarias para un entorno virtual seguro y sin acoso , tenemos lo ultimo en tecnología 2023.