PyE
(Reuters) – Mientras la plataforma de juegos en línea Roblox Corp enfrenta una demanda que alega que permitió la explotación de una niña de California, su científico jefe dijo que encontrar contenido peligroso en el mundo virtual de la compañía no es nada como detectarlo en un video.
«Es un gran desafío moderar 3D», dijo Morgan McGuire en una entrevista en la conferencia Momentum de Reuters en Austin el martes. No hizo comentarios sobre la demanda reciente, pero dijo que Roblox se construyó teniendo en cuenta la seguridad y el civismo.
Roblox, con sede en San Mateo, California, está implementando bots para patrullar los juegos generados por los usuarios y presionar botones para detectar cualquier contenido peligroso que los jugadores hayan disfrazado.
“Esto es más como cerrar los bares clandestinos”, dijo, refiriéndose a los bares de la época de la prohibición en Estados Unidos que se esconden de las fuerzas del orden.
BBC informó este año que los usuarios habían creado espacios privados explícitos, conocidos como «condominios», donde los avatares digitales de las personas podían tener sexo virtual.
McGuire dijo que la compañía puede eliminar contenido inapropiado en minutos gracias al software de inteligencia artificial y a los moderadores. Lo que escapa al escrutinio no es «terriblemente malo», sino más bien una violación de los términos, dijo.
Aún así, una demanda presentada la semana pasada alega que hombres adultos en Roblox se conectaron con una niña, que nació en 2009, y la empujaron a registrarse en Discord, Snapchat de Snap Inc y Instagram de Meta Platforms Inc para hablar con ellos. La demanda alega que la empujaron a beber, abusar de medicamentos recetados y enviar imágenes explícitas, lo que luego precipitó intentos de suicidio.
McGuire dijo que Roblox prohíbe a los usuarios publicar números de teléfono o enlaces fuera de la plataforma. Pero a medida que crece el impulso para conectar mundos dispares en una realidad digital alternativa llamada metaverso, Roblox se está involucrando con un consorcio de empresas sobre cómo podrían trabajar juntas frente a diferentes estándares, dijo.
«Un verdadero desafío cuando empezamos a mirar el concepto de metaverso abierto es que queremos poder preservar lo que hemos construido y no simplemente permitir que cualquier cosa ingrese a nuestra plataforma», dijo.
