El drama de seguridad de Roblox tras una tensa entrevista con su CEO

La última entrevista al CEO de ROBLOX ha sacado a la luz las dudas sobre la cultura de seguridad de la plataforma. Roblox ha estado bajo escrutinio durante años, pero las cifras han endurecido esa atención. La empresa cuenta ahora con unos 150 millones de usuarios activos diarios, muchos de ellos niños, y registró una cifra interna anterior de más de 13.000 casos denunciados de explotación infantil en un solo año.

En su comparecencia en el podcast tecnológico Hard Fork, del New York Times, el cofundador y director ejecutivo de Roblox, David Baszucki, fue preguntado directamente por los depredadores que atacan a niños en el servicio. Su decisión de describir ese problema como "una oportunidad" llegó con una fuerza inusitada, porque no se produjo de forma aislada, sino en un contexto de demandas, fallos de moderación y luchas políticas que ya han puesto al límite la confianza de los padres.

Tres estados de EE.UU. -Luisiana, Kentucky y Texas- han presentado demandas alegando que Roblox no ha hecho lo suficiente para proteger a los menores. Más de 20 casos adicionales en tribunales federales alegan que la plataforma permitía la explotación sexual. Al mismo tiempo, Roblox ha puesto en marcha un sistema de estimación de la edad basado en la inteligencia artificial y ha ampliado las restricciones de los chats, y ha presentado estas herramientas como prueba de que se está adelantando a la industria en general.

Los presentadores de Hard Fork, Casey Newton y Kevin Roose, enmarcaron sus preguntas en ese contexto. Cuando Newton le preguntó qué pensaba sobre "el problema de los depredadores en Roblox", Baszucki respondió:

"No lo vemos sólo como un problema, sino también como una oportunidad. ¿Cómo permitimos que los jóvenes construyan, se comuniquen y pasen el rato juntos? ¿Cómo construimos al mismo tiempo el futuro de la comunicación?". - David Baszucki.

El resto de la respuesta dejaba claro que se refería a una oportunidad para innovar en el diseño de la moderación y la comunicación. Sin embargo, la frase convirtió una de las realidades más oscuras de cualquier plataforma infantil en un reto de crecimiento. Para los críticos, reforzó la sospecha de que la dirección de Roblox considera la seguridad como otro problema de ingeniería que optimizar, en lugar de una frontera dura que puede limitar lo que una empresa debe hacer.

A lo largo de la entrevista con el CEO de ROBLOX, Baszucki volvió una y otra vez a la escala como explicación y como escudo. Señaló que los usuarios de Roblox pasan alrededor de 11.000 millones de horas al mes y se refirió a Steal a Brainrot, un juego de éxito que alcanzó los 25 millones de jugadores simultáneos durante el verano, como prueba de lo que puede soportar la infraestructura de la plataforma. A la pregunta de si a los depredadores les ha resultado fácil eludir los filtros, no quiso responder directamente:

"Una de las principales cosas que hacemos es intentar mantener a la gente en nuestra plataforma... siempre intentamos ir por delante". - David Baszucki.

Cuando Newton le preguntó sin rodeos si creía que Roblox tenía un problema de depredadores, Baszucki no admitió la premisa.

"Creo que estamos haciendo un trabajo increíble innovando en relación con el número de personas en nuestra plataforma y las horas, en inclinarnos realmente hacia el futuro de cómo va a funcionar esto". - David Baszucki.

El intercambio cristalizó la tensión. Por un lado, una empresa que lleva casi dos décadas creando herramientas para juegos generados por los usuarios y comunidades, que ahora se apoya en gran medida en el filtrado de IA y la estimación de la edad para gestionar el riesgo. Por otro, un grupo cada vez más numeroso de padres, reguladores, creadores y grupos de defensa de los derechos que afirman que la pregunta básica sigue sin respuesta: ¿es esto suficiente? y ¿quién decide?

Esta cuestión se ha visto agudizada por casos ajenos al podcast. Recientemente, Roblox prohibió la entrada al YouTuber Schlep, un creador que consiguió una gran audiencia organizando operaciones de "caza de depredadores" en espacios de Roblox. Sus vídeos, que según él han dado lugar a múltiples detenciones, fueron retirados y su cuenta se cerró en virtud de las normas de Roblox contra las acciones de vigilancia. Sus partidarios se han unido bajo el hashtag #freeschlep y argumentan que su trabajo puso de manifiesto fallos en los propios sistemas de la empresa. Para ellos, oír al consejero delegado calificar la crisis de los depredadores de "oportunidad" días después de prescindir de uno de los vigilantes más visibles, aunque controvertido, sonó como una mala interpretación del momento.

La presión jurídica también está aumentando. Law By Mike, un popular YouTuber y abogado en ejercicio, ha señalado públicamente sus planes de emprender acciones legales contra Roblox por supuestas lagunas en la protección de menores. Su implicación es importante porque está a caballo entre dos mundos: entiende la mecánica de la gobernanza de las plataformas y se dirige al mismo público de padres y adolescentes que tratan Roblox como un bien común social. Junto con las demandas estatales y federales, su empuje amplía el frente en el que Roblox debe defender su historial.

En la entrevista de Hard Fork, Baszucki intentó cambiar el marco de la gestión de crisis a la arquitectura a largo plazo. Describió el nuevo sistema de estimación de la edad facial -un vídeo selfie que se utiliza para evaluar la edad de un usuario antes de permitirle chatear- como una señal más en una pila que también incluye datos de comportamiento y edad autoinformada.

"Ya hacemos un montón de cosas: Tenemos filtros de texto muy, muy buenos; no se comparten imágenes; hacemos un montón de controles. Pero añadir una señal más a todo eso puede ayudarnos mucho a tomar decisiones interesantes". - David Baszucki.

Argumentó que la plataforma ha cambiado históricamente algo de crecimiento por seguridad filtrando mucho el texto, invocando el viejo meme del chat de Roblox que se colapsaba en "hashtag, hashtag, hashtag" cuando se bloqueaban las palabras prohibidas. Con la IA, dijo, los filtros pueden ser más precisos y resistentes frente a tácticas adversas, como los usuarios que intentan codificar datos de contacto mediante frases cifradas.

El podcast, producido como parte de la cartera de podcasts de The New York Times, no permaneció mucho tiempo en ese carril técnico. Roose sacó a colación un informe de 2024 de Hindenburg Research en el que se acusaba a Roblox de "comprometer la seguridad de los niños para reportar crecimiento a los inversores" y se apuntaba a una reducción del gasto en confianza y seguridad. Baszucki descartó la firma con una carcajada. "Divertido. Sigamos por este camino", dijo, señalando que Hindenburg había quebrado desde entonces y argumentando que el cambio a sistemas de revisión por IA equivale a pasar de coches fabricados a mano a una cadena de montaje. No se trata de recortar gastos, sino de aplicar mejores herramientas.

Este énfasis en la IA sitúa a Roblox en una categoría familiar. Las redes sociales pasaron gran parte de la década de 2010 prometiendo que los sistemas automatizados limpiarían el abuso y la desinformación a gran escala, sólo para descubrir los límites de lo que el aprendizaje automático puede juzgar de forma fiable. Roose y Newton recordaron a Baszucki esa historia. Éste respondió insistiendo en que las métricas internas de Roblox muestran que el filtrado y la detección mejoran a medida que se despliegan nuevos modelos, y que la escala "alucinante" de la plataforma hace que ese tipo de automatización no sólo sea eficiente, sino necesaria.

Incluso dentro de los juegos, la postura moderadora de Roblox está sometida a presión. Grupos de defensa como Women In Games, Out Making Games y BAME in Games publicaron recientemente una carta abierta en la que critican el borrador de las normas de creación de la empresa en torno a "temas delicados". "Las directrices para creadores propuestas recientemente por Roblox en relación con los 'temas sensibles' representan un paso atrás tanto para la expresión creativa como para la justicia social", argumentaba la carta, advirtiendo de que tratar temas como la igualdad de género, los derechos reproductivos y la justicia racial como zonas "sensibles" opcionales o arriesgadas corre el riesgo de enterrar historias que importan a los jugadores jóvenes. - Women In Games, Out Making Games y BAME in Games.

Esta crítica no se centra en los depredadores ni en los controles de edad, pero se refiere a la misma preocupación subyacente: quién establece los límites de lo que los usuarios jóvenes pueden ver y debatir, y a qué comodidad sirven esas decisiones.

La conversación sobre el Hard Fork se trasladó finalmente a Polymarket, una plataforma de predicción basada en criptomonedas que Baszucki elogió como una poderosa señal de información. Cuando Roose le preguntó, medio en broma, si alguna vez pondría un mercado de predicciones dentro del propio Roblox, Baszucki respondió afirmativamente, y luego reconoció la complejidad legal. Preguntado sobre si convertir los mercados de predicción en un juego para niños sería una "idea horrible", contestó:

"Bueno, en realidad creo que es una idea brillante si se puede hacer de una forma educativa que sea legal... simplemente un juego llamado el Pronosticador de Vestir para Impresionar, donde no se trate de conseguir el dinero de los niños ni nada por el estilo. Yo sería un gran fan de ello". - David Baszucki.

Para una empresa que ya está siendo examinada por cómo trata a los menores, la idea de construir un motor de predicción gamificado dentro de Roblox, incluso sin apuestas financieras directas, será difícil de separar de debates más amplios sobre cajas de botín, mecánicas de juego y compulsión digital.

En varios momentos, Newton observó que la conversación parecía tensa. Baszucki insistió en que no se sentía frustrado, sólo sorprendido de que la atención se centrara en la seguridad y no en temas más ligeros de la industria, y describió repetidamente la posición de Roblox como una "situación de alta responsabilidad" que es también una "oportunidad increíble". Rechazó la imagen de un director ejecutivo que se pasa el día mirando por encima del hombro, argumentando que la empresa ha sido preventiva en materia de seguridad "desde el primer día", incluso deteniendo el crecimiento en sus primeras semanas para crear herramientas básicas de moderación.

Esa confianza se mantuvo hasta el final de la entrevista con el CEO de ROBLOX, cuando Roose planteó una pregunta personal: si Roblox sería lo bastante seguro para cuando su propio hijo le pidiera jugar. Baszucki fue más allá de un simple sí.

"Roblox es una plataforma increíble ahora mismo para tu hijo", dijo, ofreciéndose a mostrar métricas internas bajo secreto profesional si era necesario y añadiendo que los padres siguen siendo "el árbitro último de la responsabilidad." - David Baszucki.

La respuesta capta la postura de la empresa en miniatura. Roblox se posiciona como una empresa puntera, más segura que muchas de sus competidoras, que ya utiliza herramientas que otros acabarán adoptando. La cuestión no resuelta es si esa autoevaluación coincide con la experiencia de las familias que han visto surgir casos de grooming o explotación en la plataforma, o de los creadores y defensores que dicen que sus propias advertencias fueron ignoradas hasta que las demandas y los titulares forzaron una respuesta.

Nada de esto borra lo que Roblox ha construido. La plataforma desempeña un papel de mantenimiento en la economía más amplia de los juegos en línea: es a la vez un conjunto de herramientas creativas y un centro social masivo donde los niños aprenden cómo funcionan las comunidades en línea, para bien y para mal. El episodio de Hard Fork muestra lo frágil que puede ser esa posición cuando la confianza se tambalea. Las declaraciones de Baszucki no aportaron nuevos datos sobre los sistemas de seguridad de Roblox, pero sí revelaron cómo la dirección de la empresa clasifica sus prioridades. La innovación, la escala y la visión a largo plazo de la plataforma se sitúan en el centro; el reconocimiento claro del daño se sitúa más cerca del borde.

Lee también, Roblox supera los 100 millones de usuarios activos diarios, un hito que subraya lo rápido que ha crecido la audiencia de la plataforma y por qué cada decisión sobre seguridad, moderación y política tiene ahora consecuencias que van mucho más allá de una simple entrevista con el CEO de ROBLOX.