Roblox y Discord, en el punto de mira por sus fallos de seguridad infantil

Dos de los mayores parques infantiles de Internet, Roblox y Discord, están oficialmente en el punto de mira por la seguridad infantil, y parece que las cosas podrían complicarse.

Las autoridades estatales de Florida y Nueva Jersey han puesto en marcha sendas investigaciones sobre el modo en que estas plataformas protegen (o dejan de proteger) a sus jóvenes usuarios. Roblox, que cuenta con la friolera de 85 millones de jugadores diarios, y Discord, con 200 millones de usuarios mensuales, se enfrentan ahora a presiones legales para que expliquen cómo protegen realmente a los niños, en lugar de limitarse a prometer que lo hacen.

"El fiscal general de Florida, James Uthmeier, ha pedido a Roblox Corp. información sobre cómo comercializa con los niños y sus políticas contra los depredadores".

El objetivo es saber si Roblox hace lo suficiente para evitar las interacciones entre niños y posibles depredadores. Según la oficina de Uthmeier, quieren recibos: políticas de moderación, cómo funciona (o no) la verificación de la edad y lo fácil que es para los niños eludir los controles parentales.

Roblox respondió diciendo:

"Tenemos la intención de cooperar con la oficina del Fiscal General y esperamos compartir todo el trabajo que Roblox hace para ayudar a mantener a los usuarios seguros".

Buena declaración de relaciones públicas, pero el tribunal de la opinión pública ya está zumbando, y no en el buen sentido.

Imagen: Discord

Problemas con Discord

Si Roblox se está calentando, Discord podría estar aún más cerca del fuego.

El fiscal general de Nueva Jersey, Matthew Platkin, acaba de demandar directamente a Discord, acusando a la empresa de engañar a las familias sobre la seguridad real de su aplicación. La demanda afirma que Discord prometió funciones de protección, como filtros de mensajes, pero no las cumplió. Los niños seguían expuestos a cosas horribles: estamos hablando de material de abuso sexual infantil, contenido violento e incluso medios relacionados con el terrorismo.

"Discord engañó a usuarios y padres al exagerar sus funciones de seguridad y no analizó los mensajes ni siquiera entre amigos", dice la demanda.

Vaya.

Aún más condenatoria, la demanda dice que Discord no aplica correctamente su propia regla de edad mínima (supuestamente 13+), por lo que es muy fácil para los niños más jóvenes a deslizarse a través de las grietas.

¿La respuesta oficial de Discord? Bastante defensiva:

"Dado nuestro compromiso con la oficina del Fiscal General, estamos sorprendidos por el anuncio de que Nueva Jersey ha presentado hoy una acción contra Discord".

Traducción: "Espera, ¿nos estás demandando? Creíamos que éramos buenos".

¿Por qué está estallando ahora?

Ambas plataformas han estado intentando arreglar las cosas, al menos sobre el papel.

Roblox afirma que ha lanzado 40 actualizaciones de seguridad sólo en 2024, incluida una importante en noviembre que impide a los menores de 13 años entrar en espacios sociales como clubes virtuales. Discord, por su parte, hizo que su consejero delegado, Jason Citron, testificara ante el Congreso el año pasado sobre la seguridad infantil, justo cuando la empresa se prepara para una posible salida a bolsa.

Pero a mucha gente (y a muchos padres) les parece demasiado poco y demasiado tarde.

Bloomberg's Businessweek informó el verano pasado que Roblox tenía serios problemas para mantener a los depredadores fuera de su plataforma. Desde 2018, la policía estadounidense ha arrestado a más de dos docenas de individuos acusados de preparar o abusar de víctimas que conocieron a través de Roblox. Y las personas con información privilegiada dicen que el problema es enorme, en parte debido a la gran escala de estas plataformas.

"Empleados de Roblox describieron la amplitud del reto que supone vigilar la enorme base de usuarios de la compañía".

Básicamente, incluso con toda la IA, los mods y los sistemas de denuncia en funcionamiento, los malos actores siguen colándose.

"Roblox, Discord mañana"

Tanto Roblox como Discord se enfrentan a graves problemas legales, y la confianza del público está definitivamente en juego.

Si Roblox no puede demostrar que sus sistemas son herméticos, se arriesga a más regulaciones (y a que los padres enfadados retiren a sus hijos). En el caso de Discord, la demanda no sólo podría retrasar su salida a bolsa, sino también hundir su reputación justo cuando está tratando de expandirse más allá de los círculos de los videojuegos para convertirse en una plataforma social más amplia.

También está la cuestión de la responsabilidad. ¿Hasta qué punto deben ser responsables las plataformas cuando actúan más como parques infantiles que como redes sociales tradicionales? ¿Y hasta qué punto es realista vigilar espacios con cientos de millones de usuarios?

Estos casos podrían sentar precedentes importantes sobre la forma en que las aplicaciones gestionan la seguridad infantil en el futuro, no sólo para Roblox y Discord, sino para todo Internet.

No se trata sólo de que dos empresas se metan en problemas. Se trata de quién es responsable cuando las zonas de juego virtuales se vuelven peligrosas.