Roblox presenta herramientas de inteligencia artificial para la seguridad infantil que los padres deberían conocer

Si su hijo juega a Roblox, es muy probable que muchos de sus amigos también lo hagan. Roblox registró una media de 123 millones de usuarios activos diarios durante el segundo trimestre de 2026. Casi tres cuartas partes de sus usuarios cuya edad ha sido verificada son menores de 18 años. Con ese alcance, uno de los mayores riesgos a los que puede enfrentarse un niño puede comenzar con una conversación que parezca totalmente inofensiva. Alguien le pregunta qué juegos le gustan. Más tarde, esa persona quiere saber en qué otros sitios chatea. Finalmente, le sugiere trasladar la conversación a otra aplicación. Esa progresión debería resultar familiar a los padres que hayan seguido casos de captación en línea.

A principios de este año, informamos sobre un inquietante caso de seguridad infantil en Roblox en el que estaban implicadas dos niñas, de 12 y 14 años. Los investigadores afirmaron que un hombre de Nebraska se puso inicialmente en contacto con ellas a través de Roblox antes de que las conversaciones se trasladaran a Snapchat. Las autoridades describieron el caso como captación de menores en línea. Ahora, Roblox está dando a conocer parte de la inteligencia artificial que utiliza para detectar comportamientos que puedan dar lugar a situaciones peligrosas.

El 19 de agosto, Roblox anunció que aportará versiones actualizadas de tres modelos de seguridad a la comunidad de modelos «Robust Open Online Safety Tools» (ROOST). La empresa también publicará un nuevo conjunto de datos de evaluación para que otras plataformas puedan poner a prueba sus propios sistemas de seguridad. Para los padres, los detalles técnicos importan menos que lo que estas herramientas pretenden detectar. Se centran en los intentos de obtener información personal, en indicios de posible peligro para los menores y en comportamientos inapropiados en el chat de voz. A continuación le explicamos cómo funcionan estas nuevas herramientas de seguridad basadas en IA, qué podrían significar para su hijo y qué puede hacer ahora mismo para ayudar a que sus hijos estén más seguros en Internet.

¡Novedad! Clase gratuita en directo de CyberGuy: Proteja su dinero frente a las mayores amenazas actuales

Únase a nosotros el sábado 29 de agosto a las 10:00 h (hora del Este) para asistir a una clase gratuita en directo de CyberGuy en la que se tratarán cinco sencillos pasos que le ayudarán a protegerse contra las estafas basadas en la IA, el fraude, el robo de identidad y los ataques financieros. Kurt «CyberGuy» Knutsson le explicará cómo configurar alertas bancarias, reforzar los datos de acceso a sus cuentas, proteger su número de teléfono, congelar su crédito y proteger sus ahorros para la jubilación frente a transferencias no autorizadas. No se necesita experiencia técnica. Además, recibirá nuestra lista de verificación de protección financiera, y todos los inscritos obtendrán posteriormente un enlace a la grabación de la clase.

Reserve hoy mismo su plaza gratuita en CyberGuyLive.com.

Por qué Roblox comparte su IA para la seguridad infantil

Roblox ya utiliza versiones de estos sistemas de IA en su propia plataforma. Ahora, otras empresas pueden estudiarlas y, potencialmente, adaptarlas a sus propios servicios. Roblox se unió a ROOST como miembro fundador en 2025 junto con Google, OpenAI, Discord y otras empresas. ROOST se centra en poner a disposición de las organizaciones —que quizá carezcan de los recursos para desarrollar por sí mismas sistemas sofisticados— tecnología de seguridad en línea de código abierto.

Piense en la cantidad de lugares en los que los niños se comunican en línea hoy en día. Una conversación puede comenzar dentro de un juego. A continuación, puede trasladarse a una aplicación de mensajería u otra plataforma social con diferentes medidas de protección. Ninguna empresa controla por sí sola todo ese recorrido.

Compartir tecnología de seguridad podría permitir que más servicios tuvieran acceso a herramientas diseñadas en torno a señales de alerta similares. Sin embargo, cada empresa debe adoptar la tecnología y adaptarla a su propia plataforma. Por lo tanto, considero que se trata de un avance alentador, pero los padres no deben tomarlo como una razón para bajar la guardia.

La IA de Roblox detecta intentos de sacar a los niños de la plataforma

Una de las novedades más interesantes para las familias tiene que ver con el Clasificador de PII de Roblox. PII son las siglas de «información de identificación personal». Esto puede incluir un número de teléfono, una dirección de correo electrónico, un nombre de usuario en redes sociales u otra información que pudiera ayudar a alguien a identificar o ponerse en contacto con un niño.

El clasificador también detecta intentos de dirigir a los jugadores hacia otras plataformas. Esto es importante porque alguien con malas intenciones podría intentar desviar una conversación de la plataforma en la que se inició.

Los filtros anteriores solían buscar palabras o patrones evidentes. En cambio, la versión 2.0 de Roblox analiza el contexto de la conversación. Por ejemplo, alguien podría escribir deliberadamente mal el nombre de otra aplicación. Podría dividir la información de contacto en varios mensajes. Otros podrían utilizar un lenguaje codificado con la esperanza de que el filtro no lo detecte. La IA actualizada evalúa esos mensajes en su conjunto.

Roblox afirma que la versión 2.0 ha ampliado el soporte lingüístico de 17 a 189 idiomas. La empresa también informa de que su puntuación F1 —una forma habitual de medir la precisión de un clasificador— ha mejorado de 63,41 a 90,52. Para un padre o una madre, la conclusión es mucho más sencilla. El sistema intenta comprender hacia dónde se dirige una conversación, en lugar de juzgar cada mensaje por separado.

Por qué trasladar a un niño a otra aplicación puede ser una señal de alerta

Esta es una parte del comunicado que me llamó especialmente la atención. Pedir otro nombre de usuario o sugerir cambiar a otra aplicación puede parecer algo inocente. Los niños cambian de plataforma constantemente. Sin embargo, trasladar una conversación también puede reducir las medidas de protección que la rodean.

Eso es lo que hizo que el caso de Nebraska del que hablamos anteriormente resultara tan inquietante. Las autoridades afirmaron que el contacto inicial se produjo en Roblox antes de que la comunicación continuara en Snapchat.

Los padres deberían abordar este tema de forma específica en casa. Si alguien a quien su hijo solo conoce por Internet empieza a pedirle otro nombre de usuario, un número de teléfono o una forma privada de comunicarse, su hijo debe saber que debe decírselo a usted.

La IA detecta situaciones de riesgo para los menores antes de que los mensajes se vuelvan explícitos

Roblox Sentinel aborda un problema aún más complejo. El posible acoso sexual a menores puede desarrollarse de forma gradual. Alguien puede ganarse la confianza antes de que la conversación se vuelva claramente inapropiada. Esto significa que los primeros mensajes pueden parecer normales si se analizan por separado.

Sentinel analiza los patrones a lo largo de las conversaciones. Roblox afirma que el sistema busca señales tempranas de un posible peligro para los menores, de modo que las interacciones sospechosas puedan revisarse antes de que se agraven. A continuación, los revisores humanos pueden dar prioridad a las conversaciones que puedan requerir la adopción de medidas.

Roblox afirma que, durante los 12 meses que finalizaron el 7 de agosto de 2026, casi el 70 % de los casos de peligro para la infancia que detectó procedían de la detección temprana de Sentinel.

Roblox Sentinel se actualiza

Roblox también lanza la versión 2 de Sentinel. Los cambios están dirigidos principalmente a los desarrolladores y a los equipos de seguridad que utilizarían esta tecnología. La nueva versión les ofrece más formas de evaluar comportamientos sospechosos y determinar qué configuración funciona mejor para su plataforma.

Roblox afirma que la versión 2 también puede proporcionar más información sobre los motivos por los que un elemento ha recibido una puntuación concreta. Esto podría ayudar a los equipos a comprender qué es lo que detecta el sistema, en lugar de recibir únicamente una advertencia con escaso contexto.

La empresa afirma que la actualización también agiliza considerablemente las pruebas y el ajuste del sistema. Para los padres, sin embargo, lo más importante es que Roblox desea que otras plataformas adopten esta tecnología y la utilicen para sus propios sistemas de seguridad.

El chat de voz cuenta con otra capa de moderación basada en IA

Los mensajes de texto son solo una parte del panorama. Los niños también pueden comunicarse a través del chat de voz, lo que plantea un reto de moderación diferente. El clasificador de seguridad de voz de Roblox analiza el discurso en tiempo real para detectar infracciones de las normas. Cuando el sistema detecta una infracción, Roblox puede mostrar una advertencia en la que se explique qué norma se ha infringido.

Las infracciones repetidas pueden dar lugar a una suspensión temporal del chat de voz de hasta cinco minutos. Las infracciones más graves pueden acarrear consecuencias más severas. Roblox afirma que su clasificador de seguridad de voz se ha descargado más de 72 000 veces desde que la empresa lo convirtió en código abierto por primera vez en 2024. La versión 3 abarca ahora 30 idiomas y ocho categorías de infracciones. Roblox informa de una tasa de recuperación del 61 % en todos esos idiomas cuando opera con una tasa estricta de falsos positivos del 1 %. Esa cifra también sirve para recordar que la moderación basada en IA puede pasar por alto algunos aspectos. Ni siquiera un modelo de seguridad sofisticado puede detectar todas las conversaciones peligrosas.

Una investigación independiente muestra por qué los padres aún deben seguir implicándose

Hay otra faceta de esta historia que merece la pena conocer. Investigadores independientes han examinado recientemente la moderación del chat de Roblox y han encontrado ejemplos de mensajes peligrosos que lograron eludir las medidas de seguridad existentes de la plataforma. Su estudio analizó más de dos millones de mensajes de chat e identificó casos relacionados con la captación de menores con fines sexuales, la sexualización de menores, el acoso, la violencia y el intercambio de información sensible que escaparon a la moderación.

Esa investigación demuestra por qué los padres deben tener cuidado a la hora de dar por sentado que la moderación automatizada ofrece una red de seguridad completa. Los malintencionados aprenden cómo funcionan los filtros. A continuación, modifican su lenguaje o comportamiento para intentar eludirlos. Esto hace que la última iniciativa de Roblox resulte especialmente relevante, ya que la empresa está mejorando estos modelos de seguridad y compartiéndolos con otras plataformas para que la tecnología también pueda seguir adaptándose.

Lo que la iniciativa de código abierto de Roblox podría cambiar más allá de la propia plataforma

En última instancia, esto podría convertirse en la noticia más importante. La mayoría de los padres nunca descargarán un clasificador de IA ni visitarán un repositorio de GitHub. Sin embargo, la tecnología que se publica hoy podría acabar influyendo en las aplicaciones que utilizan sus hijos. Es posible que las plataformas más pequeñas no dispongan de los equipos de ingeniería ni de los fondos necesarios para crear desde cero sistemas avanzados de seguridad infantil.

Las herramientas de código abierto pueden ofrecer a esas empresas un punto de partida. Los investigadores también pueden probar los modelos y buscar puntos débiles. Los desarrolladores pueden adaptarlos a diferentes servicios. Mientras tanto, los comentarios de otras organizaciones podrían ayudar a mejorar las herramientas originales. ROOST afirma que su «Model Community» está diseñada para conectar a desarrolladores y profesionales de la seguridad en torno a modelos abiertos de IA para la seguridad. Ese enfoque colaborativo tiene un gran potencial.

Roblox ha ido incorporando más sistemas de seguridad basados en IA

Esta no es la primera gran iniciativa de Roblox en materia de seguridad basada en la IA. A principios de este año, CyberGuy informó sobre un sistema de Roblox que analiza combinaciones de texto, avatares y entornos 3D en tiempo real. Roblox nos indicó que la tecnología estaba contribuyendo a cerrar unos 5 000 servidores de juegos que infringían las normas cada día. La idea consistía en detectar combinaciones nocivas que los sistemas de moderación más antiguos podían pasar por alto al examinar cada elemento por separado. Puede leer nuestro informe completosobre cómo Roblox está transformando la seguridad en línea mediante la IA.

Roblox también ha ampliado las medidas de protección basadas en la edad para los usuarios más jóvenes. Dichos controles establecen diferentes límites en el chat, los juegos y otras funciones en función de la edad del usuario. Todas estas medidas apuntan hacia un mismo objetivo: detectar los riesgos de forma precoz y limitar con quién pueden interactuar los usuarios más jóvenes. El reto consiste en lograr que esos sistemas funcionen de manera coherente a la enorme escala de Roblox.

Lo que los padres pueden hacer ahora mismo para proteger a sus hijos en Roblox

Estas herramientas de IA funcionan entre bastidores. Los padres pueden añadir otra capa de protección estableciendo unas expectativas claras en casa.

1) Considere las peticiones de cambiar a otra aplicación como una señal de alerta

Indique a su hijo que acuda a usted cuando alguien a quien solo conoce en línea quiera seguir chateando en otro lugar. Esto podría referirse a otro servicio de videojuegos, una red social o una aplicación de mensajería privada. Puede que haya una explicación inocente. Aun así, conviene saber cuándo alguien está intentando trasladar la conversación.

2) Establezca normas claras sobre la información personal

Los niños deben tener cuidado al compartir información que pueda identificarlos o localizarlos. Esto incluye su número de teléfono, el nombre de su colegio y la dirección de su domicilio. Los nombres de usuario en las redes sociales también pueden ofrecer a desconocidos otra forma de ponerse en contacto con ellos. Recuerde a su hijo que una persona que conozca dentro de un juego sigue siendo un desconocido en línea hasta que su familia sepa lo contrario.

3) Revise los controles parentales de Roblox

Roblox ha ampliado sus protecciones de cuenta basadas en la edad y sus controles parentales. Las cuentas de Roblox Kids abarcan edades comprendidas entre los 5 y los 8 años, mientras que Roblox Select abarca edades comprendidas entre los 9 y los 15 años. La disponibilidad del chat y los controles parentales varían según el grupo de edad. Anteriormente detallamos las cuentas de Roblox para niños y adolescentes, clasificadas por edades y lo que los padres deben saber sobre esos cambios. Dedique unos minutos a revisar la configuración con su hijo, en lugar de dar por sentado que los ajustes predeterminados se ajustan a lo que usted desea.

4) Preste atención al chat de voz

Los padres tienden a centrarse en los mensajes de texto, ya que dejan un registro visible que se puede revisar. Las conversaciones de voz también merecen atención. Pregunte a su hijo con quién habla mientras juega. Asegúrese de que comprenda que puede abandonar cualquier conversación en la que se sienta incómodo.

5) Enséñele a su hijo cómo denunciar o bloquear a alguien

Roblox permite a los usuarios denunciar a otras personas y comportamientos inapropiados desde dentro de una experiencia. Los usuarios también pueden bloquear otra cuenta. Los padres pueden acceder a los controles de comunicación a través de la configuración parental vinculada. Muéstrele a su hijo dónde se encuentran esos controles antes de que surja un problema. De ese modo, no tendrá que averiguarlo por sí mismo mientras se encuentra alterado o asustado.

6) Mantenga una comunicación abierta

Su reacción es importante cuando su hijo le cuente que algo ha salido mal en Internet. Intente que la primera conversación gire en torno a lo que ha ocurrido, en lugar de centrarse inmediatamente en quitarle el juego. Un niño que piense que hablarle del asunto le costará automáticamente su teléfono o el acceso a Roblox puede mostrarse más reacio a contarle la próxima interacción incómoda.

Conclusiones clave de Kurt

Lo que me llama la atención aquí es lo que realmente se está enseñando a estos sistemas de IA a reconocer. Buscan a alguien que intente obtener la información personal de un niño o desviar una conversación hacia otro tema. Otro sistema examina las conversaciones en busca de señales tempranas de un posible peligro para los niños. La moderación de voz añade protección cuando los niños hablan en lugar de escribir. Esas son situaciones que los padres deben comprender. También me gusta la idea de que las empresas compartan tecnología de seguridad en lugar de que cada plataforma tenga que desarrollar estas herramientas desde cero. Si la tecnología desarrollada en Roblox ayuda a otro servicio de videojuegos o plataforma social a detectar antes un comportamiento peligroso, eso supone un paso positivo. Aun así, nunca le diría a un padre o madre que diera por sentado que la IA vela por la seguridad de su hijo. La propia Roblox reconoce que ningún sistema de seguridad es perfecto, y investigadores independientes han encontrado ejemplos de chats perjudiciales que han pasado la moderación. Así pues, utilice la tecnología como una capa de protección adicional. Y siga hablando con sus hijos sobre a quién conocen en línea y hacia dónde se dirigen esas conversaciones. Quizá la advertencia más importante sea algo que un algoritmo nunca detecte: que su hijo le diga que alguien en Internet le está haciendo sentir incómodo.

Si un sistema de IA detectara un posible caso de captación de menores en la conversación en línea de su hijo, ¿con qué rapidez esperaría que la plataforma le avisara y cuánta información debería proporcionarle sobre lo ocurrido? Háganoslo saber escribiéndonos a Cyberguy.com.

Suscríbase a mi informe CyberGuy GRATUITO

• Reciba mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas directamente en su bandeja de entrada.
• Para conocer formas sencillas y prácticas de detectar estafas a tiempo y mantenerse protegido, visite CyberGuy.com, en el que confían millones de personas que ven a CyberGuy en televisión a diario.
• Además, al registrarse, obtendrá acceso inmediato y gratuito a mi «Guía definitiva para sobrevivir a las estafas».

Copyright 2026 CyberGuy.com. Todos los derechos reservados.

Kurt «CyberGuy» Knutsson es un galardonado periodista tecnológico que siente una profunda pasión por la tecnología, los dispositivos y los gadgets que mejoran la vida, y que colabora con Fox News y FOX Business desde las primeras horas de la mañana en el programa «FOX & Friends». ¿Tiene alguna pregunta sobre tecnología? Suscríbase al boletín gratuito de Kurt, «CyberGuy Newsletter», y comparta su opinión, una idea para un reportaje o un comentario en CyberGuy.com.

Publicado originalmente por FoxNews el 21 de agosto de 2026, escrito por Kurt Knutsson, Cyberguy Report.