Investigaciones revelan riesgos significativos

Un estudio realizado por la firma de expertos en comportamiento digital, Revealing Reality, ha puesto en evidencia la facilidad con la que los menores pueden acceder a contenido inapropiado en Roblox. Los investigadores crearon múltiples cuentas ficticias registradas a edades de cinco, nueve, diez, trece y más de cuarenta años. A través de estas cuentas, descubrieron que los avatares de niños podían interactuar con adultos y acceder a entornos altamente sugestivos sin restricciones efectivas.​

Entre los hallazgos más alarmantes se encuentran situaciones donde avatares de niños eran abordados por adultos solicitando información personal mediante lenguaje codificado. Además, se identificaron espacios virtuales donde los personajes participaban en comportamientos sexualmente sugestivos, y se escuchaban conversaciones explícitas a través del chat de voz.​

Respuestas de la comunidad y de los padres

Padres de todo el mundo han compartido experiencias preocupantes relacionadas con el uso de Roblox por parte de sus hijos. Algunos reportan casos de adicción al juego, exposición a contenido traumático y acercamientos por parte de desconocidos. Un padre en Calgary relató cómo un depredador en línea manipuló a su hijo para enviar contenido explícito. Otros padres mencionan que sus hijos han sufrido ataques de pánico después de ver contenido sexual mientras jugaban.

Medidas adoptadas por Roblox

En respuesta a estas preocupaciones, Roblox ha implementado varias actualizaciones en sus controles parentales y sistemas de seguridad:​

• Restricciones de comunicación: Los usuarios menores de 13 años ya no pueden enviar mensajes directos fuera de los juegos o experiencias.​

• Controles parentales mejorados: Los padres pueden ahora bloquear amigos específicos en la cuenta de sus hijos, revisar y aprobar nuevas actividades, y monitorear el tiempo de pantalla y los gastos.​

• Etiquetas de contenido: En lugar de clasificar las experiencias por edad, ahora se etiquetan según el tipo de contenido, proporcionando a los padres una mejor comprensión de lo que sus hijos pueden encontrar.

• Verificación de edad: Se ha introducido una verificación de edad mediante identificación oficial o tarjeta de crédito para ciertas funciones, como el chat de voz.​

A pesar de estas medidas, expertos en seguridad infantil argumentan que aún no son suficientes. Damon De Ionno, director de investigación de Revealing Reality, señaló que “los controles de seguridad existentes son limitados en su efectividad y todavía existen riesgos significativos para los niños en la plataforma”.​

Colaboración con autoridades y organizaciones

Roblox reconoce que la presencia de actores malintencionados en internet es un problema que va más allá de su plataforma. La empresa ha expresado su disposición a colaborar con gobiernos y otras organizaciones para establecer medidas de seguridad más sólidas en toda la industria. Además, ha invertido en herramientas de seguridad avanzadas y trabaja estrechamente con expertos para proteger a su comunidad, especialmente a los jóvenes.​

Recomendaciones para padres y tutores

El Instituto Nacional de Ciberseguridad de España (INCIBE) ofrece varias recomendaciones para que los padres protejan a sus hijos mientras usan Roblox:​

• Configuración de controles parentales: Utilizar las opciones disponibles para restringir el contenido y las interacciones según la edad del niño.​

• Supervisión activa: Monitorear regularmente las actividades de los hijos en la plataforma y mantener una comunicación abierta sobre sus experiencias en línea.​

• Educación sobre seguridad en línea: Enseñar a los niños sobre los riesgos de compartir información personal y cómo identificar comportamientos inapropiados.​

• Uso de herramientas de denuncia: Fomentar el uso de las funciones de denuncia de abuso disponibles en Roblox para reportar cualquier comportamiento sospechoso

La seguridad de los menores en plataformas en línea como Roblox es una responsabilidad compartida entre empresas, gobiernos, padres y la sociedad en general. Si bien Roblox ha tomado medidas para mejorar la protección de sus usuarios jóvenes, es esencial que los padres se mantengan informados y participen activamente en la supervisión de la actividad en línea de sus hijos. La colaboración continua y la implementación de medidas de seguridad más efectivas son fundamentales para garantizar un entorno digital seguro para todos los niños.​

The post Roblox bajo escrutinio por la exposición de menores a contenido inapropiado appeared first on TecnoFuturo24.

Acusaciones de The Bear Cave

En un reciente informe, The Bear Cave, conocido por sus análisis sobre acciones de empresas, sostiene que Roblox ha facilitado “masivos” casos de abuso infantil. Según el boletín, desde 2020 se han documentado al menos 16 incidentes en los que adultos fueron arrestados por explotar sexualmente a niños que conocieron en la plataforma. Uno de los casos más alarmantes involucra a un hombre que “preparó” a 150 menores para participar en actividades sexuales en Roblox. Además, el informe menciona la existencia de “juegos de condominio”, donde los usuarios simulan actos sexuales.

Respuesta de Roblox

Eric Porterfield, director senior de comunicaciones de políticas de Roblox, rechazó las acusaciones, calificándolas de “engañosas e irresponsables”. Afirmó que estos incidentes son excepcionales y que la gran mayoría de los 79 millones de usuarios activos diarios, el 42% de los cuales son menores de 13 años, disfrutan de una experiencia segura. Porterfield enfatizó que la plataforma implementa continuamente mejoras en sus prácticas de seguridad, incluyendo la prohibición de compartir imágenes inapropiadas y el bloqueo de palabras y frases ofensivas en los chats.

Contenido Inapropiado y Seguridad Infantil

El informe de The Bear Cave también destaca que Roblox alberga contenido inapropiado no sexual, incluyendo juegos que recrean tiroteos escolares y eventos históricos trágicos como el Holocausto. Estos hallazgos son preocupantes, especialmente en un momento en que legisladores y defensores de los derechos de los niños están debatiendo cuánta responsabilidad tienen las plataformas digitales en la protección de menores.

Roblox ha estado activo en el cabildeo para influir en la legislación sobre seguridad en línea, como la Ley de Seguridad en Línea para Niños (KOSA), y su CEO, David Baszucki, ha expresado su deseo de asegurar que la plataforma continúe fomentando la creatividad de los jóvenes usuarios sin restricciones excesivas.

Las acusaciones de The Bear Cave plantean serias preguntas sobre la efectividad de las medidas de seguridad en Roblox, una plataforma que alberga a millones de niños y adolescentes. Aunque la empresa defiende sus esfuerzos por mejorar la seguridad, la comunidad sigue preocupada por la protección de sus usuarios más vulnerables. A medida que las discusiones sobre la responsabilidad de las plataformas en la seguridad infantil se intensifican, será crucial que Roblox tome medidas efectivas para garantizar un entorno seguro para todos sus usuarios.

The post Roblox Acusado de Facilitar el Abuso Infantil en Nueva Investigación appeared first on TecnoFuturo24.

En el marco de este compromiso, las empresas se comprometen a revisar exhaustivamente sus conjuntos de datos de entrenamiento de IA en busca de material de abuso sexual infantil (CSAM) y eliminarlo de cualquier modelo futuro. Además, se comprometen a realizar pruebas rigurosas en sus modelos de IA para garantizar que no generen imágenes de CSAM, y solo lanzarán los modelos evaluados en términos de seguridad infantil.

Esta iniciativa también cuenta con el respaldo de otras empresas destacadas en el campo de la inteligencia artificial, como Anthropic, Civitai, Metaphysic, Mistral AI y Stability AI, lo que subraya la importancia y el alcance de esta colaboración sectorial.

Impacto y desafíos: La IA generativa ha planteado nuevos desafíos en la lucha contra el abuso infantil en línea, incluida la proliferación de imágenes deepfakes. Investigaciones recientes han revelado la presencia de CSAM en conjuntos de datos utilizados para entrenar modelos de IA, lo que subraya la urgencia de abordar este problema de manera efectiva.

Además, organizaciones sin fines de lucro, como Thorn, advierten sobre los peligros asociados con la generación de imágenes por IA, que pueden dificultar la identificación de víctimas y aumentar la demanda de CSAM.

Este compromiso conjunto representa un paso significativo en la lucha contra el abuso infantil en línea. Sin embargo, se necesitarán esfuerzos continuos y colaborativos para abordar eficazmente este desafío y proteger a los niños en el entorno digital. Google, en particular, ha anunciado medidas adicionales, como aumentar las subvenciones publicitarias para promover iniciativas de concienciación y prevención del abuso infantil.

The post Empresas líderes de IA se comprometen a combatir el abuso infantil en línea appeared first on TecnoFuturo24.