La EU Kids Act no solo fija edades para acceder a las redes sociales: también pretende cambiar cómo se diseñan las plataformas, los algoritmos, los videojuegos y la inteligencia artificial para los menores

Laura Pajuelo*

El cambio en la edad a la que un niño puede abrir una cuenta en una red social es probablemente el aspecto del que más se está hablando del EU Kids Act, la propuesta legislativa que la Comisión Europea ha presentado este 17 de septiembre para reforzar la protección de los menores en Internet. Pero quedarse únicamente con ese dato sería perder de vista buena parte de su alcance.

Y es que el EU Kids Act plantea un cambio de enfoque: no basta con pedir a niños y adolescentes que hagan un uso responsable de la tecnología ni con dejar en manos de las familias la supervisión de lo que hacen en Internet. Los propios servicios digitales deberán incorporar medidas de seguridad desde su diseño.

Así, aunque el texto afecta a redes sociales y plataformas de vídeo, también lo hace a videojuegos, tiendas de aplicaciones y determinados chatbots y compañeros de inteligencia artificial. Al mismo tiempo, establece un sistema progresivo de acceso según la edad y nuevas herramientas para las familas.

Estas son ocho claves para entender qué pretende cambiar el EU Kids Act.

La edad es solo una parte de la propuesta

El EU Kids Act establece una especie de escalera de acceso a las redes sociales y plataformas de vídeo. Así, mientras los menores de 13 años no podrán tener una cuenta propia, entre los 13 y los 14 años podrán utilizar cuentas limitadas creadas y supervisadas por sus progenitores, con controles parentales activos y un límite diario de uso de una hora. A partir de los 15 años podrán abrir sus propias cuentas sin autorización previa de sus padres. Eso sí, que un adolescente cumpla 15 años no significa que desaparezcan las obligaciones de protección: los servicios deberán seguir siendo seguros y adecuados para los menores de 18 años.

Las plataformas tendrán que ser seguras desde el diseño

Esta es posiblemente una de las claves menos visibles y, al mismo tiempo, más importantes de la propuesta. Hasta ahora, buena parte del debate sobre los menores en internet se ha centrado en qué deberían hacer ellos y sus familias: limitar el tiempo de pantalla, utilizar controles parentales, enseñar competencias digitales o acompañarles en su uso de las redes.

El EU Kids Act pone también el foco en cómo están construidas las propias plataformas, y propone que los servicios incorporen la seguridad de los menores desde el diseño y que determinadas funciones que pueden favorecer un uso excesivo dejen de formar parte de la experiencia destinada a niños y adolescentes. Entre ellas están el scroll infinito, determinados sistemas de notificaciones, la reproducción automática continua o las mecánicas de recompensas que incentivan volver constantemente al servicio.

Los algoritmos también están en el punto de mira

Otro de los cambios importantes afecta a los sistemas de recomendación. Las plataformas utilizan algoritmos para decidir qué vídeos, publicaciones o contenidos aparecen a continuación. El EU Kids Act propone que, cuando el usuario sea menor, estos sistemas estén orientados a la seguridad, la calidad y el bienestar, y no simplemente a maximizar el tiempo de permanencia o la interacción.

Además, se pretende reducir el riesgo de que los menores entren en los denominados ‘rabbit holes’: cadenas de recomendaciones que pueden llevarles progresivamente hacia contenidos cada vez más extremos o perjudiciales. La propuesta plantea también que la personalización basada en el seguimiento del usuario esté desactivada por defecto para los menores y que estos dispongan, al menos, de una opción de recomendación que no utilice perfiles basados en sus datos.

Un menor no podrá recibir mensajes de cualquiera

La Comisión también pretende modificar la forma en que los menores interactúan con desconocidos. Ahora, los servicios deberán establecer mecanismos para evitar que personas que no hayan sido previamente autorizadas puedan ponerse en contacto con un menor. Además, los niños no deberían aparecer en determinadas sugerencias de contactos ni ser incorporados a grupos sin su consentimiento.

Por otro lado, los perfiles y contenidos de los menores tendrán que contar con configuraciones de privacidad más restrictivas y se facilitarán herramientas para bloquear o silenciar a otros usuarios.

La inteligencia artificial también entra en el EU Kids Act

El EU Kids Act contempla la regulación de los chatbots y compañeros de inteligencia artificial accesibles para menores con el objetivo de evitar diseños que puedan favorecer una dependencia emocional y establece obligaciones específicas antes y después de poner estos sistemas a disposición de los niños. Por ejemplo, los chatbots no deberían activar determinadas funciones automáticamente ni promocionarlas directamente entre los menores. También tendrán que incorporar mecanismos para detectar y abordar riesgos y, en el caso de los menores de 13 años, el acceso estará vinculado a herramientas de control parental.

Los videojuegos tampoco se quedan fuera

En el caso de las tiendas de aplicaciones, la Comisión plantea sistemas de clasificación por edades y mecanismos para impedir que los menores accedan a aplicaciones que no sean adecuadas para su edad. En los juegos, por su parte, se pretenden introducir principios de seguridad desde el diseño. La idea es que la protección de los menores no dependa exclusivamente de que los padres conozcan todas las funciones y configuraciones de cada videojuego.

Los padres tendrán más herramientas, pero no toda la responsabilidad

El papel de las familias también cambia. El EU Kids Act contempla herramientas para que los progenitores puedan gestionar el tiempo de uso, controlar determinados contactos, modificar configuraciones y denunciar contenidos perjudiciales. En las cuentas de los adolescentes de 13 y 14 años, estas herramientas estarán activas. En este sentido, la Comisión plantea expresamente que las herramientas destinadas a los padres sean complementarias a las medidas de seguridad que deberán incorporar los servicios digitales.

Quién tiene que demostrar que algo es seguro

La propuesta invierte la carga de la prueba para las grandes plataformas: serán los proveedores quienes tengan que demostrar que sus servicios cumplen las obligaciones de seguridad para los menores. En el caso de las plataformas en línea de muy gran tamaño, la Comisión plantea además que tengan que presentar un plan de cumplimiento antes de poner en marcha nuevos servicios, funciones o características que puedan afectar a los niños.

*Subdirectora editorial de EDUCACIÓN 3.0