Infancias mexicanas frente al algoritmo de las redes sociales

Por María José Velázquez Bañares*

Para las nuevas generaciones, las redes sociales no son una herramienta externa, más bien son parte central de su vida diaria. El contenido que consumen, con quién interactúan y, hasta cierto punto, qué los impulsa son determinados por un algoritmo oculto para sus padres y tutores.  

Día tras día las tecnológicas anuncian nuevos controles parentales, verificaciones de edad y mecanismos para reportar contenido inapropiado, pero ninguna de esas medidas toca lo esencial: su modelo de negocio. No es sorpresa para nadie que dichas empresas están dispuestas a combatir riesgos siempre y cuando reducirlos no cueste usuarios ni ingresos. Por eso, la protección de las infancias en el ámbito digital no puede depender únicamente de la voluntad de las plataformas, sino que requiere de regulación externa.

Europa lo entendió antes que nosotros. La Ley de Servicios Digitales obliga a las plataformas a evaluar sus riesgos sistémicos y a rendir cuentas sobre las afectaciones causadas por sus algoritmos. Es un avance, pero todavía falta seguir caminando. Los procedimientos de verificación de edad siguen siendo imperfectos, las sanciones llegan tarde y las empresas litigan fácilmente las multas.

México apenas empieza a plantear su propia regulación, pero no basta con copiar el modelo europeo. Por una parte, porque heredaríamos sus grietas. Por la otra, porque nuestro contexto tiene riesgos que Bruselas no contempla. Aquí una red social no solo expone a un menor a contenido dañino para su salud mental, sino también puede ser la puerta de entrada al reclutamiento del crimen organizado, a la trata de personas o a la explotación sexual. Un mensaje directo que ofrece “trabajo bien pagado” no significa lo mismo en Madrid que en una comunidad donde ese anzuelo puede ser el inicio de una desaparición forzada.

¿Por dónde empezamos a revisar las afectaciones del algoritmo?

Una primera vía podría ser poner en la mesa la posibilidad de crear una Ley General de Entornos Digitales Seguros para las Infancias, la cual debe ser construida para atacar específicamente el problema mexicano y no importada.

Las plataformas con presencia significativa en el país deberían tener la obligación de realizar evaluaciones anuales sobre riesgos de reclutamiento, trata, explotación sexual y violencia; configurar las cuentas de menores con mayor privacidad; impedir que adultos desconocidos les envíen mensajes privados, ofertas de empleo, dinero o regalos; y desactivar la geolocalización, la publicidad conductual y las recomendaciones basadas en perfiles sensibles.

Por otra parte, encontrar mecanismos para reducir las recomendaciones de cuentas, grupos y contenidos vinculados con reclutadores, venta de drogas, armas o explotación, y someter sus sistemas de recomendación a auditorías independientes.

Esto no se trata de castigar la tecnología con ojos vendados, sino de que quien lucra con la atención de una infancia responda por lo que ocurre en su plataforma.

Hasta ahora solo despiertas y lo primero que haces es mirar el teléfono, pero ha llegado el momento de despertar y darnos cuenta de que la seguridad de un niño no puede valer menos que un rato de su atención.♦

—∞— 

*María José Velázquez Bañares es científica de datos e investigadora del Seminario sobre Violencia y Paz de El Colegio de México.

Más sobre este blog