CIUDAD DE MÉXICO.— Este lunes, durante la habitual conferencia de prensa matutina de la presidenta de México, Claudia Sheinbaum Pardo, participó el doctor Ravi Iyer, psicólogo social, tecnólogo y exingeniero de la empresa Meta, experto en el diseño y la regulación de plataformas digitales.
Iyer trabaja como director de Investigación en el Neely Center de la prestigiosa Escuela de Negocios de la Universidad del Sur de California, la USC Marshall School of Business, y se especializó en cómo los algoritmos y las redes sociales impactan la salud mental de niñas, niños y adolescentes.
Durante su intervención, Ravi Iyer agradeció a la presidenta Claudia Sheinbaum así como al secretario de Educación Pública, Mario Delgado Carrillo, por invitarlo a participar en este espacio público.
El diseño de las redes sociales “causa daño a los niños”, asegura experto
Ravi Iyer dijo que, “Antes de ocupar este cargo en el Neely Center, estuve 4 años y medio en Meta trabajando en el diseño de redes sociales, así que permítanme dejar claro cuál es mi perspectiva. Sé de primera mano que estos productos pueden diseñarse mejor, y sé que la forma en que están diseñados hoy en día causa daño a los niños y hoy describiré algunos de estos daños”.
Iyer señaló que, “en Silicon Valley les gusta decir que dan a la gente lo que quiere, pero como psicólogo yo sé que las personas pueden querer algo de dos maneras diferentes”.
“Esa diferencia entre nuestras aspiraciones y nuestros deseos a corto plazo está presente en todos los aspectos de la vida”, agregó el experto.
Explicó que, “Los algoritmos actuales suelen diseñarse para optimizar el comportamiento observado, comúnmente llamado interacción o engagement”.
Ravi Iyer también dijo que la mayoría de las personas quiere usar menos su teléfono, lo mismo ocurre con mucha gente joven. 70% de ellas dice sentirse manipulada.
Según una encuesta del Centro de Investigación Pew realizada entre adolescentes estadounidenses, el 45% dijo que pasa demasiado tiempo en redes sociales, y el 45% dijo que afecta su sueño; incluso, 40% dijo que perjudica su productividad.
Contacto no solicitado con los niños
Ravi Iyer dijo que, la segunda consecuencia es el contacto no solicitado con los niños. Explicó que en un estudio que se hizo público como parte de un litigio reciente en Nuevo México, la propia investigación interna de Meta reveló que 13% de los usuarios de Instagram entre 13 y 15 años había recibido alguna insinuación sexual no deseada en los últimos 7 días.
Contenido no solicitado por los niños
“La tercera consecuencia es el contenido no solicitado por los niños. En esa misma encuesta interna de Meta, 19.2% de los niños entre 13 y 15 años reportó haber visto desnudos o contenido sexual no deseado en una sola semana. La palabra clave aquí es indeseado. Estos niños no están buscando el material, se les ofrece a través de un sistema de recomendaciones diseñado para captar su atención, porque el contenido sexual logra captar la atención extremadamente bien”, dijo el experto.
Y agregó, “Y esto no solo es una tendencia que vemos en Estados Unidos. La Comisión de Seguridad Digital de Australia encuestó a más de 3,000 niños entre 10 y 17 años. 47% había visto comentarios ofensivos o sexistas sobre niñas y mujeres. 47% había visto videos de peleas. 46% había visto retos peligrosos en internet”.
La mayoría afirmó que estas experiencias habían ocurrido en el último año, y en otros países vemos experiencias similares.
Entonces, ¿qué es lo que realmente impulsa esto?
Ravi Iyer señaló, “No son las personas malas que publican contenido negativo. Más bien son los algoritmos los que en la práctica pagan a los influencers para que sexualicen más sus contenidos, promuevan las apuestas, difundan el odio y realicen hazañas peligrosas“.
“Esto incluye características como algoritmos que optimizan la interacción o engagement, el desplazamiento o scrolling infinito, y la reproducción automática que elimina cualquier punto natural de interrupción; la gamificación, como el conteo de likes o las rachas de Snapchat; el requisito de tener una cuenta solo para ver cualquier cosa, que hace posible recibir mensajes o notificaciones a las 11 de la noche, por ejemplo; y configuraciones predeterminadas de privacidad demasiado laxas que permiten el envío de mensajes masivos a los niños”, aseguró Iyer.
Y añadió, “Cada una de estas es una decisión, cada una de ellas puede tomarse de otra manera, y son precisamente lo que un tribunal de Nuevo México abordó recientemente”.
Un tribunal determinó que las empresas de redes sociales son responsables legales de los daños causados por el diseño de sus plataformas.
El problema no son los malos usuarios que publican contenido negativo, aseguró Ravi, es un sistema diseñado para fomentar el uso excesivo, el contacto indeseado y la exposición a contenido no deseado y dañino. Este es el primer caso en el que se le exigió a una plataforma que modificara sus decisiones de diseño.
Ravi Iyer dijo que, “Ahora podemos comprender muy bien cómo es el diseño inadecuado de las redes sociales. Ese conocimiento se incorporó a la Ley de Programación de Diseño Apropiado Según la Edad, que se extendió por más de una docena de estados en los Estados Unidos. Esto es ya suficiente”.
Algunos de los cambios específicos requeridos
Durante 5 años, en Nuevo México, Meta deberá cumplir lo siguiente: reforzar la verificación de edad para que ya no haya un gran número de niños entre 10 y 12 años en sus plataformas; ocultar de forma predeterminada el conteo público de likes en todas las cuentas que pertenezcan a menores de 18 años; desactivar las notificaciones push o emergentes para menores de 18 años durante la noche y el horario escolar. Imponer un límite o techo máximo al tiempo de uso entre Facebook e Instagram combinados para cualquier persona menor de 18 años. Mantener las cuentas de adolescentes en modo privado de forma predeterminada.
Dejar de recomendar cuentas de niños a adultos con los que no haya relación y evitar por completo que adultos con los que no tengan relación les envíen mensajes. Evitar que menores de 18 años tengan intercambios románticos o sexualizados con chatbots de meta. Esto debe incluir cualquier tipo de apego que un niño desarrolle con un producto de inteligencia artificial.
Ravi Iyer dijo que esta no es la lista completa de lo que se necesita, pero es un comienzo importante y que otras jurisdicciones ya están pidiendo cambios similares.
Diseño adictivo de Instagram y Facebook
También dijo que, hace aproximadamente un mes, la Comisión Europea determinó que el diseño adictivo de Instagram y Facebook violaba la Ley de Servicios Digitales, mencionando desplazamiento y scrolling infinito, reproducción automática notificaciones push o emergentes y sistemas de recomendación personalizados.
Indonesia restringió cuentas de usuarios menores de 16 años
Agregó que, a principios de este año, Indonesia restringió cuentas de usuarios menores de 16 años en cualquier servicio que tenga características dañinas como las descritas en la denuncia de Nuevo México y Canadá hizo algo similar.
“No estamos en contra de la tecnología, solo queremos que los productos tecnológicos estén diseñados para ayudar a las personas a alcanzar sus aspiraciones, no para obstaculizarlas, especialmente en el caso de nuestros hijos”, concluyó Ravi Iyer.
También le podría interesar: “Dos mexicanos entre los fallecidos por el terremoto en Colombia, confirma Claudia Sheinbaum“