Meta está implementando un nuevo sistema de inteligencia artificial para escanear la estructura ósea y la estatura en fotos con el fin de identificar y eliminar cuentas de usuarios menores de 13 años, una escalada significativa en sus medidas de seguridad tras una sanción legal de 375 millones de dólares por comprometer la seguridad infantil.
"Nuestra IA analiza temas generales y pistas visuales, como la estatura o la estructura ósea, para estimar la edad general de una persona", escribió la compañía en una publicación de blog. "No identifica a la persona específica en la imagen".
La tecnología, que evita el reconocimiento facial, analizará los perfiles en busca de pistas contextuales como publicaciones de cumpleaños y escaneará las imágenes buscando marcadores físicos. El sistema se está expandiendo a Instagram en 27 países de la UE y Brasil, y a Facebook en EE. UU., Reino Unido y la UE. La medida llega después de que un jurado de Nuevo México ordenara a Meta pagar 375 millones de dólares en daños y un jurado de Los Ángeles encontrara a la empresa responsable de contribuir a problemas de salud mental en jóvenes.
El despliegue pone a prueba si Meta puede resolver su problema de usuarios menores de edad sin afectar el crecimiento, un desafío que golpeó a la plataforma de juegos Roblox, cuyas acciones cayeron un 18% después de que su propio desploiue de verificación de edad impactara en el número de usuarios. Aunque el modelo de ingresos basado en publicidad de Meta está más protegido que el de Roblox, basado en transacciones, los cambios conllevan riesgos significativos de reputación y regulatorios mientras la empresa navega por el intenso escrutinio de los tribunales y el Congreso.
IA como portero digital
El nuevo sistema de Meta representa un cambio significativo de una moderación de contenido reactiva a una detección de edad proactiva y automatizada. La IA analizará perfiles completos, buscando pistas contextuales en publicaciones, biografías y comentarios —como menciones a grados escolares o celebraciones de cumpleaños— que podrían indicar que un usuario es menor de 13 años.
El desarrollo más notable es la integración del análisis visual. Aunque Meta enfatiza que esto no es reconocimiento facial, la IA escaneará fotos y videos buscando marcadores de desarrollo como la estatura y la estructura ósea para estimar la edad de un usuario. Las cuentas marcadas como potencialmente menores de edad serán desactivadas, obligando al usuario a completar un proceso de verificación de edad para evitar la eliminación permanente. Este escaneo proactivo tiene como objetivo cerrar las lagunas que han permitido a millones de usuarios menores de edad crear cuentas.
Un problema costoso
El impulso por una verificación de edad más avanzada llega mientras Meta enfrenta una creciente presión legal y financiera. Un jurado de Nuevo México ordenó recientemente a la empresa pagar una multa de 375 millones de dólares tras encontrarla responsable de comprometer la seguridad de los niños en línea bajo la Ley de Prácticas Desleales del estado. Por separado, un jurado de Los Ángeles encontró que tanto Meta como YouTube de Google fueron negligentes en el diseño de sus plataformas, contribuyendo a problemas de salud mental en usuarios jóvenes.
Estas derrotas legales resaltan los riesgos financieros de no vigilar el uso por parte de menores. El nuevo sistema de IA es parte de la respuesta de Meta, un intento de demostrar cumplimiento proactivo y mitigar responsabilidades futuras. La compañía también está expandiendo su programa "Cuentas para adolescentes", que configura por defecto a los usuarios menores de 18 años con ajustes más privados, a 27 nuevos países de la UE y Brasil.
El precedente de Roblox
El desafío de Meta es implementar estas funciones de seguridad sin alienar a su base de usuarios ni dañar las métricas de participación. El caso de Roblox ofrece una lección de advertencia. La plataforma de juegos, muy popular entre los usuarios más jóvenes, vio sus acciones desplomarse un 18% el 1 de mayo tras informar que sus nuevos requisitos de verificación de edad habían frenado la adquisición de nuevos usuarios y reducido la comunicación en la plataforma.
Sin embargo, el modelo de negocio de Meta podría proporcionar un amortiguador. A diferencia de Roblox, que depende del gasto dentro del juego de una base de usuarios fuertemente sesgada hacia menores de 17 años, los ingresos de Meta son impulsados principalmente por publicidad dirigida a un grupo demográfico mucho más amplio. Aunque una ofensiva contra las cuentas de menores podría provocar una caída puntual en el número de usuarios, se espera que el impacto en los resultados de Meta sea menos grave que el experimentado por Roblox. La empresa apuesta a que el beneficio a largo plazo de una mayor seguridad y cumplimiento regulatorio superará cualquier pérdida de usuarios a corto plazo.
Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.
