La UE propone escanear imágenes y enlaces en chats para prevenir abuso infantil

La Unión Europea ha decidido reactivar una propuesta que ha generado un intenso debate en el pasado: obligar a los servicios digitales a examinar todas las comunicaciones de sus usuarios para identificar material de abuso infantil sexual. Este proyecto, que había sido rechazado por el Parlamento Europeo en la legislatura anterior, vuelve ahora a la agenda de las instituciones comunitarias mediante una nueva iniciativa de la Comisión Europea. La propuesta está consiguiendo apoyos entre algunos Estados miembros y será objeto de debate este viernes en la reunión de los Veintisiete.

El plan de Bruselas busca establecer un marco regulatorio que permita prevenir y combatir el abuso sexual infantil y la difusión de material pedófilo. La Comisión sostiene que aplicaciones de mensajería, correo electrónico, redes sociales y chats de videojuegos no deben ser utilizadas para estos fines ilícitos, y que los proveedores de estos servicios son los actores más indicados para impedirlo. Según el texto, “son a menudo los únicos en posición de prevenir y combatir tal abuso infantil”.

Cómo funcionaría el escaneo en la lucha contra el abuso infantil

La propuesta contempla la implementación de algoritmos capaces de analizar los chats de los usuarios en busca de patrones que puedan indicar la creación o intercambio de imágenes de abuso infantil. En caso de detectar contenido sospechoso, el algoritmo alertaría a la compañía, que a su vez informaría a las autoridades competentes. Entre los servicios afectados se incluyen WhatsApp, Telegram, Signal, Instagram, Gmail y cientos de plataformas más.

El texto recalca que “las medidas adoptadas deben ser específicas, cuidadosamente equilibradas y proporcionadas, a fin de evitar consecuencias negativas indebidas para quienes utilizan estos servicios con fines lícitos”. En comparación con la propuesta de 2023, se han introducido cambios significativos: el escaneo se limitaría ahora a imágenes y enlaces compartidos, dejando fuera mensajes de texto y audios, y se realizaría directamente en el dispositivo del usuario.

Protección del cifrado de extremo a extremo

Uno de los puntos más sensibles de la anterior propuesta fue el riesgo que representaba para el cifrado de extremo a extremo, la tecnología que garantiza que solo emisor y receptor puedan leer los mensajes. El nuevo texto subraya que “el cifrado de extremo a extremo es un medio necesario para proteger los derechos fundamentales y la seguridad digital de los gobiernos, la industria y la sociedad”. Además, recalca que el reglamento no debilitará ni socavará estas medidas de seguridad.

No obstante, la iniciativa mantiene la intención de establecer un mecanismo de vigilancia capaz de detectar contenido abusivo en cualquier contexto. Según el documento, el material de abuso infantil “debe seguir siendo detectable en todos los servicios de comunicaciones interpersonales mediante la aplicación de tecnologías verificadas”, incluyendo la posibilidad de acceder a datos no cifrados para su análisis.

Reacciones de especialistas y defensores de la privacidad

La propuesta anterior provocó un rechazo masivo entre expertos en tecnología y defensores de los derechos digitales, y la nueva versión ha generado controversia desde su presentación. Este martes, 467 especialistas de 36 países enviaron una carta a las instituciones comunitarias alertando de que el escaneo total de chats “socava por completo las protecciones de seguridad y privacidad que son esenciales para salvaguardar la sociedad digital”. La misiva, publicada por elDiario.es, advierte que la medida podría generar capacidades sin precedentes de vigilancia y control, y aumentar el riesgo de abusos por parte de regímenes menos democráticos.

Entre los firmantes se encuentran reconocidos investigadores en cifrado digital, ciberseguridad y privacidad, como la española Carmela Troncoso, directora científica del Instituto Max Planck para la Seguridad y la Privacidad. La especialista señala que la propuesta “sigue sin garantizar ninguna mejora en la protección para menores, pero constituye una amenaza enorme para la privacidad y libertad online”.

Limitaciones técnicas y facilidad para evadir el escaneo

Los expertos insisten en que la tecnología actual no permite implementar un sistema de detección efectivo a escala masiva. En la carta enviada a la UE, explican que “no es viable detectar material de abuso infantil sexual conocido o nuevo entre cientos de millones de usuarios con un nivel aceptable de precisión”. Señalan, además, que pequeños cambios en las imágenes permitirían eludir los filtros más avanzados, mientras que los falsos positivos y negativos podrían afectar a gran cantidad de usuarios.

El análisis de imágenes en lugar de texto, según los especialistas, no garantiza mayor eficacia, y la realización del escaneo en el dispositivo del usuario sigue planteando riesgos para la seguridad del cifrado.

Próximos pasos en la UE

Actualmente, el proyecto contra el abuso infantil es un texto de compromiso de la Presidencia del Consejo de la UE, que ostenta Dinamarca. Esto significa que se encuentra en fase de revisión y negociación entre los Estados miembros. El siguiente paso será su discusión en la reunión del Grupo de Trabajo el 12 de septiembre, donde podrán presentarse enmiendas. En caso de aprobación por el Consejo, la propuesta deberá volver al Parlamento Europeo para su examen final.