Los proveedores de servicios de Internet y las compañías de comunicaciones podrían enfrentar multas de hasta el 6% de su facturación si no cumplen con las órdenes judiciales que les exigen escanear electrónicamente las comunicaciones y las redes sociales para identificar el posible abuso infantil.
Un proyecto de reglamento que debe ser publicado por la Comisión Europea hoy requerirá que las compañías tecnológicas implementen algoritmos para identificar imágenes de abuso infantil e intentos de preparación en comunicaciones y servicios de redes sociales..
Las propuestas han expresado preocupaciones de los grupos de la sociedad civil, algunos eurodiputados y tecnólogos de que debilitarán los servicios de cifrado de extremo a extremo, como WhatsApp y Signal, socavando los derechos de privacidad de las personas inocentes..
El MEP y el activista de los derechos civiles, Patrick Breyer, describieron la regulación propuesta como un paso hacia la vigilancia estatal de estilo chino."Con sus planes de romper el cifrado seguro, la Comisión de la UE está poniendo la seguridad general de nuestras comunicaciones privadas y redes públicas, secretos comerciales y secretos estatales en riesgo para complacer a los deseos de vigilancia a corto plazo", dijo.
La acción voluntaria ha fallado
Un borrador filtrado de la regulación, que se espera que sea publicado hoy por el Comisionado de Asuntos Interiores, Ylva Johansson, argumenta que aunque algunas compañías tecnológicas usan tecnología para detectar, informar y eliminar el abuso infantil en línea, las medidas voluntarias no han podido erradicar el problema..
"Las medidas tomadas por los proveedores varían ampliamente, con la gran mayoría de los informes provenientes de un puñado de proveedores, y un número significativo no toman medidas", establece el documento ", establece el documento.
El borrador del reglamento presenta órdenes de detección específicas que legalmente requerirán que las comunicaciones y las compañías de redes sociales introduzcan "tecnología de detección automatizada" para identificar el posible abuso infantil o arriesgar multas pesadas..
Según las propuestas, se puede ordenar a las compañías de comunicaciones y redes sociales para instalar tecnología para comparar fotografías en sus servicios con bases de datos de imágenes conocidas de abuso infantil.
También se les puede exigir que implementen algoritmos que pueden identificar imágenes de abuso infantil previamente no vistos y detectar posibles intentos de preparación escaneando el contenido de las comunicaciones personales.
El borrador de regulación filtrada reconoce que escanear correos electrónicos o mensajes de texto para detectar la preparación es altamente intrusiva.
Pero establece que las tecnologías de detección para la preparación han alcanzado un "alto grado de precisión", con Microsoft reclamando tasas de éxito del 88%."La tecnología utilizada no" entiende "el contenido de las comunicaciones, sino que busca patrones preidentificados conocidos que indican una posible preparación", dice ", dice.
Según la propuesta, se informarán cualquier mensaje o imagen que parezca indicar abuso infantil para la revisión manual..
Supervisión de la agencia
La filtración revela planes de la Comisión Europea para crear una agencia, el Centro de Abuso Sexual Infantil (EUCSA) de la UE, para supervisar la política para 2029.
La EUCSA tendrá vínculos estrechos con la Agencia de Policía Europea, Europol, que proporcionará a la agencia de recursos humanos, TI, servicios de seguridad cibernética y acceso a expertos.
La EUCSA también desempeñará un papel clave en el desarrollo de tecnologías para detectar el material de abuso sexual infantil (CSAM), que estará disponible de forma gratuita a las empresas de tecnología.
Su papel será evaluar los informes de abuso de las compañías de servicios de Internet y comunicaciones generadas por algoritmos para evaluar si merecen una mayor investigación.
Los que lo hacen serán aprobados a Europol y las autoridades de aplicación de la ley en los Estados miembros para tomar medidas.
Verificación de edad
El proyecto de regulación requiere que los proveedores de servicios realicen una evaluación de riesgos e introduzcan tecnología y medidas operativas para reducir los riesgos del abuso infantil en línea.
Según documentos filtrados, esto incluye la introducción de tecnologías de verificación de edad y evaluación de edad para identificar a los niños utilizando servicios en línea.
Las tiendas de aplicaciones, que se encuentran en los teléfonos móviles y computadoras de escritorio Android y Apple, deberán examinar aplicaciones que podrían usarse para preparar y restringir su acceso a los niños.
Órdenes de detección
Los tribunales podrán cumplir con las órdenes de detección de las empresas tecnológicas, lo que les exige que introduzcan la tecnología de detección de abuso y otras salvaguardas donde existe un riesgo significativo de que se utilice un servicio para el abuso..
No se requerirá que los proveedores usen ninguna tecnología específica, pero tendrán derecho a instalar y operar tecnologías de detección disponibles por la EUCSA de forma gratuita.
Los Estados miembros de la UE tendrán nuevos poderes para llevar a cabo inspecciones en el sitio de compañías tecnológicas para garantizar que cumplan con la regulación planificada.También se puede requerir que los empleados de empresas tecnológicas revelen cualquier fallas.
Los tribunales podrán restringir temporalmente el acceso de los usuarios a cualquier servicio que no cumplan con la regulación.
Amenaza a cifrado de extremo a extremo
El acceso al grupo de campaña ahora escribió a Ylva Johansson esta semana instando a la Comisión Europea a no utilizar la regulación propuesta para socavar el cifrado de extremo a extremo (E2EE).
La carta sigue una preocupación generalizada de que el borrador de la regulación podría exigir efectivamente el escaneo del lado del cliente (CCS), una tecnología que escanea automáticamente el contenido de los mensajes de contenido ilegal antes de que estén encriptados.
“Al eludir E2EE, el escaneo del lado del cliente permite a terceros discernir el contenido de cualquier mensaje de texto o archivo de medios.Esto socava los derechos a la privacidad, la protección de datos, la seguridad y la libre expresión, y viola los derechos humanos ”, dijo la carta..
También infringiría el Consejo 2020 de la Resolución de la Unión Europea sobre el cifrado, que encontró que el cifrado juega un papel clave en la protección de las personas, la industria y el gobierno al garantizar la privacidad, la confidencialidad y la integridad de las comunicaciones y los datos personales.
La investigación ha demostrado que el escaneo del lado del cliente da como resultado falsos positivos, señalando erróneamente las comunicaciones de personas inocentes para el escrutinio por parte de la policía, dijo.
REJAGER, asesor de políticas del grupo de cabildeo holandés Bits for Freedom, escribió en una publicación de blog que las regulaciones propuestas requirieron el monitoreo masivo de las comunicaciones y eran incompatibles con la ley de la UE.
"Hacer cumplir que los proveedores de servicios de comunicaciones miran continuamente los hombros de sus usuarios es simplemente una" obligación de monitoreo general ".Eso es contrario a las reglas europeas y, tarde o temprano, los jueces europeos declararán tal ley inválida ”, dijo.
Medidas coercitivas
European Digital Rights (EDRI) dijo que la "regulación de la regulación propuesta para prevenir y combatir el abuso sexual infantil" incentivará a los proveedores de servicios a tomar las medidas más intrusivas posibles para evitar sanciones legales graves.
Ella Jakubowska, asesora de políticas de EDRI, dijo que las propuestas de la comisión inevitablemente conducirían a compañías tecnológicas que introducen tecnologías de escaneo del lado del cliente, lo que haría que los teléfonos móviles sean vulnerables a los ataques de actores maliciosos, o podrían incentivarlas a abandonar el cifrado completamente.
Una vez que CSS está en uso generalizado, los gobiernos represivos pueden poner a los proveedores de servicios bajo presión para ampliar los algoritmos CSS para identificar disidentes políticos, organizadores de protesta, denunciantes, periodistas y defensores de los derechos civiles.
"La Comisión Europea está abriendo la puerta a una amplia gama de tácticas de vigilancia autoritaria", dijo."Hoy, las empresas escanearán nuestros mensajes privados para obtener contenido de CSAM.Pero una vez que estos métodos están ahí afuera, ¿qué impide que los gobiernos obligen a las empresas a buscar evidencia de disidencia o oposición política mañana? "
Computer Weekly informó en octubre de 2021 que 14 de los principales científicos informáticos del mundo habían advertido que los planes de Apple para introducir escaneo del lado del cliente para detectar el abuso infantil en sus productos eran un fracaso completo, citando múltiples formas de que los estados, los actores maliciosos o los abusadores específicospodría cambiar la tecnología para causar daño a otros o a la sociedad.
“CSS no garantiza la prevención eficaz del delito ni previene la vigilancia.El efecto es lo contrario...CSS, por su naturaleza, crea serios riesgos de seguridad y privacidad para toda la sociedad ”, dijeron en un artículo científico publicado por la Universidad de Columbia.
Desde entonces, Apple ha pospuesto sus planes.
