Os provedores de serviços de Internet e as empresas de comunicação podem enfrentar multas de até 6% de sua rotatividade se não cumprirem as ordens judiciais que exigem que eles digitalizem eletronicamente comunicações e mídias sociais para identificar possível abuso infantil.
Um projeto de regulamentação que deve ser divulgado pela Comissão Europeia hoje exigirá que as empresas de tecnologia implantem algoritmos para identificar imagens de abuso infantil e tentativas de preparar os serviços de comunicação e mídia social.
As propostas levantaram preocupações de grupos da sociedade civil, alguns deputados e tecnólogos de que enfraquecerão os serviços de criptografia de ponta a ponta, como o WhatsApp e o sinal, minando os direitos de privacidade das pessoas inocentes.
O MEP e o ativista dos direitos civis Patrick Breyer descreveram o regulamento proposto como um passo em direção à vigilância do estado de estilo chinês."Com seus planos de quebrar a criptografia segura, a Comissão da UE está colocando a segurança geral de nossas comunicações privadas e redes públicas, segredos comerciais e segredos estaduais em risco de agradar desejos de vigilância de curto prazo", disse ele.
A ação voluntária falhou
Um rascunho vazado do regulamento, que deve ser publicado hoje pelo Comissário de Assuntos Internos Ylva Johansson, argumenta que, embora algumas empresas de tecnologia usem a tecnologia para detectar, relatar e remover o abuso infantil on -line, medidas voluntárias falharam em erradicar o problema.
"As medidas tomadas pelos provedores variam amplamente - com a grande maioria dos relatórios provenientes de um punhado de fornecedores - e um número significativo não toma ação", afirma o documento.
O projeto de regulamentação apresenta ordens de detecção direcionadas que exigirão legalmente as empresas de comunicações e mídias sociais para introduzir "tecnologia de detecção automatizada" para identificar possível abuso infantil ou arriscar multas pesadas.
Sob as propostas, as empresas de comunicação e mídia social podem ser ordenadas para instalar a tecnologia para comparar fotografias em seus serviços contra bancos de dados de imagens conhecidas de abuso infantil.
Eles também podem ser obrigados a implantar algoritmos que possam identificar imagens de abuso infantil anteriormente vistas e detectar possíveis tentativas de limpeza, digitalizando o conteúdo das comunicações pessoais.
O rascunho vazado Regulamento reconhece que a digitalização de e -mails ou mensagens de texto para detectar a higiene é altamente intrusiva.
Mas afirma que as tecnologias de detecção para a higiene atingiram um "alto grau de precisão", com a Microsoft reivindicando 88% de taxas de sucesso."A tecnologia usada não" entende "o conteúdo das comunicações, mas procura padrões conhecidos e pré-identificados que indicam potencial higiene", diz isso.
Quaisquer mensagens ou imagens que pareçam indicar abuso infantil serão relatadas para revisão manual, de acordo com a proposta.
Supervisão da agência
O vazamento revela planos da Comissão Europeia para criar uma agência, o Centro da UE sobre Abuso Sexual de Crianças (EUCSA), para supervisionar a política até 2029.
A Eucsa terá vínculos estreitos com a agência policial européia, a Europol, que fornecerá à agência RH, TI, serviços de segurança cibernética e acesso a especialistas.
A Eucsa também desempenhará um papel fundamental no desenvolvimento de tecnologias para detectar o material de abuso sexual infantil (CSAM), que será disponibilizado gratuitamente às empresas de tecnologia.
Sua função será avaliar relatórios de abuso de empresas de Internet e Serviços de Comunicações geradas por algoritmos para avaliar se merecem mais investigação.
Aqueles que o fazem serão passados para as autoridades da Europol e da aplicação da lei nos Estados -Membros para agir.
Verificação de idade
O projeto de regulamentação exige que os provedores de serviços realizem uma avaliação de risco e introduzam medidas de tecnologia e operacionais para reduzir os riscos de abuso infantil on -line.
De acordo com documentos vazados, isso inclui a introdução de tecnologias de verificação de idade e avaliação de idade para identificar crianças usando serviços online.
As lojas de aplicativos, que aparecem em telefones celulares e computadores de computadores de Android e Apple, serão obrigados.
Ordens de detecção
Os tribunais poderão servir ordens de detecção em empresas de tecnologia, exigindo que elas introduzam tecnologia de detecção de abuso e outras salvaguardas, onde há um risco significativo de um serviço usado para abuso.
Os provedores não precisarão usar nenhuma tecnologia específica, mas terão o direito de instalar e operar tecnologias de detecção disponibilizadas pela Eucsa gratuitamente.
Os Estados-Membros da UE terão novos poderes para realizar inspeções no local das empresas de tecnologia para garantir que estão cumprindo o regulamento planejado.Os funcionários de empresas de tecnologia também podem ser obrigados a divulgar quaisquer falhas.
Os tribunais poderão restringir temporariamente o acesso dos usuários a quaisquer serviços que não cumpram o regulamento.
Ameaça à criptografia de ponta a ponta
O Acesso ao Grupo de Campanha agora escreveu à YLVA Johansson esta semana pedindo à Comissão Europeia que não use o regulamento proposto para minar a criptografia de ponta a ponta (E2EE).
A carta segue uma preocupação generalizada de que o projeto de regulamentação possa efetivamente exigir a digitalização do lado do cliente (CCS), uma tecnologia que digitaliza automaticamente o conteúdo de mensagens em busca de conteúdo ilegal antes de serem criptografadas.
“Ao contornar o E2EE, a varredura do lado do cliente permite que terceiros discernem o conteúdo de qualquer mensagem de texto ou arquivo de mídia.Isso prejudica os direitos à privacidade, proteção de dados, segurança e liberdade de expressão e viola os direitos humanos ”, afirmou a carta.
Isso também violaria o Conselho de 2020 da Resolução da União Europeia sobre criptografia, que descobriu que a criptografia desempenha um papel fundamental na proteção de indivíduos, indústria e governo, garantindo a privacidade, confidencialidade e integridade das comunicações e dados pessoais.
Pesquisas mostraram que a varredura do lado do cliente resulta em falsos positivos, destacando erroneamente as comunicações de pessoas inocentes em busca de escrutínio por aplicação da lei, disse isso.
Reconce Zenger, consultor de políticas do grupo de lobby holandês Bits for Freedom, escreveu em um post de blog que os regulamentos propostos exigiam o monitoramento em massa das comunicações e eram incompatíveis com a lei da UE.
"A aplicação de que os prestadores de serviços de comunicação examinam continuamente os ombros de seus usuários é simplesmente uma 'obrigação geral de monitoramento'".Isso é contrário às regras européias e, mais cedo ou mais tarde, os juízes europeus declararão essa lei inválida ”, disse ele.
Medidas coercitivas
Os direitos digitais europeus (EDRI) disseram que a proposta de “regulamentação estabelecendo regras para prevenir e combater o abuso sexual infantil” incentivará os prestadores de serviços a tomar as medidas mais intrusivas possíveis para evitar penalidades legais graves.
Ella Jakubowska, consultora de políticas de Edri, disse que as propostas da Comissão levariam inevitavelmente as empresas de tecnologia a introduzir tecnologias de varredura do lado do cliente, o que tornaria os telefones celulares vulneráveis a ataques de atores maliciosos-ou podem incentivá-los a abandonar inteiramente a criptografia.
Depois que o CSS está em uso generalizado, os governos repressivos podem colocar os prestadores de serviços sob pressão para ampliar os algoritmos CSS para identificar dissidentes políticos, organizadores de protesto, denunciantes, jornalistas e defensores dos direitos civis.
"A Comissão Europeia está abrindo a porta para uma vasta gama de táticas de vigilância autoritária", disse ela.“Hoje, as empresas vão digitalizar nossas mensagens privadas para o conteúdo do CSAM.Mas uma vez que esses métodos estão por aí, o que está impedindo que os governos forçam as empresas a procurar evidências de dissidência ou oposição política amanhã? ”
A Computer Weekly relatou em outubro de 2021 que 14 dos principais cientistas da computação do mundo alertaram que os planos da Apple para introduzir a digitalização do lado do cliente para detectar abuso infantil em seus produtos eram um fracasso completo, citando várias maneiras que afirma, atores maliciosos ou abusadores direcionadospoderia mudar a tecnologia para causar danos a outras pessoas ou sociedade.
“O CSS não garante prevenção eficaz do crime nem evita a vigilância.O efeito é o oposto...O CSS, por sua natureza, cria sérios riscos de segurança e privacidade para toda a sociedade ”, disseram eles em um artigo científico publicado pela Columbia University.
A Apple adiou seus planos desde então.
