Freedom of Speech in Digital Constitutionalism. Comparing the European and Brazilian Legal Systems.
Liberdade de expressão no constitucionalismo digital. Comparando os sistemas jurídicos europeu e brasileiro.
La liberté d'expression dans le constitutionnalisme numérique. Comparaison des systèmes juridiques européen et brésilien.
Luiz Henrique Diniz Araujo holds a degree in Law from the Federal University of Pernambuco (2000), a Master's degree in Law from the Federal University of Pernambuco (2013), a PhD in Law from the Federal University of Pernambuco (2016), a Sandwich Doctorate from the University of California, Berkeley (CAPES scholarship holder), and post-doctorates from the University of Paris I Panthéon-Sorbonne and the University of British Columbia (Canada). He is currently a federal prosecutor - Federal Attorney General's Office, Adjunct Professor of Constitutional Law at the Federal University of Pernambuco (UFPE), working mainly on the following topics: Constitutional Law and Procedural Law. Evaluator of the AGU Journal (Qualis B1), the Brazilian Journal of Law (Qualis A1) and the Brazilian Journal of Procedural Law - RBDPRO (Qualis B1). Leader of the Research Group Contemporary Themes in Constitutional Law. / Luiz Henrique Diniz Araujo é bacharel em Direito pela Universidade Federal de Pernambuco (2000), mestre em Direito pela Universidade Federal de Pernambuco (2013), doutor em Direito pela Universidade Federal de Pernambuco (2016), com doutorado sanduíche na Universidade da Califórnia em Berkeley (bolsista CAPES) e pós-doutorados na Universidade Paris I Panthéon-Sorbonne e na Universidade da Colúmbia Britânica (Canadá). Atualmente, é procurador federal - Procuradoria-Geral da República, professor adjunto de Direito Constitucional na Universidade Federal de Pernambuco (UFPE), atuando principalmente nos seguintes temas: Direito Constitucional e Direito Processual. Avaliador da Revista AGU (Qualis B1), da Revista Brasileira de Direito (Qualis A1) e da Revista Brasileira de Direito Processual - RBDPRO (Qualis B1). Responsável pelo grupo de pesquisa sobre temas contemporâneos do Direito Constitucional. / Luiz Henrique Diniz Araujo est titulaire d'une licence en droit de l'Université fédérale de Pernambuco (2000), d'une maîtrise en droit de l'Université fédérale de Pernambuco (2013), d'un doctorat en droit de l'Université fédérale de Pernambuco (2016), d'un doctorat sandwich de l'Université de Californie à Berkeley (boursier CAPES) et de post-doctorats à l'Université Paris I Panthéon-Sorbonne et à l'Université de Colombie-Britannique (Canada). Il est actuellement procureur fédéral - Bureau du Procureur général de la République, professeur adjoint de droit constitutionnel à l'Université fédérale de Pernambuco (UFPE) travaillant principalement sur les sujets suivants : droit constitutionnel et droit procédural. Évaluateur de la Revue AGU (Qualis B1), de la Revue brésilienne de droit (Qualis A1) et de la Revue brésilienne de droit procédural - RBDPRO (Qualis B1). Responsable du groupe de recherche sur les thèmes contemporains du droit constitutionnel.
Texto abaixo em português
Ci-dessous: texte en français
The internet has become a key platform for exercising freedom of speech, allowing billions to express ideas globally. However, digital platforms like Facebook, YouTube, Instagram, TikTok, and Twitter moderate content using opaque criteria, restricting and biasing access to information.
In such a contexto, big techs hold significant power, blending public authority with private systems, and govern online information. In 2023, Facebook's guidelines affected nearly 3 billion users, and YouTube governs content for about 2.5 billion people. Algorithms used by these platforms influence content moderation and search results, which are not neutral. Platforms can also ban users or posts, impacting freedom of expression.
Digital Constitutionalism aims to promote public values in the digital world, ensuring freedom of expression is subject to democratic values rather than private interests. Platforms must respect freedom of expression, and public authorities must protect public values and democracy.
International proposals like the Manila Principles and the IGF Dynamic Coalition aim to create self-governance models for content moderation. The Santa Clara Principles recommend transparency and accountability in content moderation, endorsed by major companies. However, self-regulation is insufficient; public powers must develop rules to enforce democratic control and respect fundamental rights.
EU Regulation and Digital Constitutionalism
The EU has updated its framework for online services, originally established by the e-Commerce Directive (2000), to allow democratic control over content moderation. The Directive exempts platforms from liability if they play a neutral, technical, and passive role towards hosted content.
Recent regulations include the Copyright Directive, AVMS Directive amendments, TERREG, GDPR, and the Digital Services Act (2022), all part of the Digital Single Market strategy. The EU Code of Conduct on Countering Illegal Hate Speech Online, launched in 2016, aims to prevent illegal hate speech through agreements with major platforms. By 2022, platforms like Instagram, Snapchat, TikTok, LinkedIn, Rakuten Viber, and Twitch joined the Code.
The 2022 Code of Practice on Disinformation involves major online platforms and various stakeholders, aiming to demonetize disinformation, ensure transparency in political advertising, empower users, enhance cooperation with fact-checkers, and provide researchers with better data access.
In 2019, the ECJ ruled in Eva Glawischnig-Piesczek v. Facebook Ireland Limited that service providers can be required to remove harmful content, respecting freedom of expression and national procedures. In Khadija Ismayilova v. Azerbaijan, the Strasbourg Court recognized states' responsibility to protect investigative journalists.
EU law is moving towards a Digital Constitutional System to protect freedom of speech in the digital environment, involving various pieces of legislation and decisions from the European Court of Justice and the European Court of Human Rights. Fundamental rights should have horizontal effects, applying constitutional norms to private actors, requiring positive state actions to protect human rights. Classical National Constitutionalism is insufficient in the global digital context. Transnational regimes can be constitutional subjects, regulating societal processes. The horizontal application of constitutional rights has been adopted in various countries, including Ireland, Canada, Germany, South Africa, and the EU. The ECJ has endorsed horizontal application in cases like Van Gend En Loos, Walrave, Bosman, and Deliege. The Strasbourg Court in Dink v. Turkey emphasized states' positive duty to protect freedom of speech against private actors.
Freedom of Speech and Digital Constitutionalism in Brazil
Brazil has made progress in regulating the digital environment, but gaps remain, such as accountability for fake news and disinformation. The Internet General Civil Act (Marco Civil da Internet – Lei n. 12.965/14) was enacted in 2014, establishing principles like freedom of expression, privacy protection, data protection, and internet neutrality.
The Liberty, Responsibility and Transparency in the Internet Act (Projeto de Lei 2.630/2020) is proposed to address third-party accountability for content, requiring social network providers to verify user authenticity and develop measures to detect fraud. Providers must ensure users' rights to access information and freedom of expression, with mechanisms for appeal and due process. Transparency reports detailing content moderation actions must be published quarterly.
Social media providers face penalties for non-compliance, including warnings and fines up to 10% of their revenue. They must maintain headquarters and legal representatives in Brazil and provide remote access to databases for judicial orders. In the judicial field, the Supreme Court is addressing key themes:
- Theme 987: Constitutionality of article 19 of the Marco Civil da Internet, requiring judicial orders for content removal.
- Theme 533: Constitutionality of the duty of internet providers to ban inappropriate content without judicial intervention.
- ADI 7261: Resolution 23.714/2022 of the Superior Electoral Court, addressing measures against disinformation in elections.
The Superior Electoral Court has signed agreements with platforms like WhatsApp, Twitter, TikTok, Kwai, Google, and Facebook to tackle disinformation in elections. The court also enacted Resolution 23.714, imposing fines for non-compliance in removing false information.
Justice Alexandre de Moraes, in Petition 12.404, addressed organized criminal activity threatening federal officers. Elon Musk's defiance of Brazilian court rulings led to the suspension of X Brasil Internet Ltda.'s operations in Brazil.
The Superior Court of Justice ruled that platforms can remove content violating the law or terms of use without a court order, promoting regulated self-regulation with judicial oversight.
It can be noticed that Brazilian law is progressing towards guaranteeing freedom of speech on digital platforms, aiming for an internet bill of rights to connect various initiatives and strengthen these rights.
Liberdade de Expressão no Constitucionalismo Digital. Comparando os Sistemas Jurídicos Europeu e Brasileiro.
A internet se tornou uma plataforma chave para o exercício da liberdade de expressão, permitindo que bilhões de pessoas expressem ideias globalmente. No entanto, plataformas digitais como Facebook, YouTube, Instagram, TikTok e Twitter moderam o conteúdo usando critérios opacos, restringindo e enviesando o acesso à informação. Nesse contexto, as grandes empresas de tecnologia detêm um poder significativo, misturando autoridade pública com sistemas privados, e governam a informação online.
Em 2023, as diretrizes do Facebook afetaram quase 3 bilhões de usuários, e o YouTube governa o conteúdo para cerca de 2,5 bilhões de pessoas. Os algoritmos usados por essas plataformas influenciam a moderação de conteúdo e os resultados de busca, que não são neutros. As plataformas também podem banir usuários ou postagens, impactando a liberdade de expressão.
O Constitucionalismo Digital visa a promover valores públicos no mundo digital, garantindo que a liberdade de expressão esteja sujeita a valores democráticos em vez de interesses privados. Assim, as plataformas devem respeitar a liberdade de expressão, e as autoridades públicas devem proteger os valores públicos e a democracia.
Propostas internacionais como os Princípios de Manila e a Coalizão Dinâmica do IGF visam criar modelos de autogovernança para a moderação de conteúdo. Os Princípios de Santa Clara recomendam transparência e responsabilidade na moderação de conteúdo, endossados por grandes empresas. No entanto, a autorregulação é insuficiente; os poderes públicos devem desenvolver regras para impor o controle democrático e respeitar os direitos fundamentais.
Regulamentação da UE e Constitucionalismo Digital A União
Europeia atualizou seu quadro para serviços online, originalmente estabelecido pela Diretiva de Comércio Eletrônico (2000), para permitir o controle democrático sobre a moderação de conteúdo. A Diretiva isenta as plataformas de responsabilidade se desempenharem um papel neutro, técnico e passivo em relação ao conteúdo hospedado.
Regulamentações recentes incluem a Diretiva de Direitos Autorais, emendas à Diretiva AVMS, TERREG, GDPR e a Lei de Serviços Digitais (2022), todas parte da estratégia do Mercado Único Digital. O Código de Conduta da UE sobre o Combate ao Discurso de Ódio Ilegal Online, lançado em 2016, visa prevenir o discurso de ódio ilegal por meio de acordos com grandes plataformas.
Em 2022, plataformas como Instagram, Snapchat, TikTok, LinkedIn, Rakuten Viber e Twitch aderiram ao Código. O Código de Prática sobre Desinformação de 2022 envolve grandes plataformas online e várias partes interessadas, visando desmonetizar a desinformação, garantir transparência na publicidade política, capacitar os usuários, melhorar a cooperação com verificadores de fatos e fornecer aos pesquisadores melhor acesso aos dados.
Em 2019, o Tribunal de Justiça da União Europeia decidiu no caso Eva Glawischnig-Piesczek v. Facebook Ireland Limited que os provedores de serviços podem ser obrigados a remover conteúdo prejudicial, respeitando a liberdade de expressão e os procedimentos nacionais. No caso Khadija Ismayilova v. Azerbaijão, o Tribunal de Estrasburgo reconheceu a responsabilidade dos estados em proteger jornalistas investigativos.
A legislação da UE está se movendo em direção a um Sistema Constitucional Digital para proteger a liberdade de expressão no ambiente digital, envolvendo várias peças legislativas e decisões do Tribunal de Justiça da União Europeia e do Tribunal Europeu dos Direitos Humanos. Os direitos fundamentais devem ter efeitos horizontais, aplicando normas constitucionais a atores privados, exigindo ações positivas do estado para proteger os direitos humanos. O Constitucionalismo Nacional Clássico é insuficiente no contexto digital global.
Regimes transnacionais podem ser sujeitos constitucionais, regulando processos sociais. A aplicação horizontal dos direitos constitucionais foi adotada em vários países, incluindo Irlanda, Canadá, Alemanha, África do Sul e a UE. O TJUE endossou a aplicação horizontal em casos como Van Gend En Loos, Walrave, Bosman e Deliege. O Tribunal de Estrasburgo, no caso Dink v. Turquia, enfatizou o dever positivo dos estados de proteger a liberdade de expressão contra atores privados.
Liberdade de Expressão e Constitucionalismo Digital no Brasil
O Brasil tem avançado na regulamentação do ambiente digital, mas ainda existem lacunas, como a responsabilidade por notícias falsas e desinformação. O Marco Civil da Internet (Lei n. 12.965/14) foi promulgado em 2014, estabelecendo princípios como liberdade de expressão, proteção da privacidade, proteção de dados e neutralidade da internet.
O Projeto de Lei 2.630/2020, conhecido como Lei de Liberdade, Responsabilidade e Transparência na Internet, é proposto para abordar a responsabilidade de terceiros pelo conteúdo, exigindo que os provedores de redes sociais verifiquem a autenticidade dos usuários e desenvolvam medidas para detectar fraudes.
Os provedores devem garantir os direitos dos usuários de acessar informações e liberdade de expressão, com mecanismos de apelação e devido processo. Relatórios de transparência detalhando as ações de moderação de conteúdo devem ser publicados trimestralmente. Os provedores de redes sociais enfrentam penalidades por não conformidade, incluindo advertências e multas de até 10% de sua receita. Eles devem manter sedes e representantes legais no Brasil e fornecer acesso remoto a bancos de dados para ordens judiciais.
No campo judicial, o Supremo Tribunal Federal está abordando temas chave: • Tema 987: Constitucionalidade do artigo 19 do Marco Civil da Internet, que exige ordens judiciais para remoção de conteúdo. • Tema 533: Constitucionalidade do dever dos provedores de internet de banir conteúdo inadequado sem intervenção judicial. • ADI 7261: Resolução 23.714/2022 do Tribunal Superior Eleitoral, abordando medidas contra desinformação nas eleições.
O Tribunal Superior Eleitoral assinou acordos com plataformas como WhatsApp, Twitter, TikTok, Kwai, Google e Facebook para combater a desinformação nas eleições. O Tribunal também promulgou a Resolução 23.714, impondo multas por não conformidade na remoção de informações falsas.
O ministro Alexandre de Moraes, na Petição 12.404, abordou a atividade criminosa organizada que ameaça agentes federais. A desobediência de Elon Musk às decisões judiciais brasileiras levou à suspensão das operações da X Brasil Internet Ltda. no Brasil.
O Superior Tribunal de Justiça decidiu que as plataformas podem remover conteúdo que viole a lei ou os termos de uso sem uma ordem judicial, promovendo a autorregulação regulada com supervisão judicial.
Pode-se notar que a legislação brasileira está progredindo para garantir a liberdade de expressão nas plataformas digitais, visando um projeto de lei de direitos na internet para conectar várias iniciativas e fortalecer esses direitos.
................................
La liberté d'expression dans le constitutionnalisme numérique.
Comparaison des systèmes juridiques européen et brésilien.
L'internet est devenu une plateforme clé pour exercer la liberté d'expression, permettant à des milliards de personnes d'exprimer leurs idées à l'échelle mondiale. Cependant, les plateformes numériques comme Facebook, YouTube, Instagram, TikTok et Twitter modèrent le contenu selon des critères opaques, restreignant et biaisant l'accès à l'information.
Dans ce contexte, les grandes entreprises technologiques détiennent un pouvoir considérable, mélangeant autorité publique et systèmes privés, et gouvernant l'information en ligne. En 2023, les directives de Facebook ont affecté près de 3 milliards d'utilisateurs, et YouTube régule le contenu d'environ 2,5 milliards de personnes. Les algorithmes utilisés par ces plateformes influencent la modération du contenu et les résultats de recherche, et ne sont pas neutres. Ces plateformes peuvent également interdire des utilisateurs ou des publications, impactant ainsi la liberté d'expression.
Le constitutionnalisme numérique vise à promouvoir des valeurs publiques dans le monde numérique, en veillant à ce que la liberté d'expression soit soumise à des principes démocratiques plutôt qu'à des intérêts privés. Les plateformes doivent respecter cette liberté, et les autorités publiques doivent protéger les valeurs publiques et la démocratie.
Des propositions internationales, comme les Principes de Manille et la Coalition dynamique de l'IGF, cherchent à établir des modèles d'autogouvernance pour la modération du contenu. Les Principes de Santa Clara recommandent la transparence et la responsabilité dans la modération du contenu, et sont soutenus par de grandes entreprises. Cependant, l'autorégulation reste insuffisante ; les pouvoirs publics doivent développer des règles pour garantir un contrôle démocratique et le respect des droits fondamentaux.
Régulation de l'UE et constitutionnalisme numérique
L'Union européenne a mis à jour son cadre réglementaire des services en ligne, initialement établi par la directive sur le commerce électronique (2000), afin de permettre un contrôle démocratique de la modération des contenus. Cette directive exonère les plateformes de responsabilité si elles jouent un rôle neutre, technique et passif vis-à-vis des contenus hébergés.
Les réglementations récentes incluent la directive sur le droit d’auteur, les amendements à la directive AVMS, le règlement TERREG, la RGPD et le Digital Services Act (2022), tous intégrés dans la stratégie du marché unique numérique. Le Code de conduite de l'UE sur la lutte contre les discours de haine en ligne, lancé en 2016, vise à prévenir ces discours illégaux grâce à des accords avec les grandes plateformes. En 2022, des plateformes comme Instagram, Snapchat, TikTok, LinkedIn, Rakuten Viber et Twitch ont rejoint ce code.
Le Code de bonnes pratiques sur la désinformation de 2022 implique les principales plateformes en ligne et divers acteurs pour lutter contre la désinformation. Il vise à démonétiser les fausses informations, assurer la transparence de la publicité politique, responsabiliser les utilisateurs, renforcer la coopération avec les vérificateurs de faits et fournir aux chercheurs un meilleur accès aux données.
En 2019, la Cour de justice de l'UE (CJUE) a statué dans l'affaire Eva Glawischnig-Piesczek c. Facebook Ireland Limited que les prestataires de services peuvent être tenus de supprimer du contenu nuisible, tout en respectant la liberté d'expression et les procédures nationales. Dans l'affaire Khadija Ismayilova c. Azerbaïdjan, la Cour de Strasbourg a reconnu la responsabilité des États dans la protection des journalistes d'investigation.
Le droit européen évolue vers un système constitutionnel numérique pour protéger la liberté d'expression en ligne, à travers divers textes législatifs et décisions de la CJUE et de la Cour européenne des droits de l’homme (CEDH). Les droits fondamentaux doivent avoir des effets horizontaux, appliquant les normes constitutionnelles aux acteurs privés et exigeant des actions positives de l’État pour protéger les droits humains.
Le constitutionnalisme national classique est insuffisant dans un contexte numérique globalisé. Des régimes transnationaux peuvent être des sujets constitutionnels, régulant les processus sociétaux. L'application horizontale des droits constitutionnels a été adoptée dans plusieurs pays, notamment en Irlande, au Canada, en Allemagne, en Afrique du Sud et dans l'UE. La CJUE a approuvé cette approche dans des affaires comme Van Gend En Loos, Walrave, Bosman et Deliege. La Cour de Strasbourg, dans Dink c. Turquie, a souligné le devoir positif des États de protéger la liberté d'expression contre les acteurs privés.
Liberté d'expression et constitutionnalisme numérique au Brésil
Le Brésil a progressé dans la réglementation du numérique, mais des lacunes subsistent, notamment sur la responsabilité en matière de fausses nouvelles et de désinformation. La loi sur le cadre civil de l'internet (Marco Civil da Internet – Loi n° 12.965/14), adoptée en 2014, établit des principes tels que la liberté d'expression, la protection de la vie privée, la protection des données et la neutralité du net.
Le projet de loi sur la liberté, la responsabilité et la transparence sur Internet (Projeto de Lei 2.630/2020) propose de renforcer la responsabilité des tiers en matière de contenu, en obligeant les fournisseurs de réseaux sociaux à vérifier l'authenticité des utilisateurs et à mettre en place des mesures de détection des fraudes. Les fournisseurs doivent garantir aux utilisateurs l'accès à l'information et à la liberté d'expression, avec des mécanismes d'appel et de respect du droit à une procédure équitable. Des rapports de transparence sur la modération des contenus doivent être publiés chaque trimestre.
Les fournisseurs de médias sociaux encourent des sanctions en cas de non-conformité, notamment des avertissements et des amendes pouvant aller jusqu'à 10 % de leur chiffre d'affaires. Ils doivent maintenir un siège social et des représentants légaux au Brésil et fournir un accès à distance aux bases de données pour les décisions judiciaires.
Sur le plan judiciaire, la Cour suprême brésilienne traite plusieurs questions clés :
- Thème 987 : Constitutionnalité de l'article 19 du Marco Civil da Internet, qui exige une ordonnance judiciaire pour le retrait de contenu.
- Thème 533 : Constitutionnalité de l'obligation des fournisseurs d'interdire les contenus inappropriés sans intervention judiciaire.
- ADI 7261 : Résolution 23.714/2022 du Tribunal supérieur électoral, abordant les mesures contre la désinformation électorale.
Le Tribunal supérieur électoral a signé des accords avec des plateformes comme WhatsApp, Twitter, TikTok, Kwai, Google et Facebook pour lutter contre la désinformation en période électorale. Il a également adopté la résolution 23.714, imposant des amendes en cas de non-suppression des fausses informations.
Le juge Alexandre de Moraes, dans la Pétition 12.404, a abordé l'activité criminelle organisée menaçant les fonctionnaires fédéraux. Le défi d'Elon Musk aux décisions judiciaires brésiliennes a conduit à la suspension des opérations de X Brasil Internet Ltda. dans le pays. Le Tribunal supérieur de justice a statué que les plateformes peuvent supprimer du contenu violant la loi ou leurs conditions d'utilisation sans ordonnance judiciaire, favorisant une autorégulation encadrée par une surveillance judiciaire.
On observe ainsi que la législation brésilienne progresse vers la garantie de la liberté d'expression sur les plateformes numériques, avec pour objectif d’établir une charte des droits numériques connectant diverses initiatives et renforçant ces droits.